[해외보안뉴스] 40억 달러 가치의 에이전트형 AI 'Manus'에서 프롬프트 주입 취약점 발견
· 2026-09-27 07:00
· 조회 14
· 원문 ↗
최근 40억 달러의 기업 가치를 평가받으며 주목받은 에이전트형(Agentic) AI 애플리케이션 'Manus'에서 프롬프트 주입(Prompt Injection) 취약점이 발견되었습니다. 프롬프트 주입은 공격자가 조작한 외부 데이터나 웹페이지를 AI가 해석하는 과정에서, 악의적인 지시사항을 정상적인 명령으로 착각하여 실행하게 만드는 보안 위협입니다. 사용자 대신 자율적으로 판단하고 작업을 수행하는 에이전트형 AI의 특성상, 이러한 취약점은 심각한 보안 사고로 이어질 수 있습니다.
이번 취약점의 영향 범위는 Manus를 활용해 외부 웹 검색, 데이터 추출, 자동화 워크플로우를 수행하는 모든 사용자 및 기업 환경에 미칩니다. 공격자는 악성 프롬프트가 숨겨진 웹페이지나 문서 등을 인터넷에 배치하는 것만으로 공격을 수행할 수 있습니다. AI가 해당 데이터를 읽어들이는 순간, 사용자의 시스템 권한을 남용해 내부 민감 데이터를 외부로 유출하거나 거부된 조작을 무단으로 실행하는 등 시스템 제어권을 침해당할 위험이 있습니다.
이러한 프롬프트 주입 공격에 대응하기 위해서는 외부 데이터를 처리하는 모든 AI 애플리케이션에 매우 엄격한 입력 검증 및 보안 필터링 체계를 구축해야 합니다. 개발사는 시스템 프롬프트와 외부 데이터 입력 간의 경계를 명확히 구분하고, AI가 수행할 수 있는 동작의 권한을 최소화(Principle of Least Privilege)해야 합니다. 또한, 주요 동작 수행 시 사용자의 승인을 거치는 'Human-in-the-loop' 방식을 도입하거나 격리된 샌드박스 환경에서 실행하도록 보안 정책을 강화해야 합니다.
에이전틱 AI에서 프롬프트 인젝션은 단순 텍스트 조작을 넘어 무단 API 호출이나 데이터 유출 등 실제 '행위(Action)'로 이어지므로 웹의 SQLi보다 위협적입니다.
외부 데이터를 수집하는 컨텍스트 레이어에 엄격한 새니타이징(Sanitization)과 데이터-명령어 격리 구조를 패치해야 합니다.
근본적으로는 에이전트가 사용하는 툴과 API에 '최소 권한 원칙(Least Privilege)'을 적용하는 제로 트러스트 기반의 아키텍처 재설계가 시급합니다.
에이전틱 AI는 단순 응답을 넘어 실제 작업 수행 권한을 가지므로, 외부 데이터 수집 과정에서 발생하는 간접 프롬프트 주입(Indirect Prompt Injection)의 파괴력이 매우 높습니다. 웹 스크래핑이나 문서 분석 채널을 통해 악성 지시어를 주입하면 권한 우회를 통한 데이터 유출이나 악의적인 API 실행으로 직결될 수 있습니다. 신뢰할 수 없는 외부 입력을 AI의 인스트럭션과 엄격히 격리하지 않는 한, 이러한 공격 벡터는 Agentic 시스템의 가장 치명적인 공격 표면(Attack Surface)으로 남을 것입니다.
자율적으로 과업을 수행하는 에이전틱 AI의 도입은 혁신적인 편의성을 제공하지만, 신뢰할 수 없는 외부 데이터에 의한 '프롬프트 인젝션' 위협을 극대화합니다. 이는 단순한 기술적 버그를 넘어 데이터 유출 및 연쇄적 시스템 침해로 이어질 수 있는 거버넌스 관점의 중대한 리스크입니다. 조직 내 외부 데이터를 참조하는 모든 AI 서비스에 대해 엄격한 입력 검증 필터와 최소 권한 원칙을 강제하는 보안 가드레일을 선제적으로 수립해야 합니다.