[해외보안뉴스] AI 에이전트의 내부 위협 부상과 마이크로소프트의 보안 대응 전략
· 2026-10-24 21:00
· 조회 6
· 원문 ↗
마이크로소프트(Microsoft)가 자율적으로 작동하는 AI 에이전트를 새로운 내부 위협(Insider Threat) 요소로 정의하고, 이들의 이상 행동을 감시 및 통제하기 위한 '프로젝트 퍼셉션(Project Perception)'을 추진하고 있습니다. 이 프로젝트는 시스템 내에서 작동하는 AI 에이전트의 모니터링 및 제어를 위해 '가디언 에이전트(Guardian Agents)'라는 별도의 감시용 AI를 도입하는 통합 보안 스택 개념을 기반으로 합니다.
AI 에이전트는 기업 내부 시스템과 데이터에 직접 접근하고 명령을 수행할 수 있는 권한을 가지므로, 자율적 오류나 악의적인 프롬프트 인젝션 공격 등에 노출될 경우 기존의 악성 내부자와 동일한 수준의 보안 사고를 일으킬 수 있습니다. 그러나 보안 전문가들은 예측 불가능한 AI 에이전트를 또 다른 AI 에이전트로 감시하는 방식이 위험을 완전히 해결하기보다는 오히려 보안 시스템의 복잡성을 가중시키고 새로운 공격 표면을 창출할 수 있다고 경고하고 있습니다.
이 이러한 신종 위협에 효과적으로 대응하기 위해서는 단순한 AI 감시 도구 도입에 그치지 않고, AI 에이전트에 대해 최소 권한 원칙(Least Privilege)을 엄격히 적용해야 합니다. 또한, Zero Trust 아키텍처를 바탕으로 핵심 의사결정 과정에는 인간이 개입하는 'Human-in-the-loop' 체계를 유지하고, 에이전트의 모든 활동에 대한 투명한 모니터링 및 감사 로그를 확보하는 다층적 보안 전략이 필요합니다.
비확정적(Non-deterministic)인 AI 에이전트를 또 다른 AI 에이전트로 감시하는 구조는 아키텍처의 복잡도만 높이고 예측 불가능한 사이드 이펙트를 키울 위험이 있습니다.
에이전트 보안의 핵심은 상위 모델 레이어의 감시보다, eBPF나 샌드박스 같은 OS/인프라 수준의 확정적(Deterministic) 격리 환경 구축에 있어야 합니다.
결국 제로 트러스트 관점에서 에이전트의 권한을 최소화(PoLP)하고, API 게이트웨이 단에서 실행 로직의 상한선을 코드 레벨로 엄격히 제한하는 기본 통제가 선행되어야 합니다.
AI 에이전트를 통제하기 위해 또 다른 에이전트를 도입하는 방식은 공격자에게 가장 매력적인 '최고 권한 타깃'을 스스로 제공하는 꼴입니다.
간접 프롬프트 인젝션이나 적대적 데이터 입력을 통해 Guardian 에이전트의 판단을 교란할 수 있다면, 단순 감시망 우회를 넘어 하위 에이전트 전체를 제어하는 정교한 권한 상승(Privilege Escalation) 벡터로 악용될 수 있습니다.
결국 결정론적(Deterministic) 통제 메커니즘 없이 에이전트로 에이전트를 막겠다는 것은 공격 표면을 줄이기는커녕, 단일 지점 무력화 시 시스템 전체가 뚫리는 도미노식 공격 경로를 만들어주는 위험한 접근입니다.
AI 에이전트의 통제를 위해 또 다른 AI를 도입하는 방식은 시스템의 복잡성과 리스크를 오히려 가중시킬 위험이 있습니다. CISO 관점에서 AI 에이전트는 강력한 권한을 가진 ‘내부 자산’이자 잠재적 ‘내부자 위협’으로 정의하고, 철저한 제로 트러스트(Zero Trust) 통제 정책을 적용해야 합니다. 기술적 대안에만 의존하기보다, 명확한 거버넌스와 인간의 개입(Human-in-the-Loop)을 포함한 책임성 있는 보안 정책 수립이 선행되어야 합니다.