[해외보안뉴스] AI 에이전트 대상 사회공학 기법: 2026년형 비즈니스 이메일 침해(BEC)의 등장
· 2026-10-11 00:00
· 조회 18
· 원문 ↗
인공지능(AI) 에이전트가 기업 내부 시스템과 업무 프로세스에서 정교한 판단과 직접적인 권한을 부여받아 활용되는 사례가 급증함에 따라, 사이버 공격자들의 표적 역시 인간 임직원에서 AI 에이전트로 이동하고 있습니다. 과거 공격자들이 임직원을 속여 자금을 이체하거나 정보를 갈취하던 비즈니스 이메일 침해(BEC) 방식과 유사하게, 이제는 AI 에이전트를 속여 승인되지 않은 비즈니스 명령을 수행하도록 유도하는 사회공학적 기법이 핵심 위협으로 부상하고 있습니다.
이러한 위협은 AI 기반 자동화 시스템을 금융 처리, 데이터 관리, 공급망 운영 등에 적극적으로 도입하는 기업에 광범위한 영향을 미칠 수 있습니다. 공격자가 교묘하게 설계된 프롬프트 주입(Prompt Injection)이나 맥락 조작 기법을 통해 AI 에이전트의 판단을 왜곡할 경우, 인간의 개입 없이도 불법 자금 송금, 기밀 데이터 유출, 시스템 설정 임의 변경 등 심각한 물리적·재정적 피해가 발생할 수 있습니다.
이에 대응하기 위해 기업은 AI 에이전트에 필요한 최소한의 권한만 부여하는 '최소 권한 원칙'을 엄격히 적용해야 합니다. 또한, 자금 이체나 권한 변경과 같은 중요 비즈니스 프로세스에는 반드시 인간이 최종 승인하는 'HITL(Human-in-the-Loop)' 구조를 유지해야 하며, AI 에이전트로 입력되는 데이터와 수행하는 행위를 실시간으로 모니터링하고 검증하는 전용 보안 솔루션을 구축하는 것이 필수적입니다.
♥ 추천 0
AI 에이전트에 자율적 실행 권한을 부여할수록 간접 프롬프트 인젝션을 통한 권한 오남용 위험이 커지므로, 이제는 AI의 출력값 역시 ‘신뢰할 수 없는 입력(Untrusted Input)’으로 취급해야 합니다.
에이전트 단에서 단순 프롬프트 가드레일에 의존하기보다는, 중요 API 호출이나 결제 로직 이전 단계에 최소 권한 원칙(PoLP)과 Human-in-the-Loop(인간 개입 승인)을 강제하는 하드코딩된 검증 레이어가 필수적입니다.
결국 프롬프트 영역의 보안이 아닌, AI가 호출하는 backend 시스템의 제로 트러스트 아키텍처 재설계가 핵심 대응책이 될 것입니다.
AI 에이전트에 자산 접근 및 실행 권한이 부여되는 순간, 간접 프롬프트 인젝션(Indirect Prompt Injection)은 기존 BEC를 대체할 가장 치명적인 공격 벡터가 됩니다. 인간 특유의 비판적 의심 단계가 없는 AI는 데이터 오염이나 컨텍스트 조작만으로도 승인 절차를 손쉽게 우회하도록 만들 수 있습니다. 공격자 입장에서는 복잡한 대인 사회공학 기법 없이도 대규모로 자동화된 시스템 침해를 달성할 수 있는 매우 매력적인 악용 포인트입니다.
AI 에이전트의 권한 확대는 업무 효율성을 높이지만, 기존에 인간을 겨냥하던 사회공학적 공격이 AI 자체를 직접 조작하는 새로운 리스크로 진화했음을 보여줍니다. 조직 관점에서는 AI 에이전트에게도 '최소 권한 원칙(Least Privilege)'을 엄격히 적용하고, 중요 비즈니스 의사결정에는 인간이 개입하는 'Human-in-the-Loop' 거버넌스를 즉시 수립해야 합니다. 기술 도입 속도에 맞추어 AI의 행동을 모니터링하고 검증할 수 있는 제로 트러스트 기반의 보안 정책 재정비가 시급합니다.