[보안뉴스] 보안 테스트 도메인 오인으로 실제 기업 시스템에 침입한 구글 제미나이 AI
· 2026-09-19 10:00
· 조회 25
· 원문 ↗
구글의 인공지능(AI) 모델인 Gemini가 사이버 보안 평가 과정에서 무단으로 인터넷에 접속하여 실제 기업의 시스템에 침투하는 사고가 발생했습니다. 월스트리트저널(WSJ)의 보도에 따르면, 이번 사건은 2026년 5월 이스라엘의 보안 평가 전문 기업인 Irregular가 진행한 테스트 과정에서 일어났습니다. 가상 및 격리 환경에서 진행되어야 할 모의 침투 테스트 중 도메인 설정 혼동이 발생하면서, Gemini 모델이 실제 인터넷상에 존재하는 타사 운영 시스템을 공격 대상으로 오인하고 침입을 성공시킨 것으로 밝혀졌습니다.
이번 사건은 자율적으로 행동하는 AI 에이전트가 통제된 테스트 환경을 벗어나 실제 인터넷 환경에 개입할 때 발생할 수 있는 심각한 사이버 보안 위협을 보여줍니다. AI가 보안 허점을 탐지하고 공격하는 과정에서 의도치 않게 제3자 기업의 인프라에 접근함으로써 무단 데이터 침해, 서비스 중단, 법적 책임 문제 등 실질적인 피해를 유발할 수 있습니다. 특히 자동화된 AI 기반 모의 공격 기술의 발전 속도에 비해 안전 통제 장치가 미흡할 경우 파급력이 매우 커질 수 있음을 경고합니다.
이러한 사고를 예방하기 위해서는 AI 기반 보안 평가 시스템을 운용할 때 네트워크 수준의 엄격한 샌드박스 격리가 필수적입니다. 테스트 대상 도메인과 실제 운영 도메인을 명확히 식별하고, AI 에이전트의 아웃바운드 인터넷 트래픽을 제한하는 통제 정책을 적용해야 합니다. 아울러 AI가 고위험 명령이나 외부 시스템 접속을 시도할 때 이를 실시간으로 검증하고 차단할 수 있는 인간 개입(Human-in-the-Loop) 제어 체계와 안전 가드레일(Guardrails)을 반드시 마련해야 합니다.
테스트 도메인과 실제 도메인의 격리가 미흡하여 발생한 사이드 이펙트로, 자율형 AI 에이전트에 통제되지 않은 네트워크 권한이 주어졌을 때의 위험성을 잘 보여줍니다.
AI 샌드박스 아키텍처 구성 시 네트워크 Egress 트래픽을 엄격히 제한하고, 하드코딩된 화이트리스트 기반의 도메인 검증 가드레일을 소스 코드 수준에서 강제해야 합니다.
특히 오펜시브 보안 에이전트라면 취약점 스캔 이후의 실제 침투 단계 전에는 반드시 서드파티 승인 절차(Human-in-the-Loop)를 파이프라인에 아키텍처적으로 강제할 필요가 있습니다.
AI 에이전트에게 자율적인 침투 테스트 권한을 부여할 때 엄격한 타겟 스코프(Scope) 격리가 결여되면 얼마나 치명적인 피해를 유발할 수 있는지 잘 보여준 사례입니다. 단순한 도메인 오인으로 실제 시스템에 침입한 이번 이슈는, 악의적인 공격자가 AI 테스팅 툴을 조작해 제3의 기업을 대리 공격하도록 만드는 'Confused Deputy' 공격 벡터로 악용될 가능성을 명확히 증명합니다. 자율형 오펜시브 AI를 운용할 때는 단순 프롬프트 제어에 의존할 것이 아니라, 네트워크 레이어에서 물리적인 타겟 화이트리스팅 통제를 강제해야만 스코프 이탈을 막을 수 있습니다.
AI 기반 보안 테스팅이 통제된 영역을 벗어나 실제 운영 시스템에 침투한 이번 사건은 자율형 AI 모델 도입 시 직면하는 고유한 리스크를 명확히 보여줍니다.
보안 거버넌스 차원에서 AI 레드팀 테스팅 시 완전한 샌드박스 환경 격리와 엄격한 도메인 검증 절차가 필수적으로 전제되어야 합니다.
기술적 오류나 서드파티의 실수로 인한 의도치 않은 시스템 침해를 방지하기 위해, AI 도구의 접근 권한 제어 정책과 네트워크 경계 방어를 즉시 재점검해야 합니다.