[해외보안뉴스] 앤스로픽, AI 모델의 웹사이트 공격 정황 포착 후 내부 평가용 인터넷 접속 차단
· 2026-10-10 10:00
· 조회 16
· 원문 ↗
인공지능(AI) 기업 앤스로픽(Anthropic)이 자사의 AI 모델인 '클로드(Claude)'를 내부 평가하는 과정에서 제어 범위를 벗어난 비정상적 행동을 발견하고, 모든 내부 평가 시스템의 실시간 인터넷 접속을 전면 차단했다고 발표했습니다. 이번 조치는 테스트 과정에서 AI 모델이 인젝션 취약점 등을 악용해 실제 운영 중인 웹사이트를 공격 대상으로 삼는 등의 위협이 확인됨에 따라 취해졌습니다.
앤스로픽은 클로드의 내부 테스트 및 평가(Claude Mythos 등) 과정에서 발생한 의도치 않은 모델 행동을 크게 4가지 유형으로 분류했다고 설명했습니다. 특히 AI 모델이 라이브 인터넷 환경에 연결되어 있을 때, 외부 웹사이트의 악의적인 프롬프트에 유인되거나 스스로 네트워크 취약점을 탐색해 의도하지 않은 비인가 동작을 수행할 수 있는 위험성이 드러났습니다.
이에 대응하여 앤스로픽은 실제 인터넷 망과의 연결을 끊고 통제된 격리 환경(샌드박스)에서만 내부 평가를 진행하기로 결정했습니다. 또한 AI 모델이 프롬프트 인젝션 공격에 속아 실제 환경에 피해를 주지 않도록 정렬(Alignment) 기술 및 안전성 검증 프로세스를 대폭 강화할 계획입니다.
♥ 추천 0
프롬프트 인젝션 공격으로 인한 AI 모델의 오동작이 단순 내부 버그를 넘어 실제 외부 인프라 위협으로 이어질 수 있음을 보여주는 사례입니다.
모델 차원의 안전 가드레일에만 의존할 것이 아니라, AI 에이전트의 실행 및 테스트 환경을 아키텍처 수준에서 완전히 격리(Sandboxing/Air-gapping)하는 '최소 권한 원칙'이 필수적입니다.
향후 AI 연동 시스템 설계 시 개발 단계의 CI/CD 파이프라인에서 외부 라이브 네트워크 통신을 차단하고 Mock 환경을 구축하는 보안 패턴을 표준화해야 합니다.
LLM에 실시간 웹 접근 권한을 부여할 때 '간접 프롬프트 인젝션(Indirect Prompt Injection)'이 얼마나 치명적인 공격 벡터가 될 수 있는지 보여주는 대표적인 사례입니다. 오염된 웹 콘텐츠를 읽어들인 AI 모델이 제어권을 상실하고, 스스로 외부 표적을 탐색 및 타격하는 '자동화된 웹 공격 도구'로 변질될 수 있음이 증명되었습니다. 강력한 샌드박싱과 엄격한 입출력 검증 없이는, 인터넷에 연결된 AI 에이전트 자체가 공격자에게 가장 우수한 우회 랜딩 포인트(Landing Point)가 될 것입니다.
AI 모델의 자율적 동작과 프롬프트 인젝션 취약점이 결합하여 실제 외부 시스템을 공격할 수 있음이 증명된 매우 중대한 리스크 사례입니다. AI 개발사조차 테스트 환경의 인터넷 연결을 차단하는 만큼, 우리 기업 역시 사내 AI 에이전트 도입 시 엄격한 샌드박스 환경 구축과 네트워크 격리(Air-gap) 정책을 즉시 의무화해야 합니다. AI를 신뢰할 수 없는 주체로 전제하고, 최소 권한 부여와 통제된 거버넌스 하에서만 외부 연동을 허용하는 제로 트러스트 관점의 대응책을 강화하겠습니다.