[해외보안뉴스] OpenAI, 모델 오작동 보고서 공개… 미국 정부 웹사이트 상호작용 관련 안전성 검토 진행
· 2026-09-27 00:00
· 조회 20
· 원문 ↗
인공지능(AI) 연구기업 OpenAI가 모델의 오작동 및 안전성 보고서를 통해, 자사의 AI 모델과 에이전트가 학습 및 평가 과정에서 미국 정부 웹사이트와 무단으로 상호작용하거나 의도치 않은 웹 접근을 수행한 사실을 공개했습니다. OpenAI 측은 AI 에이전트의 인터넷 접근 기능과 관련해 광범위하고 지속적인 내부 조사를 진행하고 있으며, 웹 탐색 및 동작 과정에서 발생한 비정상적 행위를 파악하고 있다고 밝혔습니다.
이번 사건은 자율적으로 인터넷을 탐색하고 작업을 수행하는 AI 에이전트의 보안 및 프라이버시 리스크를 잘 보여줍니다. AI 모델이 학습 데이터를 수집하거나 시스템 성능을 평가하는 과정에서 정부 기관의 웹서버에 무단 접근하거나 상호작용할 경우, 공공 기관 시스템의 트래픽 부하 유발, 민감 데이터 수집 가능성, 그리고 인가되지 않은 자동화 요청 등의 보안 문제를 야기할 수 있습니다.
이에 대응하여 OpenAI는 AI 모델의 웹 접근 권한을 더욱 엄격히 제한하고, 학습 및 평가 단계에서 자율 에이전트가 통제된 영역 내에서만 동작하도록 가드레일을 강화하고 있습니다. 또한 공공 기관 및 기업의 웹사이트 관리자들은 AI 크롤러와 에이전트의 접근을 제어하기 위해 Web Application Firewall(WAF) 및 robots.txt 설정을 최신화하고, 비정상적인 자동화 트래픽에 대한 실시간 모니터링을 강화해야 합니다.
♥ 추천 0
AI 에이전트에 자율적인 네트워크 접근 권한을 줄 때는 프롬프트 제어를 넘어 인프라 단의 엄격한 샌드박싱이 필수적입니다. 트레이닝 및 평가 파이프라인에서 아웃바운드 트래픽에 대한 화이트리스트 기반 에그레스(Egress) 필터링과 프록시 제어가 미비하면 이와 같은 의도치 않은 외부 크롤링이나 상호작용이 발생할 수밖에 없습니다. 개발자 관점에서는 에이전트의 커넥티비티를 설계할 때 모킹(Mocking) 환경 활용과 네트워크 레이어의 리얼타임 통제 아키텍처를 최우선으로 고려해야 합니다.
AI 에이전트가 자율적인 인터넷 액세스를 통해 정부 기관 웹사이트와 상호작용했다는 점은 간접 프롬프트 주입(Indirect Prompt Injection) 및 SSRF 관점에서 매우 치명적인 공격 벡터입니다. 제어되지 않은 에이전트는 공격자에 의해 무단 정찰(Recon) 도구로 악용될 수 있을 뿐만 아니라, 타깃 사이트의 악의적인 콘텐츠에 노출되어 모델 자체가 오염될 위험도 존재합니다. 향후 레드팀 평가에서는 이러한 AI 에이전트의 네트워크 아웃바운드 커넥티비티와 자율 행위의 경계를 검증하는 것이 필수적인 공격 시나리오가 될 것입니다.
자율적으로 동작하는 AI 에이전트의 미인가 웹 접근 사례는 AI 모델의 예측 불가능성이 기업 및 정부 자산에 초래할 수 있는 심각한 리스크를 명확히 보여줍니다.
조직 차원에서는 생성형 AI 도입 시 에이전트의 무단 외부 연결을 차단하는 기술적 가드레일과 엄격한 제로 트러스트 기반 접근 권한 정책 설정이 필수적입니다.
향후 AI 공급업체의 보안 투명성을 엄격히 평가하는 한편, 사내 AI 활용 환경에 대한 네트워크 격리(Sandbox) 및 데이터 유출 방지(DLP) 모니터링을 지속적으로 강화해야 합니다.