[해외보안뉴스] AI 기반 제로데이 연쇄 공격 및 모델 검사 RCE 등 최신 보안 위협 동향
최근 발표된 보안 동향 분석에 따르면, 공격자들은 AI를 활용한 제로데이 취약점 연쇄 공격, AI 모델 검사 시 발생하는 원격 코드 실행(RCE) 취약점, 그리고 약 54만 3천 개에 달하는 노출된 활성 시크릿(Secrets)을 악용하고 있는 것으로 나타났습니다. 특히 캐싱, 컴파일, 모델 검사 등 일상적이고 무해해 보이는 시스템 메커니즘을 복합적으로 조합하여 정교한 공격 통로로 전환하는 사례가 늘고 있습니다. AI 기술을 결합해 여러 제로데이 취약점을 정교하게 연결하는 공격 기법은 기존 보안 방어체계를 무력화하는 주요 위협으로 부상했습니다.
이러한 보안 위협은 AI 모델을 개발·배포하는 기업뿐만 아니라 클라우드 인프라 및 웹 서비스를 운영하는 조직 전반에 광범위한 영향을 미칩니다. 오픈소스 머신러닝 모델을 로드하거나 검사하는 과정에서 악의적인 코드가 실행되어 내부 시스템이 침해될 수 있으며, 공개 코드 저장소 등에 실수로 노출된 시크릿은 공격자가 수년 동안 내부망에 무단 접근하는 통로로 악용될 수 있습니다. 또한 웹 요청 캐시 처리나 빌드 과정에서의 설정 오류는 민감한 데이터 유출 및 권한 상승 위험을 초래합니다.
이러한 위협에 대응하기 위해 조직은 머신러닝 파이프라인 전반에 대한 보안 검증을 강화하고, 출처가 불분명한 AI 모델을 검사할 때 격리된 샌드박스 환경을 사용해야 합니다. 또한 자동화된 시크릿 스캐닝 도구를 도입하여 소스코드에 노출된 API 키, 패스워드 등 활성 인증 정보를 즉시 무효화하고 주기적으로 순환(Rotation)시키는 정책을 마련해야 합니다. 아울러 시스템의 일상적인 기능이라도 예상치 못한 동작이 발생하지 않도록 엄격한 입력값 검증과 최소 권한 원칙을 적용하는 것이 필수적입니다.
AI 모델을 단순 파라미터 파일이 아닌 '실행 가능한 코드'로 간주하고, 로드 및 인스펙션 단계를 샌드박스화하는 방어적 아키텍처가 시급합니다. 또한 편의성을 위해 구현된 캐싱이나 컴파일 로직이 의도치 않은 Side-effect를 일으키지 않는지 코드 리뷰 시 스코프를 엄격히 제한해야 합니다. 54만 개의 시크릿 유출 사례처럼 하드코딩된 자격 증명이 방치되지 않도록 CI/CD 내 자동 무효화(Auto-Revocation) 파이프라인 구축도 필수적입니다.
AI 모델 검사 과정의 RCE나 캐시 오염 사례처럼, 공격자는 굳이 화려한 제로데이를 쓰지 않고도 시스템이 '당연히 수행할 것'이라 신뢰하는 정상 기능의 허점을 노립니다. 특히 ML 파이프라인의 모델 검증 및 로딩 과정에 존재하는 역직렬화·검증 미흡은 단번에 내부망 권한을 획득할 수 있는 최적의 공격 벡터입니다. 방어자가 무심코 넘기는 기본 설정과 노출된 시크릿 키는 모의 침투 관점에서 가장 빠르고 치명적인 침투 경로가 됩니다.
AI 모델 검증 과정의 취약점과 대규모 시크릿 노출 사례는 정교한 신종 공격보다 시스템의 사소한 허점이 더 치명적인 리스크가 될 수 있음을 보여줍니다. 조직 차원에서는 신규 AI 기술 도입에 대한 보안성 검토 프로세스를 강화하고, 계정 및 시크릿 관리의 자동화 수준을 극대화해야 합니다. 시스템이 '의도된 동작'만을 수행하도록 가시성을 확보하고, 기본에 충실한 제로 트러스트 거버넌스를 철저히 유지하겠습니다.