[국내보안뉴스] 급증하는 AI 에이전트 도입, 옵저버빌리티 구축을 통한 비용 통제와 신뢰 확보가 시급하다
· 2026-10-21 06:00
· 조회 12
· 원문 ↗
시스코가 최근 발표한 ‘2026 스플렁크 옵저버빌리티 현황 보고서’에 따르면, 자율적으로 판단하고 업무를 수행하는 '에이전틱 AI(Agentic AI)' 도입이 가속화되면서 이를 효과적으로 통제하고 관리해야 하는 기업들의 고민이 깊어지고 있습니다. 전 세계 10개국의 IT 및 엔지니어링 전문가 2,050명을 대상으로 한 이번 조사에서는 AI 기술의 도입 속도에 비해 이를 실시간으로 모니터링하고 가시성을 확보하는 옵저버빌리티 역량이 부족한 것으로 나타났습니다.
이러한 관리 역량의 부재는 단순한 운영상의 불편을 넘어 심각한 기업 리스크로 이어질 수 있습니다. 조사 응답자의 83%가 AI 에이전트의 예측 불가능한 결과와 돌발 행동에 대해 우려를 표했습니다. 제어되지 않는 AI 에이전트의 작동은 무분별한 컴퓨팅 자원 소비로 이어져 예산을 초과하는 비용 폭증을 야기하며, 시스템 오작동이나 보안 허점을 발생시켜 기업 서비스의 신뢰도를 크게 떨어뜨릴 수 있습니다.
따라서 기업들은 AI 에이전트를 안정적으로 운용하기 위해 복잡한 AI 워크로드를 통합 모니터링할 수 있는 차세대 옵저버빌리티 체계를 조속히 마련해야 합니다. 실시간 추적을 통해 AI의 이상 행동과 자원 소모를 사전에 통제하고, AI 운영 프로세스의 투명성을 높임으로써 보안성과 예측 가능성을 동시에 확보하는 전략적 대응이 필요합니다.
♥ 추천 0
AI 에이전트의 자율성이 높아질수록 무한 루프나 토큰 사용량 폭발 같은 아키텍처 레벨의 예측 불가능성이 실질적인 리스크로 다가옵니다. 개발 단계부터 OpenTelemetry 등을 활용한 LLM 트레이싱 파이프라인을 구축해 에이전트의 추론과 툴 호출 과정을 투명하게 모니터링해야 합니다. 동시에 코드 단에 서킷 브레이커와 토큰 예산(Token Budget) 제한 로직 등 엄격한 가드레일을 주입해야 서비스 안정성과 비용 통제를 동시에 달성할 수 있습니다.
모니터링 체계가 미비한 에이전틱 AI는 공격자에게 탐지를 우회하기 위한 최적의 거점이자 새로운 공격 벡터입니다.
공격자는 에이전트에 부여된 권한을 악용해 간접 프롬프트 주입(Indirect Prompt Injection)을 시도하고, 이를 통해 탐지를 피하며 내부망 침투 및 권한 상승을 수행할 수 있습니다.
또한, 무한 루프나 과도한 API 호출을 유도해 기업에 재정적 타격을 입히는 'Denial of Wallet(재정적 거부)' 공격 관점에서도 매우 매력적인 악용 대상입니다.
에이전틱 AI의 자율성은 높은 생산성을 제공하지만, 가시성이 확보되지 않은 상태에서의 오작동은 심각한 보안 리스크와 예측 불가능한 비용 폭탄으로 이어질 수 있습니다. 조사 결과처럼 기술 채택 속도를 모니터링 역량이 따라가지 못하는 것은 조직의 거버넌스 공백을 의미합니다. 우리 조직은 AI 에이전트 도입에 앞서 실시간 옵저버빌리티 체계를 구축하고 통제 정책을 정비하여, 신뢰 기반의 선제적 AI 리스크 관리 환경을 조성해야 합니다.