[국내보안뉴스] 금융보안원, 금융권 'AI 에이전트' 자율 실행 단계까지 검증하는 보안 평가기준 제정
· 2026-10-07 00:00
· 조회 17
· 원문 ↗
금융보안원이 금융권 내 AI 에이전트 도입 확산에 발맞추어, AI의 자율적인 판단과 업무 실행 과정 전반을 점검할 수 있는 「금융분야 AI 에이전트 보안 평가기준」을 개발했습니다. 기존 생성형 AI가 단순 답변을 제공하는 수준에 그쳤다면, 최근 도입되는 AI 에이전트는 목표 달성을 위해 스스로 계획을 수립하고 내부 시스템 및 외부 도구와 연동하여 실제 금융 업무를 직접 수행하는 수준으로 진화했습니다.
이러한 기술적 변화는 금융 서비스의 효율성을 극대화하지만, 보안 측면에서는 새로운 위험 요인을 제공합니다. AI가 권한을 넘어선 시스템 접근을 시도하거나 프롬프트 주입(Prompt Injection) 등의 공격으로 인해 오작동을 일으킬 경우, 금융 데이터의 유출뿐만 아니라 무단 금융 거래 실행과 같은 심각한 보안 사고로 이어질 위험이 있습니다.
따라서 금융회사들은 이번 보안 평가기준을 바탕으로 AI 모델 자체의 안전성뿐만 아니라 실제 업무를 조작하는 '실행 단계'에서의 제어 권한과 시스템 통제 체계를 철저히 점검해야 합니다. 도구 활용 권한 최소화, 자율 실행 범위에 대한 지속적인 모니터링, 행위 검증 절차를 선제적으로 적용함으로써 안전하게 AI 에이전트를 도입하고 시스템적 보안 위협에 대응할 필요가 있습니다.
♥ 추천 0
AI 에이전트의 Tool Calling 기능이 확대될수록 프롬프트 인젝션을 통한 비인가 API 호출이나 권한 상승 위험이 시스템 전체로 번질 수 있습니다. 모델 가드레일 제어만으로는 한계가 있으므로, 에이전트가 연동하는 백엔드 API 단에서 '최소 권한 원칙'을 적용하고 금융 결제/송금 등 중요 실행 단계엔 Human-in-the-Loop(HITL) 승인 절차를 아키텍처 수준에서 강제해야 합니다. 결국 프롬프트 엔지니어링 단계의 보안보다 백엔드의 엄격한 스키마 검증과 에이전트 행동 트레이싱(Tracing) 로그 구축이 실질적인 방어선이 될 것입니다.
AI 에이전트가 내부 도구를 직접 호출하는 구조는 공격자 입장에서 프롬프트 인젝션만으로 시스템 권한을 획득할 수 있는 최적의 '권한 승계' 공격 통로입니다. 모델 자체의 환각 현상보다 에이전트에 부여된 실행 권한을 악용해 간접 프롬프트 인젝션(Indirect Prompt Injection)으로 부정 금융 거래를 유도하거나 데이터베이스를 조회하는 공격 방식이 위협적일 것입니다. 따라서 실행 단계의 최소 권한 원칙 적용과 샌드박싱에 대한 정밀 검증은 필수적이며, 향후 에이전트의 통제 로직을 우회하는 신종 유효 공격 벡터에 대한 레드팀 관점의 침투 테스트가 강화되어야 합니다.
AI 에이전트의 자율적 판단과 '실행 권한'은 비즈니스 혁신을 가져오지만, 동시에 권한 오남용과 시스템 오작동이라는 새로운 위협 유발점을 의미합니다. 이제 단순한 데이터 유입·유출 통제를 넘어 AI의 실제 행위와 권한을 실시간으로 감시하고 통제할 내부 거버넌스 재정비가 시급합니다. 금융보안원의 평가기준을 신속히 반영하여, AI 에이전트에 대한 최소 권한 부여 및 실행 단계별 감사(Audit) 체계를 강화하겠습니다.