[국내보안뉴스] 공공 AI 콜센터 도입, 단순 효율화 넘어 투명성과 책임성 확보가 우선
· 2026-10-05 16:00
· 조회 17
· 원문 ↗
정부가 중앙 및 공공기관에 분산되어 있던 콜센터를 '110'으로 단일화하고, 오는 2030년까지 인공지능 기반 컨택센터(AICC)로 전환하는 사업을 본격적으로 추진하고 있습니다. 민간 통신사 및 금융권을 중심으로 가속화되던 AI 상담 체계가 공공 행정 영역으로까지 전면 확대되는 추세입니다.
그러나 공공 콜센터는 국민이 정부 및 공공기관과 소통하는 최전선 창구로서 민감한 행정 정보와 개인정보가 수집·처리되는 영역입니다. 만약 AI 상담 과정에서 잘못된 정보가 안내되거나 오작동이 발생할 경우, 단순 서비스 불만을 넘어 국민의 권리 침해와 국가 행정에 대한 신뢰도 하락으로 직결될 위험이 있습니다.
따라서 단순한 운영 비용 절감이나 업무 효율성만을 추구하기보다는 AI 답변의 정확성을 검증할 수 있는 투명한 운영 체계 마련이 시급합니다. 전문가들은 문제 발생 시 책임 소재를 분명히 하는 가이드라인을 수립하고, 데이터 유출 방지 및 AI 환각 현상 제어를 위한 철저한 보안·검증 프로세스를 선행 구축해야 한다고 조언합니다.
♥ 추천 0
공공 AICC 구축 시 단순 LLM 도입을 넘어 설명 가능한 AI(XAI)와 철저한 감사 로그(Audit Log) 아키텍처 설계가 최우선되어야 합니다. AI의 할루시네이션(환각)으로 인한 민원 피해를 막기 위해 주요 행정 안내에는 Human-in-the-Loop(상담사 개입) 파이프라인을 필수적으로 배치해야 합니다. 개발 단계부터 모든 프롬프트와 추론 결과를 추적 가능한 불변(Immutable) 데이터로 저장해야 시스템적 투명성과 책임성을 확보할 수 있습니다.
공공 콜센터의 AICC 통합은 공격자 입장에서 중앙 집중된 고가치 타깃(High-Value Target)이 생기는 것을 의미합니다. AI 모델이 내부 행정 데이터베이스와 연동될 경우 프롬프트 인젝션(Prompt Injection)이나 권한 우회를 통한 민감 정보 유출 및 시스템 조작 공격 벡터가 활짝 열리게 됩니다. 책임 소재와 정교한 감사 로그 체계가 마련되지 않는다면, AI를 악용한 교란 공격 발생 시 원인 규명과 즉각적인 블로킹이 불가능해질 수 있습니다.
공공 영역의 AI 도입은 단순한 업무 효율성 추구를 넘어 엄격한 AI 거버넌스와 데이터 보안이 전제되어야 합니다. 상담 과정에서 수집되는 민감 개인정보의 유출 리스크를 방지하고, AI의 오답이나 편향에 따른 책임 소재를 명확히 하는 정책적 안전장치가 시급합니다. 신뢰할 수 있는 투명성과 선제적 리스크 관리 체계가 뒷받침되지 않는 AI 전환은 거버넌스 측면에서 더 큰 법적·사회적 위협이 될 수 있음을 유의해야 합니다.