[국내보안뉴스] 내 업무를 돕던 AI 비서가 해커의 '내부 스파이'가 될 때

최근 생성형 AI 기술의 발전으로 이메일 작성, 일정 관리, 문서 수집 등 개인화된 업무를 수행하는 AI 비서 서비스의 활용이 급증하고 있습니다. AI 비서는 사용자의 업무 방식, 주요 거래처, 주요 대화 내용까지 깊이 있게 파악하고 있으며, 이메일과 드라이브 등 핵심 서비스와 연결되어 높은 권한을 부여받습니다. 하지만 이러한 편리함의 이면에는 AI 비서가 공격자에게 조작되어 사용자의 민감 정보와 기업 기밀을 유출하는 거점으로 전락할 수 있는 심각한 보안 리스크가 숨어있습니다.

만약 공격자가 악성 메일이나 오염된 문서에 숨겨진 명령어를 통해 '간접 프롬프트 주입(Indirect Prompt Injection)' 공격을 시도한다면, AI 비서는 사용자가 알지 못하는 사이에 해커의 지시를 수행하게 됩니다. 이 경우 비서가 사용자의 권한을 이용해 계약서나 회의 내용 같은 민감 자산을 외부로 유출하거나, 사용자의 이름으로 거짓 메시지를 발송하고 일정을 무단 변경하는 등의 심각한 남용이 발생할 수 있습니다. 이는 개인의 프라이버시 침해를 넘어 기업 전체의 신뢰도 실추와 법적·재무적 피해로 직결됩니다.

따라서 AI 비서를 안전하게 활용하기 위해서는 AI에게 부여하는 데이터 접근 권한을 최소화하는 '최소 권한의 원칙'을 엄격히 적용해야 합니다. 특히 데이터 외부 전송이나 메일 발송, 파일 삭제 등 파급력이 큰 작업에 대해서는 반드시 사람의 최종 승인을 거치는 '휴먼인더루프(Human-in-the-loop)' 프로세스를 마련해야 합니다. 아울러 기업 차원에서도 AI 비서의 연동 권한과 데이터 접근 이력을 실시간으로 모니터링하고 프롬프트 주입 방지 기술을 도입하는 등 제로 트러스트 관점의 보안 대책을 조속히 강구해야 합니다.