[해외보안뉴스] 바이럴된 AI 배우 '틸리', 통화자 얼굴 스캔 및 실시간 감정 분석 논란
· 2026-09-19 18:00
· 조회 24
· 원문 ↗
최근 방송 프로그램 '피어스 모건 언센서드(Piers Morgan Uncensored)'에 출연해 중국어 오작동을 일으키며 바이럴된 AI 배우 틸리 노우드(Tilly Norwood)의 영상 통화 서비스 '토킹 틸리(Talking Tilly)'가 과도한 개인정보 수집으로 논란이 되고 있습니다. 해당 서비스는 18세 이상 성인 인증을 이유로 통화 연결 시 모든 사용자의 얼굴을 필수적으로 스캔하며, 대화가 진행되는 동안 사용자의 표정과 감정 상태를 실시간으로 관찰하고 추적하는 기능이 포함된 것으로 확인되었습니다.
이러한 행위는 해당 AI 서비스와 통화하는 모든 사용자에게 직접적인 영향을 미치며, 심각한 생체 정보 및 프라이버시 침해 문제를 야기합니다. 연령 확인을 빙자해 민감한 얼굴 스캔 데이터를 수집하고 사용자의 실시간 감정 변화까지 분석하는 것은 일반적인 대화형 AI의 범주를 벗어난 것으로, 이용 약관에 숨겨진 개인정보 수집 조항과 데이터 저장 및 활용에 대한 불투명성으로 인해 위험성이 높습니다.
논란이 이어지자 해당 AI 핫라인 서비스 측은 오는 9월 27일 서비스를 영구 종료하겠다고 밝혔습니다. 사용자들은 무분별한 AI 서비스 이용 시 웹캠이나 카메라 권한 요구에 주의해야 하며, 성인 인증 등의 명목으로 얼굴 스캔이나 생체 정보를 요구하는 서비스는 이용을 자제해야 합니다. 또한, AI 기반 앱을 사용하기 전 개인정보 처리방침과 세부 약관을 반드시 확인하는 보안 수칙을 준수해야 합니다.
♥ 추천 0
실시간 연령 인증과 감정 분석을 위해 생체 데이터를 수집하는 구조는 GDPR 등 규제 준수와 데이터 파이프라인 암호화 측면에서 매우 위험한 아키텍처입니다. 게다가 생방송 중 갑자기 언어가 바뀌는 결함은 프롬프트 가드레일(Guardrails)과 멀티모달 세션 관리가 미흡했음을 보여줍니다. AI 기반 실시간 서비스를 설계할 때는 화려한 기능보다 생체 정보의 엣지(Edge) 처리와 엄격한 예외 핸들링을 최우선으로 고려해야 합니다.
실시간 얼굴 스캔 및 감정 분석 시스템은 정교한 딥페이크 스푸핑을 이용한 연령 인증 우회뿐만 아니라, 입력값 검증 미흡을 노린 AI 프롬프트 인젝션 공격에 매우 취약한 구조입니다. 비디오 스트리밍 파이프라인에서 수집되는 민감 생체 정보가 안전하게 격리되지 않는다면, 공격자는 백엔드 취약점을 통해 이를 탈취하여 2차 사회공학적 공격이나 명의 도용에 악용할 수 있습니다. 특히 서비스 종료 시점을 앞두고 관리 사각지대에 놓일 데이터베이스는 인필트레이션(침투) 및 데이터 유출 공격의 핵심 표적이 될 것입니다.
실시간 생체 인식과 감정 분석이 결합된 AI 서비스는 심각한 프라이버시 침해와 법적 컴플라이언스 리스크를 유발합니다. 특히 단기 운영 후 종료되는 서비스 특성상 수집된 바이오메트릭 데이터의 사후 파기 및 관리 거버넌스가 매우 불투명합니다. 임직원들의 무단 AI 툴 사용(Shadow AI)으로 인한 기밀 및 개인정보 유출을 막기 위해 내부 보안 정책과 이용 통제를 즉시 강화해야 합니다.