[국내보안뉴스] 서울시 행정망에 '실행형 AI 에이전트' 도입… 더존비즈온 'ONE AI PE' 공급
· 2026-10-02 17:00
· 조회 17
· 원문 ↗
더존비즈온이 서울특별시의 '행정지원 AI 에이전트 구축' 사업에 자사의 프라이빗 생성형 AI 플랫폼인 'ONE AI 프라이빗 에디션(PE)'을 공급합니다. 지난해 서울시 챗봇 2.0 구축에 이어 2년 연속 참여하는 이번 프로젝트는, 단순 질의응답 수준을 넘어 공무원이 자연어로 지시하면 AI가 내부 행정시스템에 직접 접속해 업무를 수행하고 결과를 제공하는 '실행형 에이전트' 체계를 구현하는 데 초점을 맞추고 있습니다.
이번 사업은 공공 행정 업무의 효율성을 대폭 끌어올리는 동시에 내부 데이터 보안을 대폭 강화한다는 점에서 의미가 큽니다. 외부 서비스형 AI가 아닌 온프레미스 형태의 '프라이빗 에디션'을 활용함으로써, 행정망 내부의 민감 정보와 행정 데이터가 외부로 유출될 위험을 근본적으로 차단한 격리된 자체 LLM 환경에서 안전하게 업무를 자동화할 수 있게 됩니다.
공공 분야의 AI 도입이 정보 제공 중심에서 '시스템 실행 및 연동' 단계로 진화함에 따라 AI 에이전트에 부여되는 권한과 보안 관리가 핵심 과제로 떠올랐습니다. AI가 행정 시스템에 직접 접근해 과업을 수행하는 만큼, 오작동을 방지하기 위한 정교한 접근 권한 제어와 모니터링 체계 수립이 지속적으로 병행되어야 할 것입니다.
♥ 추천 0
단순 질의응답을 넘어 실제 행정 시스템의 API를 호출하는 실행형 AI 에이전트인 만큼, 프롬프트 인젝션을 방지하는 가드레일과 엄격한 역할 기반 권한 제어(RBAC) 아키텍처가 핵심입니다. 에이전트가 사용자의 권한 범위를 이탈하지 않도록 API Gateway 단에서 세션과 토큰을 재검증하는 제로 트러스트 모델이 필수적으로 적용되어야 합니다. 또한, AI가 수행한 모든 DB CUD(생성·수정·삭제) 작업에 대해서는 감사 로그(Audit Log)와 연동된 트랜잭션 롤백 매커니즘을 구현해야 시스템 안정성을 확보할 수 있습니다.
자연어로 내부 행정 시스템을 직접 제어하는 '실행형 AI 에이전트'는 공격자 입장에서 매우 매력적인 타깃입니다. 외부 입력을 처리하는 과정에서 '간접 프롬프트 인젝션(Indirect Prompt Injection)'이 발생할 경우, AI의 권한을 도용해 무단으로 행정 명령을 실행하거나 내부 데이터를 유출하는 권한 상승 공격이 가능해집니다. 에이전트가 호출하는 API의 최소 권한 원칙 적용 여부와 사용자의 실제 권한을 제대로 위임받아 검증하는지 선제적인 침투 테스트가 필수적입니다.
AI가 단순 조회를 넘어 직접 시스템에 접속해 업무를 수행하는 '실행형 에이전트'로 진화함에 따라, 생산성 향상과 함께 권한 오남용 및 시스템 오작동에 따른 보안 리스크가 급증할 수밖에 없습니다.
프라이빗 에디션을 통해 데이터 외부 유출 위험을 차단한 점은 긍정적이나, 에이전트의 행위를 제어할 엄격한 최소 권한(Least Privilege) 정책과 실시간 감사 로그 체계가 반드시 수반되어야 합니다.
결국 에이전트 기반 AI 도입의 성패는 강력한 접근 제어와 인간의 최종 승인 절차(Human-in-the-Loop)를 포함한 '보안 거버넌스'를 얼마나 정교하게 설계하느냐에 달려 있습니다.