[국내보안뉴스] 더존비즈온, 서울시 행정 혁신을 위한 프라이빗 AI 플랫폼 공급
· 2026-10-03 17:00
· 조회 22
· 원문 ↗
더존비즈온이 서울특별시의 ‘행정지원 AI 에이전트 구축’ 사업에 자사의 생성형 AI 플랫폼인 ‘원 AI 프라이빗 에디션(ONE AI PE)’을 공급합니다. 이번 사업을 통해 서울시는 문서 요약, 회의실 예약, 제안서 평가위원 선정 등 내부 행정 업무에 AI 에이전트를 도입하여 공공 업무의 자동화와 효율성을 한층 끌어올릴 계획입니다.
이번 도입은 민간의 생성형 AI 기술이 공공기관의 핵심 행정 시스템에 본격적으로 이식되는 중요한 사례입니다. குறிப்பாக 온프레미스 형태의 프라이빗 에디션 환경을 구성함으로써, 공공 데이터의 외부 유출 위험을 차단하고 행정 업무의 특수성에 최적화된 AI 환경을 구축한다는 점에서 향후 다른 지자체 및 공공기관의 AI 전환(AX) 가이드라인이 될 것으로 보입니다.
공공 부문에서 AI 에이전트 도입이 확대됨에 따라 체계적인 AI 보안 및 데이터 고립성 확보의 중요성이 더욱 커지고 있습니다. 공공기관이 AI 플랫폼을 도입할 때는 내부 민감 정보 유출 방지를 위한 권한 분리, AI 가스라이팅 및 환각 현상에 따른 잘못된 행정 판단 예방, 그리고 지속적인 보안 모니터링 체계를 함께 구축하는 대응 전략이 필수적입니다.
♥ 추천 0
공공 행정 망에 도입되는 만큼, 온프레미스 기반의 프라이빗 아키텍처 구축과 강력한 데이터 유출 방지(DLP) 가드레일 설계가 핵심입니다. 특히 '평가위원 선정' 같은 민감 업무는 LLM 툴 콜링(Tool Calling) 시 환각(Hallucination)을 막기 위한 결정론적(Deterministic) 검증 코드가 필수적입니다. AI 에이전트의 권한 오남용을 방지할 RBAC 패치와 레거시 API 연동 구간의 감사 로깅 체계가 철저히 반영되어야 할 것으로 보입니다.
제안서 평가위원 선정과 같이 이권이 걸린 민감한 행정 업무에 AI 에이전트가 도입되는 것은 공격자에게 매우 매력적인 새로운 공격 표적이 됩니다.
특히 입찰 제안서 문서 내에 악의적인 구문을 은닉하는 '간접 프롬프트 인젝션(Indirect Prompt Injection)'을 통해 AI의 판단 로직을 조작하거나 비공개 위원 명단을 유출하는 시도가 가능해집니다.
AI 에이전트가 백엔드 API 및 내부 DB와 연동되는 과정에서 발생할 수 있는 권한 오용과 데이터 유출 가능성에 대해 공격자 관점의 정밀한 레드팀 검증이 필수적입니다.
공공 부문의 AI 에이전트 도입은 업무 효율성을 크게 높일 수 있으나, 민감 행정 데이터와 개인정보가 활용되는 만큼 프라이빗(PE) 환경 구축을 통한 데이터 유출 차단이 전제되어야 합니다. 특히 제안서 평가위원 선정과 같은 의사결정형 업무 자동화는 결과의 공정성 검증과 더불어 강력한 접근 제어, 감사 로그 확보 등 엄격한 AI 거버넌스 체계 수립이 필수적입니다. 우리 조직 역시 AI 에이전트 도입 추진 시 서드파티 플랫폼에 대한 공급망 보안 평가(Vendor Risk) 및 데이터 내부 유입·유출 방지 정책을 선제적으로 정비할 필요가 있습니다.