인공지능(AI) 기술이 빠른 속도로 성장하면서 관련 기술인 생성형 AI 기술 서비스도 동반 성장세를 보이고 있다. 이처럼 다양한 산업 분야에서 관련 기술을 활용한 시스템을 구축해 업무에 도입, 업무 자동화를 통해 효율성을 향상시키는 등 비즈니스 영역을 확장시켜 나아가고 있다. 이를 통해 생성형 AI 시스템이 주요 핵심 기술로 자리 잡을 것으로 보여진다. 한편, 서울시가 공무원의 반복 행정 업무를 생성형 AI로 대체하는 새로운 행정 지원 체계 ‘챗봇 2.0’ 사업에 들어간다.
올해 내부망에 자체 거대언어모델(LLM)을 도입, 일부 부서를 대상으로 시범 운영하고 내년부터는 내부 행정 시스템과 연계한 고도화 기능을 순차적으로 확대한다는 계획이다.
이번 ‘챗봇 2.0 사업’은 1세대 챗봇의 기술적 한계를 넘어 생성형 AI 기반의 유연하고 정교한 ‘AI 행정 지원 체계’로 전환한다는 점이 핵심이다.
‘챗봇 2.0 사업’은 기술적 측면에서 ‘서울시 자체 LLM’을 내부망에 직접 도입한다는 점이 가장 큰 특징이다.
이번 사업을 통해 민감한 공공데이터를 안전하게 처리할 수 있는 독립적 인프라를 바탕으로 행정 수요에 최적화된 실용적인 생성형 AI 서비스를 구축, 이를 통해 공공행정 전반의 AI 전환을 선도해 나간다는 방침이다.
‘챗봇 2.0’ 시스템이 본격 가동되면 문서 작성, 규정 조회, 질의응답 등 반복적이고 정형화된 업무를 AI가 대체하면서 행정 효율성과 속도가 획기적으로 향상될 것으로 기대된다.
LLM 내부 도입을 중심으로 단계적 확장 전략이 필요하다는 전문가 자문에 따라 오는 연말까지 시범 적용 이후, 내년부터는 행정 시스템 연계 LLM API와 AI 에이전트를 도입해 문서 자동화, 의사결정 지원 등 고도화된 기능으로 확대할 계획이다.
강옥현 서울시 디지털도시국장은 “챗봇 2.0 도입을 시작으로 공무원은 더 효율적으로 일하고, 시민은 더 빠르고 정확하게 응답받는 새로운 행정 서비스 시대가 열릴 것으로 기대된다”고 말했다.
그러면서, “공공행정 전반에 AI를 적극 활용하여 국내를 넘어 ‘글로벌 AI 행정도시’로 거듭날 것”이라고 덧붙였다.
