 |
| ▲ '행정·법률 특화 AI 검색 모델' 자체 개발 및 공개 배포 |
[뉴스앤톡] 경남 김해시가 전국 지방자치단체 가운데 처음으로 행정 문서와 법령에 특화된 인공지능(AI) 검색 모델을 자체 개발(파인 튜닝)하고, 누구나 무료로 쓸 수 있도록 공개 배포한다고 30일 밝혔다.
이번 모델은 한마디로 ‘행정 전용 검색 AI’다. 수많은 행정 문서와 복잡한 법령 속에서 공무원이나 시민이 찾는 정확한 답을 빠르게 짚어 준다.
폭넓은 상식을 두루 다루는 일반 AI와 달리, 이 모델은 행정과 법률만 집중적으로 공부한 전문가에 가깝다.
개발은 김해시 AI정책과 공무원들이 직접 맡았다.
먼저 고성능 그래픽처리장치(GPU) 서버를 자체 구축한 뒤, 성능이 검증된 다국어 AI 모델(BGE-M3)에 공개된 AI허브 데이터 셋을 통해 약 60만 건의 행정 문서 학습 데이터와 행정법 데이터를 집중적으로 학습시켰다.
이렇게 기존 AI에 특정 분야 지식을 추가로 가르쳐 전문가로 바꾸는 기술을 ‘파인튜닝(미세조정)’이라고 한다. 일반 의사가 특정 분야 전문의 과정을 따로 수료하는 것에 비유할 수 있다.
그 결과 실제 행정 업무와 법률 해석에서 높은 정확도를 갖춘 행정 특화 모델이 완성됐다.
이 모델은 두 단계로 답을 찾는다.
먼저 문서의 의미를 빠르게 훑어 관련 후보를 추려 내고(임베딩), 이어서 AI가 후보들을 한 번 더 꼼꼼히 대조해 가장 정확한 답을 맨 위로 끌어올린다(리랭커). 두 단계를 거치기 때문에 어렵고 방대한 법령·지침 속에서도 원하는 내용을 정확히 집어낸다.
보안도 강점이다.
이 모델은 외부 인터넷과 분리된 시청 내부망에서만 작동한다. 시민 개인정보와 대외비 문서가 외부로 나갈 일이 없고, 자체 서버에서 직접 돌리기 때문에 외부 유료 서비스에 매번 내야 하는 사용료 부담도 없다.
김해시는 여기서 그치지 않았다.
자체 개발한 이 모델을 세계 최대 AI 공유 플랫폼 ‘허깅페이스(Hugging Face)’에 공개 배포한다.
이를 통해 전국 240여 개 지자체를 비롯해 공공기관, 행정 AI를 연구하는 대학·연구소는 비용이나 보안 걱정 없이 김해시 모델을 곧바로 내려받아 활용할 수 있다.
한 지자체가 만든 결과물을 전국이 함께 쓰는 만큼, 같은 시스템을 따로따로 마련하지 않아도 돼 국가 전체의 예산을 아끼는 효과도 기대된다.
김해시는 앞으로 이 모델을 토대로 시민이 직접 체감할 수 있는 행정 특화 서비스를 단계적으로 선보일 계획이다.
신뢰할 수 있는 자료를 기반으로 답하는 방식(RAG)으로 AI가 사실이 아닌 내용을 그럴듯하게 지어내는 ‘환각’ 현상도 크게 줄여 민원 안내, 법령·지침 검색, 행정 상담 등 여러 분야에 적용해 그 효과가 시민에게 돌아가도록 하겠다는 구상이다.
김해시 관계자는 “이번 모델 개발과 무상 공개는 김해시가 기술을 단순히 사다 쓰는 데서 나아가 직접 만들어 나누는 단계로 올라섰다는 의미”라며 “앞으로 시민을 위한 맞춤형 AI 행정서비스를 꾸준히 발굴하고, 전국 공공기관과 함께 성장하는 디지털 환경을 만드는 데 앞장서겠다”고 말했다.
[ⓒ 뉴스앤톡. 무단전재-재배포 금지]
