- 900만 원으로 전국 최초 개발
- 민원인 상담 요약 등 본격 활용

공공기관의 AI 서비스 오남용 사례(국제신문 지난 5월 16일 자 6면 보도)가 늘면서 개인정보 유출 우려가 커지는 가운데 부산 사하구가 전국 최초로 ‘오픈소스 기반 생성 AI’를 자체 개발, 보안을 강화했다. ‘개발 덕후’ 4명이 모여 팀을 이룬 업무혁신계의 작품으로, 투입 비용은 900만 원에 불과하다.

사하구 기획실 업무혁신계 이아현 김명진 백승현 이수영(왼쪽부터 시계방향). 사하구 제공

사하구는 지난 4일 자체 개발한 AI 어시스턴트 시스템 ‘SahA.I.(사하아이)’를 시범운영한다고 6일 밝혔다. 구청 내 업무혁신계 직원들은 지난 4월부터 3개월간 사하아이 개발에 몰두했고, 한 달간 테스트를 거쳐 이번 달 서비스를 개시했다. 업무혁신계는 지난해 1월 직원들의 요청으로 업무혁신 TF팀으로 발족된 뒤 올해 정식 부서가 됐다. 부산지역 기초자치단체 중 AI를 직접 개발하는 유일한 부서이기도 하다. 현재 이수영 업무혁신계장을 중심으로 직원 3명(김명진 백승현 이아현)이 근무 중이다. 특히 김명진 씨는 대기업 경력 8년차 IT 개발자 출신이다.

사하아이가 서비스를 시작한 이후 직원들은 AI를 업무에 본격적으로 활용하기 시작했다. ▷ 문서 작성 ▷데이터 분석 ▷ 정보 검색 등 다양한 기능이 있는데, 별도의 설치나 로그인 절차 없이 사하구 직원이라면 웹브라우저로 접속해 무료로 이용할 수 있다. 서비스 도입으로 직원들의 업무 효율성은 크게 향상됐다. 보고서 작성도 AI를 이용하면 단시간에 끝낼 수 있다. 가령 민원 부서 직원이 민원인과의 대화가 길어져 내용이 방대하다면, AI 서비스로 요약해 그대로 보고서에 쓸 수 있다. 이 과정에서 민원인의 개인정보 유출 걱정도 덜었다. 챗GPT 등 생성형 AI는 검색 내용 모두 데이터로 보관돼 공공기관에서 사용하기에는 적합하지 않다는 의견이 많았는데, 사하아이는 모든 대화와 파일 데이터가 중앙 서버가 아닌 사용자PC에만 저장되기 때문에 외부 유출 우려가 없다. AI 학습 데이터 차단 기능을 적용, 보안 위협도 차단했다.

특히 개발 비용이 경제적이다. 막대한 연구 개발비가 투입돼 탄생한 여느 AI 서비스와 달리 사하아이는 서버 구축비 900만 원이면 충분했다. 국내 대기업이 만든 언어모델을 기반으로 만들었기 때문이다. 애초 오픈AI는 대부분의 모델이 폐쇄형 시스템으로, 사용자 수정이 불가능하며 기술적 기반정보도 제한적으로 공개했다. 하지만 최근 국내외 기업들이 하나둘 누구나 쓸 수 있는 오픈AI를 출시하면서 구는 이를 활용해 개발했다.

이 계장은 “AI 개발이 취미이자 특기인 직원들만 이 부서로 지원해 모였기 때문에 모두 자기 일처럼 열정적으로 하고 있다”고 말했다.