챗GPT를 포함한 생성형 AI(Generative AI) 기술이 활성화되면서 필자는 기업을 운영하는 주변 지인들로부터 도움을 요청받는 경우가 생기게 되었다. 대부분 어떻게 하면 생성형 AI 기술이 회사 경영에 도움이 될 것인가 하는 것들이다. 그래서 현재 동일한 고민을 안고 있는 회사들의 해결 접근 방법을 정리해 보고자 한다.

많은 기업이 현재 생성형 AI의 능력을 활용하기 위해 데이터, 인력, 프로세스를 준비하며 필요한 일이 무엇인지 파악하는 데 분주하다. 그들은 최대한 신속하고 안전하게 직원들을 AI 기술로 무장시킬 방법에 대해 고민하고 있다. 생성형 AI 챗봇은 실제로 어느 직원이든 단 몇 초 만에 예산안과 고객 제안서, 심지어 광고 CM 송까지 만들어 내도록 돕는 기능을 갖추고 있다. 이를 제대로 사용하면 기업은 운영을 획기적으로 개선하고 마케팅 과정을 간소화하며, 고객 서비스를 강화해 조직이 경쟁 업체를 앞설 수 있다는 것을 인지하고 있다. 이를 위해 생성형 AI 계획을 세우고 있는 대부분 조직은 자체 데이터로 오픈AI의 GPT 4.0, 메타의 라마(LLaMA), 구글의 람다(LaMDA) 또는 아마존 타이탄(Titan) 시리즈 같은 서드파티 모델을 미세 조정하는 방법을 택하고 있다. 왜냐하면 이것은 처음부터 자체 파운데이션 모델을 구축하는 것보다 훨씬 빠르고 저렴하게 생성형 AI를 구현하는 방법이기 때문이다. 물론 기업이 할 수 있는 일과 그에 따른 위험 수준은 자체 기업 데이터 플랫폼의 상태에 달려있다. 귀중한 데이터를 다른 누군가가 구축한 생성 엔진에 넘길 때에는 무수히 많은 위험 요소가 발생할 수 있기 때문이다.

많은 기업들이 이러한 위험을 파악하게 되면서, 최근 거버넌스 문제가 생성형 AI 적용에 있어서 가장 큰 고민거리가 되고 있다. AIIA(인공지능 정보분석) 설문조사에 따르면 최근 기업들이 생성형 AI 도입 후 원하는 결과를 얻지 못한 이유가 거버넌스 부족과 함께 두 번째의 장애물인 비용으로 밝혀졌다. 인공지능으로 전환이 생각보다 오래 걸릴 때 그 비용을 기업이 감당할 수 있을지 고려해 보지 않고 적용을 시작했기 때문이다. 특히 생성형 AI는 워낙 새로운 기술이기 때문에 전환의 완료를 아무도 정확하게 예측할 수 없다. 또 다른 장애물로 생성형 AI가 환상의 결과를 가져다줄 것 같은 비현실적 기대치와 데이터 문제를 지적하고 있다. AIIA 설문조사에서도 사용 가능한 데이터의 부족 문제는 생성형 AI를 배포하는 기업의 84%에 중요한 과제였다. 이런 장애물들로 인해 생성형 AI 기술을 적용하려는 기업들은 시작 전에 다음과 같은 질문에 대한 답을 고려해도 늦지 않을 것 같다.

질문 1. 기업의 전반적인 준비 상황은 어떠한가? 생성형 AI를 도입하려면 일단 모든 기업이 탄탄하고 책임감 있는 AI 컴플라이언스 프로그램을 신속하게 마련해야 한다. 이런 준비가 되어 있는지?

질문 2. 생성형 AI를 운영하기 위해 무엇이 필요한가? 기존 프로세스를 뒤집고 새로운 기술을 활용하는 방식을 고안할 때면 ‘복잡성’이라는 문제를 마주하게 된다. 그럼에도 AI가 생성하는 가치가 회사에 유효한가?

질문 3. 목표를 설정하기 위해 어디에서 시작하고 어떻게 진행해야 할까? 기업 상당수는 생성형 AI로 ‘생산성’을 높이는 것을 목표로 삼을 것이다. 준비 단계로 파일럿 프로젝트로 일단 시작하여 가시적인 결과가 나오면 파일럿 팀의 실제 경험의 사례를 공유해야 한다.

생성형 AI 기술은 더 많은 산업에서 강력한 성장, 추가적인 민첩성, 뛰어난 탄력성을 달성하는 데 중요한 역할을 할 것이다. 액센츄어 조사에 따르면 전체 근로 시간 중 40%가 LLM(대규모 언어 모델)의영향을 받을 수 있다고 한다. 특히 IT와 기술 역할에서 근무 시간의 73%를 생성형 AI가 바꿔 놓을 수 있다고 한다. 기업이 이와 같은 환경변화를 인지하고 생성형 AI 기술을 도입하고자 할 때는 안전하고 책임감 있고 비용 효율적이며 실질적인 비즈니스 가치를 제공하는 방식으로 이 기술을 활용하고 이를 위한 기반을 만드는 것에 더욱 집중해야 할 필요가 있다.