“여보세요, 여보세요. 왜 말을 안 하지? 누구세요, 전화를 했으면 말을 하세요.” 누군가 내게 전화를 걸어왔는데 아무 말도 안 하는 경우가 있다. 이때 상대방 목소리가 들리기도 전에 내가 먼저 전화기에 대고 말을 한 적은 없는가. 앞으로는 모르는 사람의 전화가 걸려와 아무 말을 안 한다면 내 목소리를 상대방에게 먼저 들려주지 않는 게 좋을 것 같다. 딥 보이스(deep voice) 때문이다. 이 기술은 딥러닝을 기반으로 목소리를 합성하거나 변환하는 것을 말한다. AI(인공지능)가 진화를 거듭해 특정인의 목소리를 합성하는 기술도 급속도로 발전했다. 이제는 목소리 합성 기술이 범죄에 악용될 우려마저 제기되고 있다.
최근 커뮤니티나 SNS에서 딥 보이스를 우려하는 게시물이 곧잘 올라온다. 요즘 딥페이크 문제가 심각하다 보니 딥 보이스를 대수롭지 않게 여기거나 간과되고 있다. 하지만, 커뮤니티나 SNS에서 많은 유저들이 우려하는 일이 실제로 일어날 수도 있다. 녹음한 목소리 샘플이 있다면 AI로 얼마든지 학습이 가능하기 때문이다. AI가 그 사람의 특성을 학습한 뒤 사용자가 특정 텍스트를 넣으면 그 사람이 원하는 목소리로 손쉽게 만들어 준다. 전화로 통화한 사람의 목소리 샘플이 있다면 그 사람의 음성을 다른 뜻으로 얼마든지 구현해낼 수 있다.
AI 기술의 진화는 누구나 손쉽게 이미지나 음성을 합성할 수 있게 했다. 가령 우리나라 역사 속 인물들의 모습이나 목소리를 생생하게 구현해 낼 수 있다. 이렇게 AI기술을 선하게 사용한다면 사회에 많은 유익을 가져다 줄수 있다. 문제는 악용이다. 이런 사람들로 말미암아 AI 도구의 부작용과 위험성도 나날이 커지고 있다. 최근 사회 문제가 되고 있는 불법 딥페이크는 앞으로 일어날 AI로 인한 부작용과 위험성의 빙산의 일각일지도 모른다. 사실 예전에는 이미지 합성 자체가 쉽지 않았다. 그래픽 도구를 활용해 합성을 해도 조잡하고 쉽게 알아볼 수 있었다. 최근의 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 딥페이크 제작은 예전에 비해 훨씬 쉬워졌고 합성 기술은 보다 정교해졌다. 해외 메신저를 통해 그들만이 음밀하게 공유하면서 불법 딥페이크는 추적도 어렵고 단속도 쉽지 않다.
딥 보이스도 언젠가는 딥페이크만큼 큰 사회적 문제가 될 수도 있다. 누군가 내 목소리를 얼마든지 악용할 수 있기 때문이다. 요즘 커뮤니티나 SNS 상에서 유저들이 우려하는 피해 사례는 아직 알려지지 않았거나 잘 드러나지 않았지만 보이스피싱보다 더 클 수도 있다. 앞으로는 내 목소리도 조심해야 할 시대가 찾아올 것 같다. 커뮤니티나 SNS 유저들이 우려하는 피해는 충분히 현실에서 일어날 수 있다.
최근 미국의 한 음악가는 AI를 이용해 곡을 많이 만들어 스트리밍 하는 수법으로 막대한 수익을 올렸다가 체포됐다. 이처럼 AI를 엉뚱한 방향으로 사용하는 일은 비일비재하다. 특히, 저작권은 아직 사회적 이슈가 되지 않았지만 언젠가는 문제가 불거질 시한폭탄과 같은 존재다. 생성형 AI가 학습을 통해 내놓는 답은 어딘가에서 자료를 가져와 이를 가공한 것이다. 이를 아무렇지도 않게 마치 자신이 알아서 만든 것처럼 프롬프트에 제시한다. 누군가가 힘들게 만든 콘텐츠인데도 출처 표기나 정당한 보상도 없이 가져다가 쓰곤 한다. 전국의 언론 유관단체들이 AI저작권을 문제 삼는 이유도 여기에 있다.
챗 GPT를 운영하는 오픈AI는 어려운 문제들에 대해 기존 AI보다 훨씬 더 잘 판단하는 ‘스트로베리’(Strawberry) AI를 선보일 것이라고 한다. 이 새 AI는 현재 챗봇들이 제대로 못하는 수학 문제들을 풀 수 있고 프로그래밍을 포함해 문제점들을 해결하도록 훈련됐다고 한다. 제품 마케팅 전략 같은 보다 주관적인 주제들에 대한 질문에도 대응할 수 있다고 알려지고 있다. 이 기술이 상용화되면 상당한 파급효과가 생길 것이다. 그만큼 이를 악용하는 사례도 늘어나고 더 지능화 될 것이다. 그때가 되면 부작용을 제어하기 힘들 지도 모른다.
AI의 진화는 동전의 앞뒤와 같다. AI를 어떻게 쓰느냐에 따라 긍정과 부정의 효과를 낳을 수 있다. 부작용이 크다고 해서 기술의 진화를 막을 수는 없다. 따라서 부작용이 커지기 전에 악용 사례를 막을 방안을 찾아야 한다. 사회적 합의를 통한 자정 방향을 찾고 빠른 시일 내에 제도적 장치를 마련해야 한다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실도 바꾸자. AI에게 태생적으로 윤리의식을 심어주거나 가이드라인을 만들고 적용하게 하자. 윤리나 자정능력이 없이 성능 향상에만 주력하는 AI가 발을 붙이지 못하도록 하자. 브레이크 없는 AI의 무한 진화, 섬뜩하지 않은가.
장세훈 디지털 부문장
)
