전래동화에서 나오는 요술 맷돌을 기억하시나요? 돌리기만 하면 돈이든 금이든 음식이든 원하는 것은 뭐든 만들어 냅니다.

AP연합

현실에도 비슷한 물건이 있습니다. 챗GPT로 잘 알려진 생성형 인공지능(AI)입니다. 명령어를 넣으면 그럴듯한 동영상이나 이미지, 그리고 기사까지 ‘뚝딱’ 만들어 냅니다. 적절한 음성과 얼굴 자료만 있으면 하지도 않은 말이나 욕설을 하는 동영상과 음성 파일을 만들 수도 있습니다.

올해는 미국 대선을 비롯해 러시아, 인도, 멕시코 등에서 선거가 열려 20억 명 이상이 투표소로 향할 예정입니다. 우리나라에서는 오는 4월 제22대 국회의원 선거가 열립니다. 짧으면 몇 초, 길어봐야 몇 분 만에 가짜 정보를 만들어낼 수 있는 정교한 AI 도구가 널리 퍼진 후 치러지는 첫 번째 선거인 셈입니다.

AP통신은 지난 26일(현지시간) 그럴듯한 허위 정보가 그 어느 때보다 더 판치는 선거를 치를 수 있다고 보도했습니다. 기사는 “대선 후보인 조 바이든 미국 대통령이 병원에 실려 가는 모습을 볼 수 있고, 어느 후보자가 실제로 한 적이 없는 말을 하는 것을 볼 수 있다”며 특히 ‘사악한’ 버전의 딥페이크 이미지가 투표를 며칠 앞두고 소셜미디어에 퍼질 경우 사람들이 쉽게 속을 수 있다고 합니다.

소설 같은 이야기일까요. 해당 보도의 의하면 첨단기술로 만들어진 가짜 뉴스는 이미 전 세계에 영향을 미치고 있습니다. 슬로바키아에서는 선거를 며칠 앞두고 자유주의 진영 후보가 맥주 가격 인상과 선거 조작 계획을 논의한 것처럼 꾸민 AI 생성 오디오 녹음이 사실인 양 퍼졌습니다.

이를 제어할 수 있는 온라인상의 안전장치는 미흡합니다. AI 기술이 가장 앞선 미국에서조차 관련 규제가 마련되지 않은 상태라고 AP는 전했습니다. 미 의회와 연방 선거관리위원회에서 정치인들이 AI 생성 기술을 규제하기 위한 조치를 모색하고 있지만, 아직은 어떤 규칙이나 법안도 확정된 게 없다고 합니다. 일부 주에서 딥페이크에 표시하거나, 후보자의 이미지를 허위로 표현하는 딥페이크를 금지하는 법을 통과시켰습니다. 법 위반 행위를 지속해서 적발해 낼 수 있을지는 미지수입니다.

소셜미디어 업체가 가짜 정보를 거르고 확산을 제재할 기술을 개발해야 하지만 이를 기대하기도 어려워 보입니다. 일론 머스크 테슬라 최고경영자는 2022년 10월 트위터(지금의 X)를 인수한 뒤 콘텐츠 감시 부서를 포함해 대규모 인력을 해고했고, 이전에 차단됐던 음모론자와 극단주의자들의 계정도 잇달아 복원했습니다. 메타와 유튜브도 최근 비용 절감 목적으로 인력을 줄이면서 콘텐츠 감시 업무 담당자 수가 전보다 적어진 것으로 알려졌습니다.

우리나라와 무관한 딴 세상 이야기일까요. 선거철이면 이른바 이른바 ‘댓글부대’를 조직해 가짜뉴스를 작성한 후 각종 커뮤니티에 퍼 나르는 일이 자주 벌어지는 한국입니다. 이번 선거를 앞두고는 댓글부대원이 생성형 AI를 활용해 그럴듯한 딥페이크 영상을 제작할 가능성도 있습니다.

전래동화에서 맷돌을 멈추는 방법을 몰랐던 도둑은 끊임없이 나오는 소금 때문에 바다에 빠져 죽었습니다. 유권자가 선거와 관련된 정보를 믿지 못하면 민주주의는 작동을 멈춥니다. 선거를 관리하는 당국은 생성형 AI가 제작한 딥페이크가 확산하지 않도록 대안을 마련해야 할 것 같습니다.