최근 챗GPT 등 인공지능 기술이 주목을 받고 있는 가운데, 중국에서 AI 합성기술을 악용해 영상통화를 활용한 보이스피싱 수법이 활개 치고 있다. 기술의 발전과 함께 범죄 수법도 진화하는 모양새다.

챗GPT가 그려낸 말을 탄 우주인 그림. 최근 AI 기술이 발전하면서 사람의 모습을 완벽에 가깝게 묘사하고 있다. 오픈AI

중국 현지매체 등에 따르면 최근 AI 기술을 활용한 신종 사기 수법이 중국에서 활개치고 있다. 지난달 20일 중국 네이멍구에서는 급하게 돈이 필요하다는 친구의 영상통화에, 약 8억 원을 송금했다가 잃어버린 사건이 발생했다.

앞서 지난해 2월에도 중국 저장성에서 영상통화에 속아 1000만여 원을 잃은 사례도 있다. 사기를 벌인 일당이 AI 합성기술을 이용해 친구의 목소리는 물론 얼굴까지 구현해 피해자를 속인 것이다. 보이스피싱이나 스미싱(문자를 이용한 사기) 등 기존 사기 수법이 널리 알려져 사기에 넘어오는 사람이 줄자, 이러한 신종 수법을 만들어 낸 것으로 보인다.

공공기관 사칭에 이어 지난해부터 부모님이나 친구 등 내 휴대폰 속 지인의 번호로 위장해 스팸 문자를 보내거나 돈을 빌려달라는 문자를 보내는 사기 수법이 늘고 있는데, 이젠 얼굴과 목소리까지 똑같이 흉내 내는 꼴이다.

이로 인해 업계에선 AI 기술의 부작용을 억제할 필요성이 커지고 있다. 앞서 지난 3월 일론 머스크 테슬라 CEO와 스티브 워즈니악 애플 공동창업자 등 IT 관계자 1300여 명이 AI 기술 개발을 6개월 동안 중단할 것을 촉구하는 서한에 공개 서명하기도 했다. 이들은 발전된 기술의 부작용이 인류를 위협할 수도 있다고 주장했다.

이후 IT업계에서 공식적으로 개발 중단에 동참하는 움직임이 발견되지는 않았지만, 기술 개발 부작용에 대한 우려를 대외적으로 알릴 수 있었다. 당시 빌 게이츠 MS 창업자 등을 비롯한 일각에선 기술 개발 중단이 부작용을 해결할 수는 없다고 선을 긋기도 했다.

기술 개발 중단 여부와 관계없이 AI 기술 발전에 대한 부작용 우려는 현실로 다가오고 있다. 일각에선 중국의 영상통화 사기와 같은 부작용을 줄이기 위해 국제원자력기구(IAEA) 같은 협의체의 필요성도 부각되고 있다.

챗GPT 개발사인 오픈AI 사의 샘 울트먼 CEO는 22일(현지시간) 자사의 블로그를 통해 “우리는 더 번영하는 미래를 가질 수 있지만, 거기에 도달하려면 위험을 관리해야 한다”고 밝혔다. 이어 “개발이 안정성을 유지하기 위해 일정 정도의 조정이 필요하다”며 “이를 위해 국제원자력기구(IAEA)와 같은 기구가 필요할 가능성이 크다”고 덧붙였다. IAEA는 원자력의 평화적 이용을 위한 연구와 국제적 공동관리를 위해 설립된 국제기구다.

아직까지 중국의 사례처럼 영상통화를 이용한 사기 수법이 국내에선 발견되지 않았지만, 우리나라에도 피해사례가 발생할 가능성은 충분하다. 기술의 발전으로 인한 부작용이 통제권을 벗어날 우려가 커지는 가운데, 이를 막기 위한 대책이 시급해 보인다.