내 목소리를 악용하는 딥보이스에 이제는 통화도 믿지 못하게 됐다. 딥보이스는 다양한 분야에서 활용되고 있으나 동시에 이를 악용한 범죄 사례가 잇따라 발생하고 있다. 딥보이스 악용 사례를 막기 위해 각 국가에서는 음성 워터마크 제도화 등 연구를 지속하고 있다.
 |
| 픽사베이 제공.
|
지난해 5월, 영상통화를 걸어온 사람이 지인이라 믿고 8억 원을 송금하는 사기 피해가 중국에서 발생했다. 피해자들은 모두 전혀 피싱이라고 의심하지 못했다고 한다. 하지만 딥보이스를 악용한 범죄 사례도 늘어나고 있으며 그 방법 또한 교묘해지고 있다. 2021년 아랍에미리트(UAE)의 한 은행은 딥보이스 피싱으로 인해 3500만 달러를 송금했다. 그 외에도 게임 ‘엘더스크롤5 스카이림’ 속 이용자가 성우 목소리를 추출해 노골적인 성적 묘사를 하는 음성 파일을 만들어 논란이 되기도 했다.
딥보이스는 ‘딥러닝(Deep Learning)’과 ‘목소리(Voice)’의 합성어이다. AI 기반 음성합성기술을 활용해 특정인의 목소리를 복제하는 기술을 의미한다. 특정인의 감정과 개성을 녹여낼 수 있어 다양한 분야에서 활용되고 있다.
딥보이스로 인한 피해가 늘자, 각국은 AI 기반 범죄 식별 기술인 ‘음성 워터마크’ 제도화를 추진하고 있다. 음성 워터마크는 음성의 음파를 분석해 실제 음성과 AI 생성 음성을 구별하는 기술이다. 일부 전문가는 기술적인 노력뿐만 아니라 제도와 교육이 함께 가야 한다”고 말했다. 또한 “정부도 딥페이크 연구 과제를 이슈가 발생했을 때 단발적으로 진행하기보다 끊임없이 해야 한다”며 AI 딥러닝과 관련한 지속적인 관심을 줘야 한다고 당부했다.
딥보이스 악용을 예방할 수 있는 다양한 방안이 온라인상에서 제시되고 있다. 딥보이스의 경우 받침이 많고 문장이 길어질수록 목소리가 약해지는 특성을 보인다. 또 질문에 대한 답변이 엉뚱한지도 확인해야 한다. 가족 간의 암호를 미리 만들어 두고 암호를 통해 서로 확인해 보는 방법도 있다. 또한 통화 음성을 복제하여 이를 보이스피싱에 활용할 수도 있기 때문에 모르는 번호로 전화가 오면 먼저 대답해서는 안 된다고 한다.
)
