국회 여성가족위원회 이인선 위원장이 지난 27일 오후 서울 여의도 국회 소통관에서 불법합성물인 딥페이크 유포 범죄 관련 기자회견을 하고 있다. 연합뉴스

생성형 AI(인공지능) 기술의 진화가 빠릅니다. AI는 생활에 많은 변화를 가져왔습니다. 다른 이미지를 만들거나 감쪽같이 합성하는 일은 쉽게 가능해졌습니다. 이런 일을 전문적으로 해주는 사이트도 생겼습니다.

AI 기술이 급속도로 발전하면서 악용하는 사례도 늘고 있습니다. 대표적인 게 딥페이크입니다. 타인의 일상 사진이나 영상 등 성적 불쾌감을 유발할 수 있는 형태로 합성·편집한 것을 의미합니다.

딥페이크 피해가 심각합니다. 4년간 딥페이크 피해지원 건수가 2000건을 넘어섰습니다. 여성가족부 산하 한국여성인권진흥원은 디지털성범죄피해자지원센터가 설치된 2018년 4월 이후 올해 지난 25일까지 피해 지원에 나선 건수가 2154건 이었다고 합니다.

2018년은 피해 지원이 69건이었는데 올해는 781건을 기록했다고 합니다. 4년 만에 11배 넘게 급증한 셈입니다. 특히 올해 피해 지원을 요청한 781명 가운데 288명(36.9%)은 미성년자였다고 합니다. 2022년에는 64명이 피해 지원을 요청했으나, 지난해는 124명을 기록했다고 합니다. 피해 지원을 요청한 미성년자가 불과 1년 만에 두 배 가까이 증가한 셈입니다. 올해는 지난 25일 기준 288명에 달합니다. 2년이 채 안 되는 기간에 피해 지원을 요청한 미성년자 수가 4.5배가량 증가한 것입니다.

센터는 삭제지원 특화 시스템인 ‘DNA 시스템’을 가동해 총력 대응에 나서고 있다고 합니다. 불법 촬영물과 딥페이크 탐지가 가능한 이 시스템은 검출률이 99%가 넘는다고 합니다. 하지만, 해외 대응에는 어려움이 있다고 합니다.

특히 ‘N번방 사건’과 이번 딥페이크 성범죄 영상의 주요 유포 경로가 된 텔레그램이 사각지대로 꼽히고 있습니다. 유포되는 불법 촬영물 범위도 파악하기 힘들뿐더러, 국내 기업이 아니라서 법적으로도 통제할 수 없는 탓입니다.

전문가들은 우리 사회가 디지털 성범죄에 대한 문제의식은 높아졌지만, 딥페이크에 대한 경각심은 여전히 부족하다고 입을 모읍니다. 제작·유포자에 대해 엄하게 처벌하고, 청소년을 대상으로 한 디지털 교육을 강화해야 한다고 지적합니다.

AI를 좋게 사용하면 도움이 되지만, 이를 악용하면 사회적 문제를 초래할 수 있습니다. 따라서 AI에게 딥페이크를 거부할 수 있는 윤리적 가이드라인을 하루속히 만들어야 합니다.