피의자가 올린 허위 영상물들. 연합뉴스

경찰관이 112 신고 현장에 출동해 보디캠으로 찍은 것처럼 보이는 AI 허위 영상물을 올린 유튜버가 구속됐다.

경기북북경찰청 사이버수사대는 2일 전기통신 기본법 위반 등 혐의로 30대 남성 A 씨를 구속했다고 밝혔다.

A 씨는 ‘순찰24시’라는 유튜브 채널을 운영하며 ‘ 여장남자 여성 탈의신 신고 출동’, ‘중국인 난동 체포 영상’ 등 마치 사건현장에서 경찰 보디캠으로 찍은 듯한 AI 영상을 올린 혐의를 받는다.

채널 소개 글에서 A 씨는 ‘실제 경찰과 무관하며 실화바탕 각색 AI’라고 표시했지만, 개별 영상에는 AI로 만든 가짜 영상이라는 알림이 없었고 AI 제작 영상을 표시하는 워터마크를 지우기도 했다.

이런 영상들이 유튜브뿐만 아니라 인스타그램, 틱톡, 페이스북 등에 짧은 영상 형태로 유포되면 총 3000만이 넘는 조회수를 기록했다.

해당 영상들이 공권력에 대한 국민적 신뢰를 훼손한다는 판단에 경찰은 A 씨를 입건해 구속했다.

영상들 대부분은 챗GPT나 그록 등으로 만들어졌다. 경찰은 “초반에 만든 영상은 상당히 어설펐지만, 시간이 지날수록 영상의 질이 향상됐다”고 전했다.

경찰은 A 씨가 무허가 사설 선물거래, 해외선물투자리딩방 등 운영 범죄에 가담해 피해자들의 관심을 끄는 속칭 ‘바람잡이’ 역할을 하고 돈을 받는 방식으로 3000만 원을 챙긴 혐의도 적발했다.

또 A 씨는 유료 구독형 사회관계망서비스(SNS) 채널을 운영하며 돈을 받고 AI로 만든 음란물을 제작해 팔기도 했다.