이제는 AI가 소설 쓰고, 그림도 그리고, 음악도 만드는 만능 AI시대가 왔습니다.

그런데 만일 우연의 일치로 AI가 만들어낸 생성물이 누군가의 저작권을 침해한다면 누구에게 책임을 물어야 할까요? 딥페이크나 딥보이스가 범죄에 악용되고 있습니다. 심지어 법정 증거물로 위·변조해 제출하면, 진위를 판별할 수 있을까요.

이전까지의 인공지능은 인간이 발명하거나 창작하기 위한 도구적 역할을 해왔습니다. 그러나 단순노동·반복형 기술을 대체할 것이라는 예상과는 달리 이제는 예술의 영역까지 뻗어가고 있습니다. 이제는 인공지능이 못하는 것이 없는 수준인데요. 인공지능이 빠른 속도로 발전하면서 그에 따른 부작용도 함께 생기고 있습니다. 당장 떠오르는 ‘일자리 감소’ 문제 뿐만 아니라, 딥페이크와 딥보이스를 이용한 범죄도 일어나고 있습니다.

2016년 한국고용정보원이 공개한 인공지능·로봇이 대체할 가능성이 높은 직업과 낮은 직업 순위 목록. 그래픽=김동균 인턴

지난해 우크라이나 젤렌스키 대통령이 항복을 선언하는 딥페이크 영상이 SNS를 통해 송출돼 논란이 일었는데요. 일반인이나 연예인의 얼굴을 음란물 동영상에 합성해 사회적 문제를 야기하기도 합니다.

미국 시스템반도체 기업 ‘엔디비아’에서 신경물리학 기반 AI 기술을 시뮬레이션하고 있다. 사진=NVIDIA Developer 유튜브 캡쳐

미국 시스템반도체 기업 ‘엔디비아’에서 최근 업데이트한 기술을 보면, 이제는 머리카락 한 올까지 그래픽으로 묘사하는 것이 가능해졌습니다. 또 마이크로소프트는 단 3초의 목소리만 있으면 그 사람의 감정 톤이나 녹음 환경까지 복제해 말하지도 않은 내용을 자연스럽게 생성할 수 있는 기술도 공개했습니다. 이제 보이스피싱 전화 속에 내 가족의 목소리가 들려도 의심해야 할 시대가 올지도 모릅니다.

AI로 조작한 사진이나 영상, 녹취록을 법정에 제출할 증거물로 사용하면 조작 여부를 판별 할 수 있을까요? 국립과학수사연구원 관계자는 “딥보이스를 탐지하는 기술은 개발돼 거의 99%를 탐지할 수 있다. 사진이나 영상도 조작 알고리즘을 훈련시켜 위·변조 증거물을 탐지하는 방법이 개발돼 있다”고 설명했습니다. 또 이 관계자는 “새로운 수법이 나오면 대응이 어려울 수 있지만 계속적인 조사와 연구로 성능 개선을 위해 노력하고 있다”고 밝혔습니다.

AI 발전으로 생길 문제는 또 있습니다. 바로 저작권 문제인데요. 저작권과 관련해 짚어볼 부분은 크게 두 가지입니다.

첫 번째는 ‘AI COVER’입니다. 브루노마스가 부르는 하입보이, 마이클잭슨이 부르는 큐피트, 아리아나그란데가 부르는 디토까지. 언제 불렀는지도 모를 이 노래들, 들어보면 목소리도 너무 잘 어울리고 한국어 발음도 기가 막힙니다. 사실 이 노래들은 가수들이 직접 부른 것이 아니라, AI가 학습해 만든 이른바 AI COVER 영상입니다. 숨소리와 특유의 창법까지 표현돼 있는데요.

유튜브에 다양한 AI 커버 영상이 업로드돼 있다.

AI 커버를 접한 사람들은 대부분 “AI가 무섭기도 하지만 좋아하는 가수의 목소리로 새로운 노래를 들을 수 있어서 좋다”는 반응을 보였는데요. 반대로 걱정의 목소리를 내는 사람들도 있었습니다. 노래에는 저작권이라는 것이 있기 때문이죠. 원곡에 다른 가수의 목소리를 입히는 것은 어쨌든 저작권이 있는 노래를 재가공한 것이기 때문에 문제가 됩니다. 그렇다면 저작권 걱정 없이 내가 만든 노래에 유명인의 목소리를 입히는 건 가능할까요?

- 아래는 인터뷰 전문 -

[뭐라노 기자] 본인이 만든 노래에 유명인의 목소리를 입힐 경우에는 문제가 되지 않나요?

[한국저작권위원회] 본인이 만든 노래라면 저작권 문제는 없습니다. 목소리 같은 경우는 저작권상 보호 대상은 아니지만 부정경쟁방지법의 보호를 받을 수는 있습니다. 부정경쟁방지법 제2조 제1호를 보면 ‘국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 그 타인을 식별할 수 있는 표지를 공정한 상거래 관행이나 경쟁질서에 반하는 방법으로 자신의 영업을 위하여 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위’를 부정 경쟁 행위로 규정하고 있는데, 유명인의 목소리는 국내에 널리 인식되고 경제적 가치를 가진 목소리기 때문에 무단으로 사용한 경우에 손해배상 청구를 당할 수도 있습니다.

[뭐라노 기자] 그럼 유명인처럼 널리 인식되지 못하는 경우에는 보호받지 못하나요?

[한국저작권위원회] 아직까지는 (일반인이) 부정경쟁방지법 적용 대상이 되지 않지만 일반적으로 사람의 목소리라는 게 인격권의 보호 범위에 포함이 되기 때문에 일반 인격권 침해에 따른 손해배상을 할 수도 있습니다.

AI발전으로 우려되는 저작권 문제 두 번째는 ‘생성형AI’ 관련된 사항입니다.

생성형 AI를 이용해 ‘ultra realistic half cyborg half gorilla’라는 명령어로 만든 그림.

비교적 최근 미국 콜로라도 주립 미술대회에서 전세계를 떠들썩하게 만들었던 일이 있었습니다. 이 대회의 디지털 아트부문에서 우승을 차지한 ‘스페이스 오페라 극장’이라는 작품이 미드저니라는 생성형 AI 프로그램으로 만들어진 그림이었기 때문입니다.

미국 콜로라도 주 미술대회에서 디지털 아트 부문 우승을 차지한 생성형AI로 만든 ‘스페이스 오페라 극장’

생성형AI란 사용자의 요구에 맞춰 결과를 만들어내는 인공지능으로 ‘기존 데이터’를 기반으로 새로운 이미지 영상 음악 텍스트 등을 만들어내는 기술입니다. 생성된 그림에서 키워드를 수정하고 재조정하면서 더 높은 퀄리티를 만들어 내는 것도 가능합니다. 여기서 이 스페이스 오페라 극장은 ‘TEXT TO IMAGE’, 즉 텍스트를 이미지로 바꿔주는 기술을 이용했습니다.

AI로 만들어진 이 그림이 ‘작품’으로 인정받는 것은 옳지 않다는 사람들의 거센 반발이 있었지만, AI를 활용한 창작물 제출과 관련된 직접적인 지침이 없었어 수상 번복 없이 대회는 마무리 되었습니다.

우리는 한 번 생각해볼 필요가 있습니다. 아무리 그 그림을 생성하기 위해 여러 명령어를 입력하는 시도를 하고 최적의 명령어를 찾기 위한 고민을 했다고 하더라도, 100% 창작물이 아닌 방대한 데이터 학습 기반으로 만들어진 이 생성물을 저작물로 인정할 수 있을까요?

- 아래는 인터뷰 전문 -

[뭐라노 기자] 인공지능으로부터 만들어진 창작물에 대한 소유권이 누구한테 있다고 보면 될까요?

[한국저작권위원회]

저작권 같은 경우에는 인간의 사상과 감정을 표현한 창작물이라 아무래도 인간이 창조해야 하기 때문에 저작권법상 저작물로 현재는 보호받지 못하는 게 일반적인 내용이에요. 누구에게 권리가 지속이 될 것인가 그 부분에 대해서도 아마 추가적인 논의가 있어야 되지 않을까 싶습니다. 권리 귀속이라는 게 사실 쉽게 결정할 수가 없습니다. 누구에게 산출물에 대한 과실을 부여할 것인가에 대한 논제 때문에 산출물에 누가 기여를 했는가에 대한 부분을 좀 따져봐야 되는데 사실 좀 모호한 측면이 있긴 하죠. 왜냐하면 인공지능 개발자에게 줄 것이냐 개발자에게 줄 것이냐 아니면은 산출물을 내기 위한 정보값을 지시 명령을 한 이용자에게 권리를 줄 것이냐 모호한 부분이 있어요. 어쨌든 관련된 내용은 법제를 통해서 좀 명확하게 이루어져야 되지 않을까 싶습니다.

빠른 AI 발전 속도에 맞춰 권리보호 조치도 신속하게 이루어져야 하는 것은 맞습니다. 그러나 AI발전이 지금 이 순간에도 현재진행형인 개발 단계에 있기 때문에 섣불리 제정하기 어려운 실정도 이해는 갑니다.

결국 그 그림을 만들어 내기 위해 키워드를 입력하고, 사진을 선택하는 것은 인간이며 AI는 인간의 명령으로부터 ‘수동적’으로 작동합니다. 때문에 모든 발전을 자연스럽게 있는 그대로 받아들이기 보다는, 개발자와 이용자들도 사회적으로 생길 파장을 미리 고민해볼 필요가 있습니다. AI그림이라는 사실을 숨기고 그림을 판매하거나 특정 작가의 그림을 학습시켜 판매하는 등 기술이 오남용돼 예술의 가치를 훼손하는 일이 일어나지 않기를 바랍니다.

AI의 저작권 문제, 여러분의 생각은 어떠신가요? 국제신문 뉴스레터 뭐라노였습니다.