사람과 흡사한 외모에 유창한 언변까지 갖춘 인간형 로봇 ‘안드로이드(Android)’는 SF 영화의 단골 소재이다. 일본TV는 작년에 ‘아오이 에리카(A01 Erica, AI 01호기 : ERato Intelligent Conversational Android)’를 신입사원으로 채용했다고 밝혔다. 그녀는 일본 오사카, 교토대학교 연구진이 개발한 인공지능 안드로이드 로봇이다. 그리고 중국 관영매체 신화통신이 지난달 AI 아나운서 ‘신샤오멍’을 선보였다. 이들은 실제 아나운서의 목소리와 얼굴 데이터를 기반으로 탄생했다. 기준이 된 실제 모델은 있지만 이들은 기존에는 없던 뉴페이스다. 이들은 진짜 아나운서인가, 가짜 아나운서인가?
AI가 만들어낸 새로운 풍경으로 진짜와 가짜를 구분 짓기 힘든 시대가 되었다. 신샤오멍을 만들어낸 이 창의적인 기술은 GAN(Generative Adversarial Network), 즉 생성적 적대 신경망이다. GAN은 이름 그대로 뉴럴 네트워크를 이용한 생성 모델이다. 2014년 구글 브레인 소속의 이안 굿펠로우가 세계적인 머신러닝 학회 NIPS(Neural Information Processing Systems) 2014에서 최초로 발표했을 때부터 이미 대박의 낌새가 보였지만, ‘NIPS 2016’부터는 관심이 폭발적으로 증가했다. 새로운 아이디어를 사용한 논문이 쏟아지고 재미있는 관련 애플리케이션이 속속 나오고 있다. 지난해 미국 매사추세츠 공과대학이 매년 발표하는 ‘MIT 테크놀로지 리뷰’에서는 10대 혁신기술 중 하나로 선정되기도 했다.
GAN 기술은 ‘진짜와 같은 가짜㈜’를 만들어 내는 것을 목적으로 한다. GAN이 가장 많이 쓰이는 곳은 이미지 생성과 합성, 컴퓨터 비전 등의 분야다. 2017년 엔비디아가 발표한 ‘고갱(GauGAN)’ 또한 이미지를 만드는 GAN이다. 엔비디아는 자사 그래픽처리장치(GPU)에 GAN을 최적화해 20만 명의 유명인의 사진을 컴퓨터가 학습하게 만든 뒤에 실제로 존재하지 않는 사람들의 사진을 무한대로 생성해낼 수 있다는 것을 보여줬다. 일반인들은 컴퓨터가 무작위로 생성해낸 사람들이 실존하는 인물인지 가상인지 거의 판단하지 못했다. 고갱은 화가 폴 고갱의 이름에서 따왔다. 사용자가 한 낙서도 폴 고갱의 그림처럼 바꿔주기 때문이다.
그리고 지난 4월, 미국 유명 온라인 매체 버즈피드(BuzzFeed)에 한 영상이 올라왔다. 오바마 전 대통령이 성조기 앞에서 차분하게 연설을 한다. 그런데 표현이 심상치 않다. “President Trump is a total and complete dipshit.” 아무리 그래도 후임자인데, ‘쓸모 없는 사람’이라니? 이 영상은 사실 가짜였다. 버즈피드와 조든 필 감독(영화 ‘겟아웃’)이 공동 작업한 딥페이크다. 딥페이크는 딥러닝과 페이크의 합성어로, AI를 이용해 인물 이미지를 영상에 합성하는 GAN 기술이다. GAN은 범죄의 유혹에 노출되어있기도 하다. 유명인들의 가짜 포르노 합성물 등 자극적인 가짜 영상, 가짜 뉴스를 감쪽같이 만들어 낼 수 있기 때문이다. 얼마 전 AP통신은 딥페이크 기술의 위험성을 깊이 있게 다뤘다. 온라인에 소스코드가 공개돼 누구나 제작 가능한 점도 우려를 낳는다. 2016년 미국 대선후보였던 마르코 루비오는 딥페이크를 ‘핵무기’라고 비유하기도 했다.
전문가들은 AI를 이용한 범죄를 우려하지만, AI 활용과 관련된 국제적 기준과 규범은 이제 막 논의 단계에 있다. 마이크로소프트는 2017년 자사의 AI 연구 인력을 위한 ‘AI 디자인 원칙’과 ‘AI 윤리 디자인 가이드’를 소개했다. AI가 효율성을 극대화하되 인류를 위협하지 않고 인류 발전에 기여해야 하며 투명성을 갖추고 기술이 신뢰에 기반해야 한다는 내용을 담고 있다. 국내 기업 중에는 카카오가 ‘알고리즘 윤리 헌장’을 2018년 1월 발표했다. 국내에서는 딥페이크를 이용한 음란 영상 제작과 배포는 불법이다. 유명인의 사진을 합성하는 경우 초상권 침해에 해당한다. AI의 악용과 관련된 직접적인 법안은 마련돼 있지 않다. 진짜 같은 가짜가 빠르게 등장하는 시대에 우리의 의지를 가동해 역기능을 막는 발 빠른 대처가 필요한 시점이다.
동의대 부총장·컴퓨터공학과 교수
)
