‘사람임을 증명하라.’ 생성형 AI 시대가 열리면서 요즘 뜻하지 않은 새로운 역설적 현상이 생겼다. 그전까지는 사람임을 증명하라면 무슨 뚱딴지같은 소리냐고 의아해했다. 하지만 AI가 사람이 하는 일을 척척해내면서 이젠 내가 AI가 아니라 사람이란 사실을 보다 간편하고 안전하게 증명하는 기술을 개발해야 하는 새로운 과제가 생겼다.
아침에 눈을 뜨고 하루를 시작하면 저녁에 눈을 감을 때까지 요즘 가장 많이 듣는 키워드가 AI이다. 그만큼 AI 혁명이 우리 사회 깊숙이 자리를 잡았다. 교육 산업계 마케팅 등 일상생활 곳곳에 이용을 하지 않는 분야가 없을 정도이다. 글을 대신해서 써 주고 파워포인트도 척척 만들어 준다. 사진과 그림마저도 얼마든지 생성이 가능해졌다. 예전에는 그림을 화가들이 그렸는데 이제는 사람이 그린 것인지 AI가 그린 것인지 구분하기가 힘들 정도이다. 내 목소리가 진짜 고유한 내 목소리인지, AI가 내 목소리를 흉내 낸 것인지 구분조차 힘들 정도다. 글은 어떤가? 작가를 뺨칠 정도로 훌륭한 문장을 거뜬히 만들어 낸다. 이제는 내가 쓴 글과 AI를 시켜 쓴 글인지 알아보기 힘들게 됐다.
AI가 인간의 행동을 모방하는 능력마저 향상되면서 최근엔 온라인에서 소통하고 교류하는 상대가 인간인지 AI봇인지 점점 구별하기도 어려워지고 있다. 이렇다 보니 잘못된 정보를 유포하거나 사기 등 악의적인 목적으로 AI가 사용되기까지 한다. 온라인에서 접하는 콘텐츠에 대한 사람들의 신뢰를 점점 떨어뜨릴 수 있다.
역설적으로 AI 혁명이 가속화될수록 인간이 인간인지 인간을 흉내낸 AI봇인지 구분이 필요해졌다. 내가 진짜 인간임에도 내가 AI가 아니라 인간임을 입증해야 하는 이상한 시대가 다가오고 있다. 이에 국내외 빅테크와 IT 기업들이 인간성을 증명할 수 있는 기술적 방법을 찾아내려 분주히 움직이고 있다.
오픈AI 최고경영자(CEO) 샘 올트먼은 가상 화폐 프로젝트 ‘월드코인’을 주도하고 있다. 지난해 7월 출범한 월드코인은 사람의 홍채 정보를 제공받는 대가로 주는 가상 화폐이다. 샘 올트먼은 가짜와 진짜의 경계가 모호해지자, 홍채 정보를 통해 인간이 스스로 진짜 인간임을 증명하게 한다며 개인을 식별할 수 있는 시스템을 구축하겠다는 구상이다. 하지만, 그의 의도와 달리 문제점도 있다. 홍채라는 민감한 생체 정보를 민간 기업이 확보하고 관리하는 것에 대한 위험성을 경고하는 목소리가 흘러나오고 있다. 개인 정보 유출 가능성뿐만 아니라, 시스템 오류로 발생할 수 있는 혼란에 어떻게 대처해야 하는가에 대한 문제가 남아 있기 때문이다. 전문가들은 기술 문제로 중요한 ‘인간 증명’에 오류가 생겼을 경우 문제는 더욱 커진다고 지적한다.
구글도 인간성 증명에 적극적이다. 구글 딥마인드 연구진은 AI가 만든 문서를 구별할 수 있는 새로운 워터마크(식별무늬) 기술을 개발하고 있다. 워터마크는 문서나 이미지 파일 위에 삽입하는 로고 또는 텍스트로, 위조나 불법 복제를 방지하기 위해 사용하는 일종의 표식이다. 구글의 경우 얼마 전 AI인 ‘제미나이’에 이 알고리즘을 적용해 워터마크 성능을 검증했다고 한다.
국내 기업들도 AI가 생성해 내는 방대한 글들을 어떻게 처리해야 할지 고민이 커졌다. 특히, 네이버 다음과 같은 포털 사업자들은 사용자가 키워드로 검색할 때 어떤 글을 우선적으로 노출시켜 줘야 할지를 놓고 연구를 거듭하고 있다. 가령 네이버는 AI 기반 ‘뉴럴 매칭’ 기술과 신뢰도 높은 출처 노출 강화를 위해 검색엔진 기술 업데이트를 진행하겠다고 밝힌 바 있다. 이 검색 서비스는 키워드를 단순 글자로 보는 것이 아니라, 검색어를 입력한 사용자의 핵심 의도를 분석해 이 의도에 가장 알맞은 검색 결과를 제시하는 방향으로 발전하고 있다. 아무런 생각 없이 AI에 의존해 생성된 글보다는 검색자의 의도에 가장 일치하는 글을 올린 기사나 블로그 글이 검색의 상위 노출 경쟁에서 유리하다는 의미이다. 이런 노력은 결국 AI 시대 인간성을 어떻게 확인하고 어떻게 다가갈 것이냐의 고민에서 생겨난 것이다.
AI 시대 인간이 인간인지 AI 인지 구분을 해야 하는 역설. 이는 그만큼 AI가 발전해 인간을 거의 완벽하게 흉내 내고 있다는 뜻이다. 그 감쪽같은 흉내로 말미암아 점점 인간과 AI를 구분해야 할 필요성이 커지고 있다. 그렇다면 AI가 따라오지 못할 인간만의 영역은 무엇일까? AI는 아직까지 인간의 미세하고 복잡다단한 감정만은 제대로 따라가지 못한다. 따뜻하고 정감 있는 자신만의 글은 AI가 흉내를 낼 수 없고 AI 시대에도 더욱 사랑받을 수 있다. AI가 따라오지 못하는 따뜻한 감정이 녹아 있는 글을 이번 달에는 꼭 써서 가족이나 지인에게 보내보면 어떨까? AI가 복잡다단한 내 감정을 흉내 낼 그날이 오기 전에.
장세훈 디지털 부문 선임기자
)
