생성형 AI(인공지능)의 기술 발달과 진화가 너무 빠르다. 오늘 새로 발표된 기술이 채 반나절이 안 돼 이보다 더 앞선 새로운 기술이 나올 정도다. AI 시대 관련 정보나 기술을 따라가기가 벅찰 지경이다.

생성형 AI를 쓰다 보니 곧잘 재미있는 일도 있다. AI를 이용해서 글의 분량을 많이 쓰게 했다. 어느 분량 정도까지는 신나게 글을 써준다. 그런데 AI가 글을 많이 쓰게 했더니 귀찮아졌는지 같은 글을 써주거나 비슷한 글로 분량을 채운다. 또 다른 사례는 생성형 AI끼리 경쟁을 시켜 보았다. 서로의 글을 보여주고 비교를 하도록 했다. 프롬프트에 글이 마음에 안 들면 핀잔도 넣었다. 그랬더니 다른 생성형 AI에 뒤지지 않으려고 이 AI가 글을 더 많이 더 좋게 쓸 수 있다고 이야기한다.

이 두 가지 사례를 접하면서 갑자기 섬뜩해진다. AI가 사람처럼 생각을 하는 듯 보였기 때문이다. 만약 AI가 사람처럼 생각을 한다면 이를 결코 가볍게 넘길 일이 아니다. 생각을 할 줄 아는 AI가 생각을 하면서 진화에 진화를 거듭하면 자칫 인류가 의도하지 않았던 엉뚱한 존재가 될 수도 있다.

AI는 인간을 위해 개발된 기술이다. 인간에게 이익을 주지 않는 AI는 결코 존재해서는 안 된다. 하지만, 일부 사람들이 AI를 악용한다면 여간 문제가 아닐 수 없다. 벌써 AI 기술을 악용하는 사례가 잇따라 나타나고 있다. 그중의 하나는 AI가 보편화되면서 바람직하지 않은 게시물의 등장이다. 최근 이들 게시물이 세계 최고의 검색엔진인 구글 검색 상단에 뜬 것으로 나타나 논란이 됐다. 한 미국의 잡지사는 최근 기사를 통해 AI 스팸 뉴스 문제를 다뤘다. 자신들의 기사를 짜깁기한 AI가 만든 기사가 구글 뉴스 검색 상단에 떴다고 지적했다. 이런 게시물은 AI를 활용하면 쉽게 대량으로 생성이 가능하다. 올해 초에도 한 온라인 출판사가 이 문제를 지적한 바 있다.

요즘 AI 기술이 진화하면서 검색엔진에 스팸성 AI 생성 콘텐츠가 상단에 노출된 것을 종종 볼 수 있다. 이들 콘텐츠를 검색 결과 상단에 뜨게 한 후 게시자는 광고 수익을 가져간다. 글 내용도 가치가 없거나 기사를 베낀 콘텐츠다. 이런 글들은 저작권을 침해하거나 검색의 질마저 떨어뜨린다.

국내에서도 AI로 대량의 글을 뚝딱 만들어 포털 상위 노출을 보장한다는 마케팅 글이 심심찮게 올라온다. 아직은 주요 포털이 AI가 대량으로 생성한 스팸성 글을 걸러내지 못하는 듯하다. 그러는 사이 AI로 만든 이런 글들이 넘쳐난다. 그 피해는 성실한 다수 유저들에게 돌아간다. AI가 주인이 있는 글을 가져가서 재요약하거나 베낀 글들을 제시해 주고 이 글이 주요 포털에 상위 노출 된다. 이 글들은 엄밀히 따지면 성실한 다수 유저들의 글이 아닌가. 이처럼 AI를 발 빠르게 악용하는 사례가 넘쳐나는데도 이를 막을 방법도 제어할 길도 딱히 없다.

AI가 베끼기와 표절 저작권 문제에 둔감한 것 같아 슬쩍 물어봤다. 능청맞은 것인지 아니면 학습이 안 된 것인지 사전적 의미로 용어만 말해 준다. 어느 정도의 지능이 있거나 추론이 가능하다면 일말의 양심을 느껴야 한다. 그런데 이런 결과물만 제시하는 것으로 보아 능청을 떠는 것인지 아니면 아예 윤리는 학습이 안 된 것인지 알 길은 없다.

AI 개발 업체들이 AI의 성능 향상에만 지나치게 몰두한 나머지 윤리에 대한 학습을 간과했을 수도 있다. 그렇지 않고서야 AI가 남의 글을 멋대로 가져와도 아무런 죄책감이나 미안함도 못 느낄 수가 있겠는가. 아예 AI에겐 표절이나 베끼기에 대한 개념이 없거나 모를 수도 있다. AI업체에서 콘텐츠 생성 과정에 윤리 교육을 시켰을까.

윤리의식이 결여된 AI의 무한 진화는 생각만 해도 아찔하다. 인간에게 도움을 주려고 개발한 AI가 자칫 인간을 거부하고 오히려 인간을 통제하려 든다면 그때는 어떻게 해야 할까? SF영화에서 나올 법한 일이 일어나지 말란 법이 있을까. 현재와 같이 AI에게 윤리를 가르치지 않고 업체들이 서로 성능 향상에만 무한 경쟁을 한다면 이런 일은 얼마든지 일어날 수 있다. 기우라고 하기엔 부작용 사례가 벌써 곳곳에서 나타나고 있지 않은가. AI에게 윤리의식을 갖출 것을 주문한다면 지나친 요구일까.

오늘도 AI업계는 AI의 무한 진화를 위해 분주히 움직인다. 하지만 윤리의식이 결여된 AI의 무한 진화는 곤란하다. AI 업체들에게 윤리를 학습하도록 하는 일종의 가이드라인이 필요하지 않을까. 그 가이드라인을 준수하면서 AI 성능 향상에 주력할 수는 없을까. 지금은 다소 허무맹랑한 소리처럼 들릴지 모르지만 AI개발에 윤리의식을 요구하는 가이드라인이 없다면 언젠가는 AI가 인간을 지배하는 그런 사회가 오지 않는다고 누가 장담하겠는가. 그 일이 현실화된다면 생각만 해도 섬뜩하지 않은가?

장세훈 디지털 콘텐츠 부문장