2
부산메디클럽

[국제칼럼] AI시대 유토피아? 디스토피아?

남이 쓴 글도 가져가는 AI…AI가 만든 글 넘쳐나는데 사회적 논의는 아직 요원

서둘러 ‘AI 원칙’ 만들자

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-03-24 18:44:21
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
얼마 전 유명 관광지 정보를 찾다가 황당한 글을 읽게 됐다. 그곳을 직접 방문한 사람들의 후기를 접하고 싶었는데 해당 블로그 글은 문장은 그럴싸했지만 문맥은 어색했다. 댓글로 문맥을 얘기했다. 그랬더니 블로그 주인은 비밀 댓글로 AI(인공지능)로 감쪽같이 글을 썼다고 자랑했다. 요즘 온라인 세계는 홍보성 글 못지않게 AI가 쓴 글이 넘쳐난다.

유튜브 등의 숏폼에도 부쩍 AI가 만든 영상이 많이 올라온다. 가령 얼마 전 끝난 역사 드라마의 뒷이야기를 소개하면서 AI 음성에 AI가 만들어낸 이미지를 사용하는 방식이다. AI가 만든 이미지가 그럴싸해서 거부감은 크지 않았다. 하지만 사람들이 직접 들려주는 당시 상황을 알아보려고 유튜브에 들어왔는데 AI로 만든 음성과 이미지를 만나 당황스러웠다.

요즘 AI 서비스 붐이 일고 있다. 2022년 생성형 AI인 챗GPT가 나온 이래 기술의 발전은 상상을 초월할 정도다. 서점가조차도 AI가 들어가야만 책이 잘 팔린다고 한다. AI의 진화로 인해 생활은 한층 편리해졌다. 하지만 그만큼 부작용도 커지고 있다. 지금도 온라인 공간에는 예전에는 찾아볼 수 없던 정보들을 AI가 마구 쏟아내고 있다. 총선을 앞둔 정치 시즌을 맞아 정가에선 가짜뉴스 문제를 제기하고 있다. 하지만 이미 일상생활 속으로 파고든 AI 콘텐츠들의 문제점에 관해서는 짚고 있지 않다.

한때 광고성 글이 넘쳐나던 블로그도 이제는 AI가 쓴 글이 넘쳐나고 있다. 한 마케팅 회사에서는 음식점을 방문하지 않아도, 의학지식이 없어도 AI를 활용해 글을 쓸 수 있다고 한다. 이 글들은 검색엔진 상단에 노출돼 수익을 낼 수 있다고 홍보한다. 이들은 누군가 이미 쓴 글을 AI를 활용해 유사한 글을 대량으로 생산한다. AI를 통해 조금씩 다른 내용의 글을 업로드까지 자동으로 한다.

요즘 온라인 세계는 AI가 다른 사람의 글을 복사하고 이를 토대로 새로운 것을 만들어 내도 제어할 방법은 없다. AI에게는 도덕성이 아예 없기 때문이다. AI를 활용하는 사람도 AI가 어떤 글을 어디서 어떻게 가져왔는지도 알 길이 없다. 그럴싸하게 변형을 했기 때문에 남의 글이 아니라고 생각하기 쉽다. 사실상 AI가 만들어내고 쓰는 글들은 무방비 상태다. AI 기술의 진화는 장려해야 하지만 ‘짝퉁 글’을 만드는 기술은 곤란하지 않을까.

구글도 이런 문제점을 인식한 듯하다. 최근 구글은 검색 유입을 노리고 만든 AI 저질 콘텐츠 급증을 제어할 일종의 대책을 발표했다. 대규모 콘텐츠 남용 제한이라는 알고리즘 개편이다. 구글은 콘텐츠 남용 사례를 식별해 검색 결과 상단에 뜨지 않도록 노출 순위를 떨어뜨리거나 노출 자체를 막도록 하겠다고 한다. 구글이 말하는 ‘대규모 콘텐츠 남용’은 사람이나 생성형 AI를 통해 하루에 수천 건의 저질 콘텐츠를 만들어내는 것을 말한다.

구글이 서둘러 알고리즘 개편을 단행한 것을 보면 그 폐해가 심각하기는 한 모양이다. 인기 키워드를 조합하고 검색 결과 상단에 뜨는 것을 노려 광고 수익을 내는 AI 콘텐츠 문제를 방치해서는 안 되겠다고 여긴 듯하다. 비록 인기 키워드가 포함됐지만 별다른 의미가 없는 글을 대량 생산해 내면서 검색의 질이 떨어진다고 본 것이다.

국내엔 아직 AI가 만들어낸 글을 필터링 해낼 기술이나 움직임이 보이지 않는다. 이렇게 AI가 생산한 글에 대책을 못 세우는 사이 AI가 쓴 글들이 무수히 온라인 세계에 돌아다닌다. AI가 재조합하고 복사에 복사를 거듭하다 보면 어떤 글이 원래 글이고 누가 짜깁기를 했는지 알 수가 없는 ‘짝퉁 시대’가 올 수도 있다. 현재도 오히려 공들여 쓴 글이 검색에서 후순위로 밀리고 그 글을 가져가 재가공한 AI 글이 상위에 노출되는 웃지 못할 해프닝이 벌어지고 있다.

아이작 아시모프는 로봇의 위험성을 감안하여 로봇이 지켜야 할 3대 원칙을 제시했다. 첫째, 로봇은 인간에게 해를 끼쳐서는 안 되며, 위험에 처해 있는 인간을 방관해서도 안 된다. 둘째, 제1원칙에 위배되지 않는 경우 로봇은 인간의 명령에 반드시 복종해야만 한다. 셋째, 제1원칙과 제2원칙에 위배되지 않는 경우 로봇은 자기 자신을 보호해야만 한다는 것이다. 오늘날 AI에게는 이런 원칙이 있는가?

글을 쓰는 사람은 영감을 얻기 위해 많은 시간을 투자한다. 자신이 쓴 글이 마음에 들지 않아 원고지를 찢고 또 찢기도 한다. 수정과 퇴고라는 각고의 노력 끝에 간신히 글 한편이 완성된다. 하지만, 이렇게 생산된 글이 단 몇 초 만에 AI가 가져가 재생성한다. 그 글은 또 다른 AI가 퍼나른다. 힘들게 글을 생산한 사람의 공은 오간데 없다. 서글픈 시대다. 지금 쓰고 있는 이 글도 온라인 세계에 올라가는 순간 AI에 의해 다른 누군가의 글로 포장되어 돌아다닐지 누가 알겠는가.

장세훈 편집국 디지털부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1[속보]리트 만점자 이진우 씨 사망 판정에 수사 종결 수순…공모자 의혹 제기도
  2. 2의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  3. 3[속보]美공화 폭망에 손절 머스크 “난 MAGA 아냐…어리석어 시계 돌리고 싶다”
  4. 4[속보]‘기어코’ 용인 모 고교 수능 시험장서 초소형 카메라·이어폰 발견
  5. 5[속보] 리트 만점자, 강동구 모텔서 심정지 상태로 발견
  6. 6해사는 진해 남는다…육사만 서울서 충청으로(종합)
  7. 7시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  8. 8천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  9. 9“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  10. 10적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  1. 1해사는 진해 남는다…육사만 서울서 충청으로(종합)
  2. 2[속보] 한 총리, '지난해 수능 시험지 보관' 긴급 지시
  3. 3김민석에 막말 비판 중징계…선거법 위반 무혐의…부산 與비례 희비
  4. 4박찬종 전 의원 별세…세브란스병원에 주검 기증
  5. 5부산 러너공간 근거조례 상임위 통과
  6. 6李 순방 중 조작기소 특검법 재가, 野 "뻔뻔한 기습재가" (종합)
  7. 7불시 문자·신고 1억 포상 추가대책…시험 집중력 방해 논란
  8. 8추경호 ‘계엄해제 방해’ 1심 무죄…法 “내란가담 증명 안돼”(종합)
  9. 9與, 민주유공자법 19일 처리 추진…국힘 “모든 법안 필리버스터” 예고
  10. 10국민의힘 “수능이 AI 커닝 경연장 될 뻔”…정부 늑장 대응 맹공
  1. 1국내 복귀 쌍용전력, 부산에 신규 생산시설 100억 투자
  2. 2초품아·평지·역세권 ‘삼박자’, 중소형 실속까지 챙겼다…연산동 新 주거타운 부상
  3. 3AI·애니·모빌리티로 외연확장…지스타 1237개사 총출동
  4. 46년 반 만에 밝혀진 부전~마산 복선 사고 원인… 정부는 그동안 뭐 했나
  5. 5"총인구 감소에도 수도권 인구 비중은 2045년 53.7%로 상승"
  6. 6국토부, ‘부정청약 40억대 시세차익’ 이혜훈 반포 원펜타스 계약취소 요청 공문
  7. 7소상공 금융지원 공백 없게…부산신보 자체 상담센터 추진
  8. 8구포역~가야차량기지 철도 지하화 이뤄진다
  9. 9“공법 사전 검증 미실시가 부전~마산 복선전철 붕괴 사고 불러와”
  10. 10“청년 창업기업 안정적 성장 기반을” BNK그룹, 1000억 금융지원 추진
  1. 1[속보]리트 만점자 이진우 씨 사망 판정에 수사 종결 수순…공모자 의혹 제기도
  2. 2의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  3. 3[속보]‘기어코’ 용인 모 고교 수능 시험장서 초소형 카메라·이어폰 발견
  4. 4[속보] 리트 만점자, 강동구 모텔서 심정지 상태로 발견
  5. 5시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  6. 6천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  7. 7“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  8. 8적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  9. 9‘리트 만점’ 이진우 씨 수능 공개검증 불참…연락두절
  10. 10감평사를 6개월만에? 합격수기 비공개…관세사 시험 수석은 공개행보 아예 없어
  1. 1선수 복귀 논란, 사령탑 공백…읏맨, 연이은 악재에 3연패 수렁
  2. 2시간 없었나, 능력 없었나…모레노는 물음표
  3. 3타이거 우즈 2년5개월 만에 필드 컴백
  4. 4“반복훈련이 답” 친정 거인 공수에 베테랑 DNA 심는다
  5. 5롯데 젊은 피 4인방 국제무대(아시아프로야구챔피언십)서 통했다
  6. 6읏맨 신영철 감독, 건강 문제로 사퇴
  7. 7LPGA CME그룹 챔피언십 19일 티오프
  8. 8“전국체전 금빛 물살, 친구랑 함께여서 더 좋아요”
  9. 9‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  10. 10색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
부캉이가 알려준 부산의 비밀
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
LPG 화물차 보조금, 현실 맞게 부활해야
일극의 한계, 다극의 설계
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
나이키의 혁신
창업주의 복귀
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
공공기여금 감면이 개발업자 특혜가 돼서는 안 된다
부정행위에 뚫린 국가자격시험, 관리체계 쇄신해야
세상읽기 [전체보기]
경기력 향상 위한 2026아시안게임 돌아보기
아무것도 사지 않아도 머물 수 있는가
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
5극3특 전략 속 부울경의 기회와 도전
부산, 준비가 돼있는가?
  • BNK생명나눔챌린지
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내