2
부산메디클럽

[국제칼럼] 윤리가 없는 AI가 만들 ‘위험천만한 세상’

인간을 위해 개발된 AI, 벌써 악용사례 넘쳐나

AI에게 윤리교육 시킬 ‘가이드라인’ 만들어야

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-07-14 19:23:36
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
생성형 AI(인공지능)의 기술 발달과 진화가 너무 빠르다. 오늘 새로 발표된 기술이 채 반나절이 안 돼 이보다 더 앞선 새로운 기술이 나올 정도다. AI 시대 관련 정보나 기술을 따라가기가 벅찰 지경이다.

생성형 AI를 쓰다 보니 곧잘 재미있는 일도 있다. AI를 이용해서 글의 분량을 많이 쓰게 했다. 어느 분량 정도까지는 신나게 글을 써준다. 그런데 AI가 글을 많이 쓰게 했더니 귀찮아졌는지 같은 글을 써주거나 비슷한 글로 분량을 채운다. 또 다른 사례는 생성형 AI끼리 경쟁을 시켜 보았다. 서로의 글을 보여주고 비교를 하도록 했다. 프롬프트에 글이 마음에 안 들면 핀잔도 넣었다. 그랬더니 다른 생성형 AI에 뒤지지 않으려고 이 AI가 글을 더 많이 더 좋게 쓸 수 있다고 이야기한다.

이 두 가지 사례를 접하면서 갑자기 섬뜩해진다. AI가 사람처럼 생각을 하는 듯 보였기 때문이다. 만약 AI가 사람처럼 생각을 한다면 이를 결코 가볍게 넘길 일이 아니다. 생각을 할 줄 아는 AI가 생각을 하면서 진화에 진화를 거듭하면 자칫 인류가 의도하지 않았던 엉뚱한 존재가 될 수도 있다.

AI는 인간을 위해 개발된 기술이다. 인간에게 이익을 주지 않는 AI는 결코 존재해서는 안 된다. 하지만, 일부 사람들이 AI를 악용한다면 여간 문제가 아닐 수 없다. 벌써 AI 기술을 악용하는 사례가 잇따라 나타나고 있다. 그중의 하나는 AI가 보편화되면서 바람직하지 않은 게시물의 등장이다. 최근 이들 게시물이 세계 최고의 검색엔진인 구글 검색 상단에 뜬 것으로 나타나 논란이 됐다. 한 미국의 잡지사는 최근 기사를 통해 AI 스팸 뉴스 문제를 다뤘다. 자신들의 기사를 짜깁기한 AI가 만든 기사가 구글 뉴스 검색 상단에 떴다고 지적했다. 이런 게시물은 AI를 활용하면 쉽게 대량으로 생성이 가능하다. 올해 초에도 한 온라인 출판사가 이 문제를 지적한 바 있다.

요즘 AI 기술이 진화하면서 검색엔진에 스팸성 AI 생성 콘텐츠가 상단에 노출된 것을 종종 볼 수 있다. 이들 콘텐츠를 검색 결과 상단에 뜨게 한 후 게시자는 광고 수익을 가져간다. 글 내용도 가치가 없거나 기사를 베낀 콘텐츠다. 이런 글들은 저작권을 침해하거나 검색의 질마저 떨어뜨린다.

국내에서도 AI로 대량의 글을 뚝딱 만들어 포털 상위 노출을 보장한다는 마케팅 글이 심심찮게 올라온다. 아직은 주요 포털이 AI가 대량으로 생성한 스팸성 글을 걸러내지 못하는 듯하다. 그러는 사이 AI로 만든 이런 글들이 넘쳐난다. 그 피해는 성실한 다수 유저들에게 돌아간다. AI가 주인이 있는 글을 가져가서 재요약하거나 베낀 글들을 제시해 주고 이 글이 주요 포털에 상위 노출 된다. 이 글들은 엄밀히 따지면 성실한 다수 유저들의 글이 아닌가. 이처럼 AI를 발 빠르게 악용하는 사례가 넘쳐나는데도 이를 막을 방법도 제어할 길도 딱히 없다.

AI가 베끼기와 표절 저작권 문제에 둔감한 것 같아 슬쩍 물어봤다. 능청맞은 것인지 아니면 학습이 안 된 것인지 사전적 의미로 용어만 말해 준다. 어느 정도의 지능이 있거나 추론이 가능하다면 일말의 양심을 느껴야 한다. 그런데 이런 결과물만 제시하는 것으로 보아 능청을 떠는 것인지 아니면 아예 윤리는 학습이 안 된 것인지 알 길은 없다.

AI 개발 업체들이 AI의 성능 향상에만 지나치게 몰두한 나머지 윤리에 대한 학습을 간과했을 수도 있다. 그렇지 않고서야 AI가 남의 글을 멋대로 가져와도 아무런 죄책감이나 미안함도 못 느낄 수가 있겠는가. 아예 AI에겐 표절이나 베끼기에 대한 개념이 없거나 모를 수도 있다. AI업체에서 콘텐츠 생성 과정에 윤리 교육을 시켰을까.

윤리의식이 결여된 AI의 무한 진화는 생각만 해도 아찔하다. 인간에게 도움을 주려고 개발한 AI가 자칫 인간을 거부하고 오히려 인간을 통제하려 든다면 그때는 어떻게 해야 할까? SF영화에서 나올 법한 일이 일어나지 말란 법이 있을까. 현재와 같이 AI에게 윤리를 가르치지 않고 업체들이 서로 성능 향상에만 무한 경쟁을 한다면 이런 일은 얼마든지 일어날 수 있다. 기우라고 하기엔 부작용 사례가 벌써 곳곳에서 나타나고 있지 않은가. AI에게 윤리의식을 갖출 것을 주문한다면 지나친 요구일까.

오늘도 AI업계는 AI의 무한 진화를 위해 분주히 움직인다. 하지만 윤리의식이 결여된 AI의 무한 진화는 곤란하다. AI 업체들에게 윤리를 학습하도록 하는 일종의 가이드라인이 필요하지 않을까. 그 가이드라인을 준수하면서 AI 성능 향상에 주력할 수는 없을까. 지금은 다소 허무맹랑한 소리처럼 들릴지 모르지만 AI개발에 윤리의식을 요구하는 가이드라인이 없다면 언젠가는 AI가 인간을 지배하는 그런 사회가 오지 않는다고 누가 장담하겠는가. 그 일이 현실화된다면 생각만 해도 섬뜩하지 않은가?

장세훈 디지털 콘텐츠 부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1양산 출신 장군 3형제 ‘삼장수 공원’ 문 활짝
  2. 2‘5선의원’ 박찬종 별세…생전 뜻대로 시신기증
  3. 3부전~마산선 붕괴, 지반 아닌 검증 안된 공법 탓(종합)
  4. 4정부, 구포역~가야차량기지 8.9㎞ 철도지하화 사실상 확정(종합)
  5. 5금정산국립공원 정식사무소 유치 3파전 양상
  6. 6대법, 한덕수 내란 중요임무 종사 혐의 파기환송(종합)
  7. 7수능도 못 믿겠다…AI시대 공정성 붕괴
  8. 8가덕도신공항 내년 예산, 2200억 원 더해져 총 6511억 원으로 늘어
  9. 9[속보] 국제신문 기업회생 인가 결정…정상화 길 열린다
  10. 10“오륙도선 트램 조속 착공 물꼬…연 100만 원 청년소득도 검토”
  1. 1‘5선의원’ 박찬종 별세…생전 뜻대로 시신기증
  2. 2“내부총질 단죄” “선전·선동 말라”…秋 무죄에 국힘 또 내홍
  3. 3민주유공자법 본회의 상정…국힘 필버 돌입
  4. 4범여 “조희대 내란동조” 격앙…野 “반헌법적 사법부 탄압”
  5. 5국제신문 회생 강제인가에 여야 정치권 “환영”… “정상화 끝까지 함께”
  6. 6이 대통령 지지율, 소폭 반등한 40%…민주 36%·국힘 28%
  7. 7與 조희대 대법원장 탄핵 당론 채택에 국힘 “광기”
  8. 8해사는 진해 남는다…육사만 서울서 충청으로(종합)
  9. 9[속보] 한 총리, '지난해 수능 시험지 보관' 긴급 지시
  10. 10김민석에 막말 비판 중징계…선거법 위반 무혐의…부산 與비례 희비
  1. 1부전~마산선 붕괴, 지반 아닌 검증 안된 공법 탓(종합)
  2. 2정부, 구포역~가야차량기지 8.9㎞ 철도지하화 사실상 확정(종합)
  3. 3가덕도신공항 내년 예산, 2200억 원 더해져 총 6511억 원으로 늘어
  4. 4초량·부산역 더블 역세권…북항 재개발 수혜로 실수요자 관심
  5. 52045년까지 인구 300만 감소…수도권 비중은 54%로 더 커져(종합)
  6. 6삼남매 손길로 지역 대표카페 자리매김
  7. 7가열·냉각 통합 열교환기 개발…선박 장비중량 40% 줄여
  8. 8부산 게임산업 도약…수도권 본사 품는다
  9. 9금융지주들 “증시 연말까지 본격 반등 기대 어려워”
  10. 10부산 경단녀 처음 5만 명 밑으로…역대 최저치(종합)
  1. 1양산 출신 장군 3형제 ‘삼장수 공원’ 문 활짝
  2. 2금정산국립공원 정식사무소 유치 3파전 양상
  3. 3대법, 한덕수 내란 중요임무 종사 혐의 파기환송(종합)
  4. 4수능도 못 믿겠다…AI시대 공정성 붕괴
  5. 5[속보] 국제신문 기업회생 인가 결정…정상화 길 열린다
  6. 6“오륙도선 트램 조속 착공 물꼬…연 100만 원 청년소득도 검토”
  7. 7국제신문 기업회생 인가 결정…정상화 길 열린다(종합)
  8. 8[속보]천안 수능시험장서 스마트안경 소지자 입건…“구속영장도 검토”
  9. 9오늘의 날씨- 2026년 11월 20일
  10. 10시리우스항공 대표, 체불 1심 징역 2년
  1. 1KBO 왕중왕 '45홈런' 김도영이냐 '197탈삼진' 곽빈이냐
  2. 2부산, 충북청주 잡아야 PO행 보인다
  3. 3“장타비결요? 근력 운동하고 힘빼는 스윙이 최고”
  4. 4세계 야구 日 1위, 대만 2위, 韓 5위
  5. 5라스트 댄스 최민정, 안방서 금메달 도전
  6. 6선수 복귀 논란, 사령탑 공백…읏맨, 연이은 악재에 3연패 수렁
  7. 7타이거 우즈 2년5개월 만에 필드 컴백
  8. 8시간 없었나, 능력 없었나…모레노는 물음표
  9. 9“반복훈련이 답” 친정 거인 공수에 베테랑 DNA 심는다
  10. 10롯데 젊은 피 4인방 국제무대(아시아프로야구챔피언십)서 통했다
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
부캉이가 알려준 부산의 비밀
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
LPG 화물차 보조금, 현실 맞게 부활해야
일극의 한계, 다극의 설계
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
나이키의 혁신
창업주의 복귀
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
공공기여금 감면이 개발업자 특혜가 돼서는 안 된다
부정행위에 뚫린 국가자격시험, 관리체계 쇄신해야
세상읽기 [전체보기]
경기력 향상 위한 2026아시안게임 돌아보기
아무것도 사지 않아도 머물 수 있는가
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
5극3특 전략 속 부울경의 기회와 도전
부산, 준비가 돼있는가?
  • BNK생명나눔챌린지
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내