2
부산메디클럽

[국제칼럼] 딥페이크 자정능력을 갖춘 AI가 그립다

윤리없는 AI의 무한 진화, 딥보이스 등 부작용 낳아

기술 진화 못 따르는 법…조속한 정비에 힘 모아야

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-09-08 19:06:31
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
“여보세요, 여보세요. 왜 말을 안 하지? 누구세요, 전화를 했으면 말을 하세요.” 누군가 내게 전화를 걸어왔는데 아무 말도 안 하는 경우가 있다. 이때 상대방 목소리가 들리기도 전에 내가 먼저 전화기에 대고 말을 한 적은 없는가. 앞으로는 모르는 사람의 전화가 걸려와 아무 말을 안 한다면 내 목소리를 상대방에게 먼저 들려주지 않는 게 좋을 것 같다. 딥 보이스(deep voice) 때문이다. 이 기술은 딥러닝을 기반으로 목소리를 합성하거나 변환하는 것을 말한다. AI(인공지능)가 진화를 거듭해 특정인의 목소리를 합성하는 기술도 급속도로 발전했다. 이제는 목소리 합성 기술이 범죄에 악용될 우려마저 제기되고 있다.

최근 커뮤니티나 SNS에서 딥 보이스를 우려하는 게시물이 곧잘 올라온다. 요즘 딥페이크 문제가 심각하다 보니 딥 보이스를 대수롭지 않게 여기거나 간과되고 있다. 하지만, 커뮤니티나 SNS에서 많은 유저들이 우려하는 일이 실제로 일어날 수도 있다. 녹음한 목소리 샘플이 있다면 AI로 얼마든지 학습이 가능하기 때문이다. AI가 그 사람의 특성을 학습한 뒤 사용자가 특정 텍스트를 넣으면 그 사람이 원하는 목소리로 손쉽게 만들어 준다. 전화로 통화한 사람의 목소리 샘플이 있다면 그 사람의 음성을 다른 뜻으로 얼마든지 구현해낼 수 있다.

AI 기술의 진화는 누구나 손쉽게 이미지나 음성을 합성할 수 있게 했다. 가령 우리나라 역사 속 인물들의 모습이나 목소리를 생생하게 구현해 낼 수 있다. 이렇게 AI기술을 선하게 사용한다면 사회에 많은 유익을 가져다 줄수 있다. 문제는 악용이다. 이런 사람들로 말미암아 AI 도구의 부작용과 위험성도 나날이 커지고 있다. 최근 사회 문제가 되고 있는 불법 딥페이크는 앞으로 일어날 AI로 인한 부작용과 위험성의 빙산의 일각일지도 모른다. 사실 예전에는 이미지 합성 자체가 쉽지 않았다. 그래픽 도구를 활용해 합성을 해도 조잡하고 쉽게 알아볼 수 있었다. 최근의 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 딥페이크 제작은 예전에 비해 훨씬 쉬워졌고 합성 기술은 보다 정교해졌다. 해외 메신저를 통해 그들만이 음밀하게 공유하면서 불법 딥페이크는 추적도 어렵고 단속도 쉽지 않다.

딥 보이스도 언젠가는 딥페이크만큼 큰 사회적 문제가 될 수도 있다. 누군가 내 목소리를 얼마든지 악용할 수 있기 때문이다. 요즘 커뮤니티나 SNS 상에서 유저들이 우려하는 피해 사례는 아직 알려지지 않았거나 잘 드러나지 않았지만 보이스피싱보다 더 클 수도 있다. 앞으로는 내 목소리도 조심해야 할 시대가 찾아올 것 같다. 커뮤니티나 SNS 유저들이 우려하는 피해는 충분히 현실에서 일어날 수 있다.

최근 미국의 한 음악가는 AI를 이용해 곡을 많이 만들어 스트리밍 하는 수법으로 막대한 수익을 올렸다가 체포됐다. 이처럼 AI를 엉뚱한 방향으로 사용하는 일은 비일비재하다. 특히, 저작권은 아직 사회적 이슈가 되지 않았지만 언젠가는 문제가 불거질 시한폭탄과 같은 존재다. 생성형 AI가 학습을 통해 내놓는 답은 어딘가에서 자료를 가져와 이를 가공한 것이다. 이를 아무렇지도 않게 마치 자신이 알아서 만든 것처럼 프롬프트에 제시한다. 누군가가 힘들게 만든 콘텐츠인데도 출처 표기나 정당한 보상도 없이 가져다가 쓰곤 한다. 전국의 언론 유관단체들이 AI저작권을 문제 삼는 이유도 여기에 있다.

챗 GPT를 운영하는 오픈AI는 어려운 문제들에 대해 기존 AI보다 훨씬 더 잘 판단하는 ‘스트로베리’(Strawberry) AI를 선보일 것이라고 한다. 이 새 AI는 현재 챗봇들이 제대로 못하는 수학 문제들을 풀 수 있고 프로그래밍을 포함해 문제점들을 해결하도록 훈련됐다고 한다. 제품 마케팅 전략 같은 보다 주관적인 주제들에 대한 질문에도 대응할 수 있다고 알려지고 있다. 이 기술이 상용화되면 상당한 파급효과가 생길 것이다. 그만큼 이를 악용하는 사례도 늘어나고 더 지능화 될 것이다. 그때가 되면 부작용을 제어하기 힘들 지도 모른다.

AI의 진화는 동전의 앞뒤와 같다. AI를 어떻게 쓰느냐에 따라 긍정과 부정의 효과를 낳을 수 있다. 부작용이 크다고 해서 기술의 진화를 막을 수는 없다. 따라서 부작용이 커지기 전에 악용 사례를 막을 방안을 찾아야 한다. 사회적 합의를 통한 자정 방향을 찾고 빠른 시일 내에 제도적 장치를 마련해야 한다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실도 바꾸자. AI에게 태생적으로 윤리의식을 심어주거나 가이드라인을 만들고 적용하게 하자. 윤리나 자정능력이 없이 성능 향상에만 주력하는 AI가 발을 붙이지 못하도록 하자. 브레이크 없는 AI의 무한 진화, 섬뜩하지 않은가.

장세훈 디지털 부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1마산~가덕~울산 급행열차(TRX) 2035년 달린다
  2. 2시유지인데…홈플러스 아시아드점, 고객 외 주차 시민에 으름장
  3. 3건설경기 한파 속 서부산 알짜 정비사업 탄력
  4. 4BTS공연 때처럼 예약 일방 취소, 앞으론 숙박료 2배 배상
  5. 5市 “북항 돔 결정 전까지 사직 재건축 유보”
  6. 6수능장 모든 스마트기기 반납…공공 와이파이 차단 검토(종합)
  7. 7[속보]이준석 “영국 출장 비행기서 AI커닝 방지 앱 개발…수능 때 이용하라”
  8. 8친명, 최민희 징계 총공세…친청 “신천지 진상규명” 역공
  9. 9파업 진통 끝 리노공업 노사 첫 단협 가결
  10. 1016개월 아이 발로 찬 보육교사…아동학대 혐의 송치
  1. 1市 “북항 돔 결정 전까지 사직 재건축 유보”
  2. 2[속보]이준석 “영국 출장 비행기서 AI커닝 방지 앱 개발…수능 때 이용하라”
  3. 3친명, 최민희 징계 총공세…친청 “신천지 진상규명” 역공
  4. 4조정식 국회의장, 여야 원로 앞세워 개헌 시동…국힘 “대국민 사기”(종합)
  5. 5정부 "수능 부정행위시 응시자격 10년 박탈, 단추마다 스티커, 소매도 검사"
  6. 6장동혁·정점식, 한동훈 장인상 조문…오세훈은 전날 조문
  7. 7'조작기소 특검법' 공포안 국무회의 통과
  8. 8李, 아세안에 AI·문화산업 동맹 제안…“교역 3000억弗 추진”
  9. 9김지용 중수청장 취임 후 첫 국무회의 불참
  10. 10조작기소특검법 17일 의결 전망…국힘 “韓총리 탈옥죄 수괴 될 것”
  1. 1건설경기 한파 속 서부산 알짜 정비사업 탄력
  2. 2BTS공연 때처럼 예약 일방 취소, 앞으론 숙박료 2배 배상
  3. 3파업 진통 끝 리노공업 노사 첫 단협 가결
  4. 4가뭄 대비해 물 끌어다 쓴다…남강댐·합천댐 간 도수터널 추진
  5. 5부산銀 ‘르노 우대적금’ 특판
  6. 6“BIFF 개·폐막 연출 아홉 번…냉정한 시험의 연속”
  7. 7부산 첫 CR리츠 전세 공급…‘가야역 롯데캐슬 스카이엘’ 주목
  8. 85.7년간 월급 한 푼도 안 써야 부산에서 집 산다
  9. 9인도양 해산·해저융기부 4곳, 조선 지리학자들 이름 붙였다
  10. 10“부산 북극항로 해양서비스 거점 육성을”
  1. 1마산~가덕~울산 급행열차(TRX) 2035년 달린다
  2. 2시유지인데…홈플러스 아시아드점, 고객 외 주차 시민에 으름장
  3. 3수능장 모든 스마트기기 반납…공공 와이파이 차단 검토(종합)
  4. 416개월 아이 발로 찬 보육교사…아동학대 혐의 송치
  5. 5국제신문 회생 지지 서명 1만 돌파…학보사도 힘보탰다
  6. 619일 수능…부산 승용차요일제 해제
  7. 7‘벚꽃 맛집’ 창원 가로수 2만 그루 실태조사키로
  8. 8장선화, 부산민주공원 첫 여성 관장으로 선출
  9. 9김해 명물 ‘나무뜨개옷’ 철거 기로
  10. 10韓총리 “수능서 안경·시계 전수검사…교육부 직을 건다는 자세로”
  1. 1‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  2. 2색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
  3. 3아쉽다 최혜진…준우승만 10회
  4. 4알록달록 복장 뽐내고, 외국인도 러닝에 빠지고…모두 하나 된 축제
  5. 5다대포 모인 1만 마라토너…빗속에서도 신나게 달렸다
  6. 6하프 코스 여자 1위 정순연 씨 “3년 연속 우승…꾸준한 훈련 빛나”
  7. 784세 어르신도, 꼬맹이도…궂은 날씨 뚫고 열정이 달렸다
  8. 8하프 코스 남자 1위 박지웅 씨 “개인 기록 경신…내년엔 풀코스 도전”
  9. 910㎞ 코스 남자 1위 감진규 씨 “맞바람 페이스 조절로 2연승 일궈”
  10. 1010㎞ 코스 여자 1위 전수진 씨 “감각 믿고 달려…세 번 도전 끝 결실”
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
세계유산위원회, 부산의 시간을 세계와 나누다
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
국제적으로 주목받는 부산오페라하우스
부산 관광 다음 키워드는 ‘건축관광’
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
허니 트랩(honey trap)
부산대 시계탑
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
세계 7위 오른 부산, 해양산업 경쟁력 키워야
첫 미·중·러 정상회담, 한반도 문제 당사국 패싱 안 돼
세상읽기 [전체보기]
아무것도 사지 않아도 머물 수 있는가
문장 수집의 즐거움
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
부산, 준비가 돼있는가?
십시일반(十匙一飯), 나눔이 만드는 연말의 온도
  • 맘편한 부산
  • 부산국제마라톤
  • BNK생명나눔챌린지
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내