2
부산메디클럽

[국제칼럼] 딥페이크 자정능력을 갖춘 AI가 그립다

윤리없는 AI의 무한 진화, 딥보이스 등 부작용 낳아

기술 진화 못 따르는 법…조속한 정비에 힘 모아야

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-09-08 19:06:31
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
“여보세요, 여보세요. 왜 말을 안 하지? 누구세요, 전화를 했으면 말을 하세요.” 누군가 내게 전화를 걸어왔는데 아무 말도 안 하는 경우가 있다. 이때 상대방 목소리가 들리기도 전에 내가 먼저 전화기에 대고 말을 한 적은 없는가. 앞으로는 모르는 사람의 전화가 걸려와 아무 말을 안 한다면 내 목소리를 상대방에게 먼저 들려주지 않는 게 좋을 것 같다. 딥 보이스(deep voice) 때문이다. 이 기술은 딥러닝을 기반으로 목소리를 합성하거나 변환하는 것을 말한다. AI(인공지능)가 진화를 거듭해 특정인의 목소리를 합성하는 기술도 급속도로 발전했다. 이제는 목소리 합성 기술이 범죄에 악용될 우려마저 제기되고 있다.

최근 커뮤니티나 SNS에서 딥 보이스를 우려하는 게시물이 곧잘 올라온다. 요즘 딥페이크 문제가 심각하다 보니 딥 보이스를 대수롭지 않게 여기거나 간과되고 있다. 하지만, 커뮤니티나 SNS에서 많은 유저들이 우려하는 일이 실제로 일어날 수도 있다. 녹음한 목소리 샘플이 있다면 AI로 얼마든지 학습이 가능하기 때문이다. AI가 그 사람의 특성을 학습한 뒤 사용자가 특정 텍스트를 넣으면 그 사람이 원하는 목소리로 손쉽게 만들어 준다. 전화로 통화한 사람의 목소리 샘플이 있다면 그 사람의 음성을 다른 뜻으로 얼마든지 구현해낼 수 있다.

AI 기술의 진화는 누구나 손쉽게 이미지나 음성을 합성할 수 있게 했다. 가령 우리나라 역사 속 인물들의 모습이나 목소리를 생생하게 구현해 낼 수 있다. 이렇게 AI기술을 선하게 사용한다면 사회에 많은 유익을 가져다 줄수 있다. 문제는 악용이다. 이런 사람들로 말미암아 AI 도구의 부작용과 위험성도 나날이 커지고 있다. 최근 사회 문제가 되고 있는 불법 딥페이크는 앞으로 일어날 AI로 인한 부작용과 위험성의 빙산의 일각일지도 모른다. 사실 예전에는 이미지 합성 자체가 쉽지 않았다. 그래픽 도구를 활용해 합성을 해도 조잡하고 쉽게 알아볼 수 있었다. 최근의 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 딥페이크 제작은 예전에 비해 훨씬 쉬워졌고 합성 기술은 보다 정교해졌다. 해외 메신저를 통해 그들만이 음밀하게 공유하면서 불법 딥페이크는 추적도 어렵고 단속도 쉽지 않다.

딥 보이스도 언젠가는 딥페이크만큼 큰 사회적 문제가 될 수도 있다. 누군가 내 목소리를 얼마든지 악용할 수 있기 때문이다. 요즘 커뮤니티나 SNS 상에서 유저들이 우려하는 피해 사례는 아직 알려지지 않았거나 잘 드러나지 않았지만 보이스피싱보다 더 클 수도 있다. 앞으로는 내 목소리도 조심해야 할 시대가 찾아올 것 같다. 커뮤니티나 SNS 유저들이 우려하는 피해는 충분히 현실에서 일어날 수 있다.

최근 미국의 한 음악가는 AI를 이용해 곡을 많이 만들어 스트리밍 하는 수법으로 막대한 수익을 올렸다가 체포됐다. 이처럼 AI를 엉뚱한 방향으로 사용하는 일은 비일비재하다. 특히, 저작권은 아직 사회적 이슈가 되지 않았지만 언젠가는 문제가 불거질 시한폭탄과 같은 존재다. 생성형 AI가 학습을 통해 내놓는 답은 어딘가에서 자료를 가져와 이를 가공한 것이다. 이를 아무렇지도 않게 마치 자신이 알아서 만든 것처럼 프롬프트에 제시한다. 누군가가 힘들게 만든 콘텐츠인데도 출처 표기나 정당한 보상도 없이 가져다가 쓰곤 한다. 전국의 언론 유관단체들이 AI저작권을 문제 삼는 이유도 여기에 있다.

챗 GPT를 운영하는 오픈AI는 어려운 문제들에 대해 기존 AI보다 훨씬 더 잘 판단하는 ‘스트로베리’(Strawberry) AI를 선보일 것이라고 한다. 이 새 AI는 현재 챗봇들이 제대로 못하는 수학 문제들을 풀 수 있고 프로그래밍을 포함해 문제점들을 해결하도록 훈련됐다고 한다. 제품 마케팅 전략 같은 보다 주관적인 주제들에 대한 질문에도 대응할 수 있다고 알려지고 있다. 이 기술이 상용화되면 상당한 파급효과가 생길 것이다. 그만큼 이를 악용하는 사례도 늘어나고 더 지능화 될 것이다. 그때가 되면 부작용을 제어하기 힘들 지도 모른다.

AI의 진화는 동전의 앞뒤와 같다. AI를 어떻게 쓰느냐에 따라 긍정과 부정의 효과를 낳을 수 있다. 부작용이 크다고 해서 기술의 진화를 막을 수는 없다. 따라서 부작용이 커지기 전에 악용 사례를 막을 방안을 찾아야 한다. 사회적 합의를 통한 자정 방향을 찾고 빠른 시일 내에 제도적 장치를 마련해야 한다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실도 바꾸자. AI에게 태생적으로 윤리의식을 심어주거나 가이드라인을 만들고 적용하게 하자. 윤리나 자정능력이 없이 성능 향상에만 주력하는 AI가 발을 붙이지 못하도록 하자. 브레이크 없는 AI의 무한 진화, 섬뜩하지 않은가.

장세훈 디지털 부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1소각장 멈추면 쓰레기 대신 처리…부산·김해시 손 잡았다
  2. 2부산 야경지도 새로 그린다…서면·황령산·온천천 등 확대
  3. 3전력반도체 전문기업 기장에 둥지…부산 생태계 넓힌다
  4. 4①개관일정 차질없나 ②‘라 스칼라’ 대안은 ③역량있는 수장 찾을까
  5. 5단추마다 스티커…AI 커닝에 아날로그 뒷북 대응
  6. 6국힘, 가덕 공사비 현실화 특별법 개정 동참
  7. 7부적격 판단 기관장 임명 맹공…홍순헌 사과도
  8. 8수능 한파…부울경 19일 아침 최저기온 0~4도
  9. 9옛 한국유리 부지 대변신…바다·휴양·문화 어우러진 ‘일광 더 에스’
  10. 10최계락문학상 시상
  1. 1국힘, 가덕 공사비 현실화 특별법 개정 동참
  2. 2부적격 판단 기관장 임명 맹공…홍순헌 사과도
  3. 3수능 10년 응시제한 경고했지만…커닝기술 원천 차단 글쎄(종합)
  4. 4“배현진 1년”에 “네” 답한 윤리위원장…황경성 국힘 윤리위원, 외부인 징계 개입 정황 공개(종합)
  5. 5李 부재중 ‘조작기소 특검법’ 국무회의 통과…국힘 “韓총리가 이재명 탈옥법 공범” 맹비난
  6. 6국힘 시의원들 “지방 재정 우려”…미래기금 산정방식 재검토 요구
  7. 7市 “북항 돔 결정 전까지 사직 재건축 유보”
  8. 8[속보]이준석 “영국 출장 비행기서 AI커닝 방지 앱 개발…수능 때 이용하라”
  9. 9친명, 최민희 징계 총공세…친청 “신천지 진상규명” 역공
  10. 10금융기관 서울 잔류 옹호한 지방시대위원장 "서울 경제수도 위해 남을 가능성"
  1. 1전력반도체 전문기업 기장에 둥지…부산 생태계 넓힌다
  2. 2옛 한국유리 부지 대변신…바다·휴양·문화 어우러진 ‘일광 더 에스’
  3. 3시민단체 “수도권 잔류 최소화 세부기준 공개…산업은행에 적용을”
  4. 4회사 기밀도 빼갈라…AI 안경에 산업현장도 전전긍긍
  5. 5‘ATM 찾아 삼만리’…4대 은행 2년새 1200대 감소
  6. 6삼표시멘트, ESG 전 부문 4년간 A등급 이상
  7. 7주가지수- 2026년 11월 17일
  8. 8건설경기 한파 속 서부산 알짜 정비사업 탄력
  9. 9BTS공연 때처럼 예약 일방 취소, 앞으론 숙박료 2배 배상
  10. 105.7년간 월급 한 푼도 안 써야 부산에서 집 산다
  1. 1소각장 멈추면 쓰레기 대신 처리…부산·김해시 손 잡았다
  2. 2부산 야경지도 새로 그린다…서면·황령산·온천천 등 확대
  3. 3단추마다 스티커…AI 커닝에 아날로그 뒷북 대응
  4. 4수능 한파…부울경 19일 아침 최저기온 0~4도
  5. 5부산 유명 베이커리 직원 부당해고 논란…업주는 무고 역고소
  6. 6조기 종강 뒤 출국했던 대학교수, 학생들 항의에 온라인 ‘꼼수 보강’
  7. 7부산 시내버스 채용비리 ‘원 스트라이크 아웃’ 헛구호
  8. 8“주민 현안 꾸준히 알려온 국제신문 꼭 회생해야”
  9. 9실족 잦은 영도 포차거리, 연안 위험구역 지정
  10. 10재정난 부산, 남북협력기금 107억 ‘낮잠’…새 용처 찾아야
  1. 1“반복훈련이 답” 친정 거인 공수에 베테랑 DNA 심는다
  2. 2읏맨 신영철 감독, 건강 문제로 사퇴
  3. 3롯데 젊은 피 4인방 국제무대(아시아프로야구챔피언십)서 통했다
  4. 4LPGA CME그룹 챔피언십 19일 티오프
  5. 5“전국체전 금빛 물살, 친구랑 함께여서 더 좋아요”
  6. 6‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  7. 7색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
  8. 8아쉽다 최혜진…준우승만 10회
  9. 9알록달록 복장 뽐내고, 외국인도 러닝에 빠지고…모두 하나 된 축제
  10. 10다대포 모인 1만 마라토너…빗속에서도 신나게 달렸다
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
세계유산위원회, 부산의 시간을 세계와 나누다
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
국제적으로 주목받는 부산오페라하우스
부산 관광 다음 키워드는 ‘건축관광’
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
AI 커닝
허니 트랩(honey trap)
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
국제신문 살리라는 민심, 능인선원은 외면할 텐가
AI 첨단 커닝 현실화에도 뒷짐만 진 교육당국
세상읽기 [전체보기]
아무것도 사지 않아도 머물 수 있는가
문장 수집의 즐거움
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
5극3특 전략 속 부울경의 기회와 도전
부산, 준비가 돼있는가?
  • 맘편한 부산
  • 부산국제마라톤
  • BNK생명나눔챌린지
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내