2
부산메디클럽

[국제칼럼] 딥페이크 자정능력을 갖춘 AI가 그립다

윤리없는 AI의 무한 진화, 딥보이스 등 부작용 낳아

기술 진화 못 따르는 법…조속한 정비에 힘 모아야

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-09-08 19:06:31
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
“여보세요, 여보세요. 왜 말을 안 하지? 누구세요, 전화를 했으면 말을 하세요.” 누군가 내게 전화를 걸어왔는데 아무 말도 안 하는 경우가 있다. 이때 상대방 목소리가 들리기도 전에 내가 먼저 전화기에 대고 말을 한 적은 없는가. 앞으로는 모르는 사람의 전화가 걸려와 아무 말을 안 한다면 내 목소리를 상대방에게 먼저 들려주지 않는 게 좋을 것 같다. 딥 보이스(deep voice) 때문이다. 이 기술은 딥러닝을 기반으로 목소리를 합성하거나 변환하는 것을 말한다. AI(인공지능)가 진화를 거듭해 특정인의 목소리를 합성하는 기술도 급속도로 발전했다. 이제는 목소리 합성 기술이 범죄에 악용될 우려마저 제기되고 있다.

최근 커뮤니티나 SNS에서 딥 보이스를 우려하는 게시물이 곧잘 올라온다. 요즘 딥페이크 문제가 심각하다 보니 딥 보이스를 대수롭지 않게 여기거나 간과되고 있다. 하지만, 커뮤니티나 SNS에서 많은 유저들이 우려하는 일이 실제로 일어날 수도 있다. 녹음한 목소리 샘플이 있다면 AI로 얼마든지 학습이 가능하기 때문이다. AI가 그 사람의 특성을 학습한 뒤 사용자가 특정 텍스트를 넣으면 그 사람이 원하는 목소리로 손쉽게 만들어 준다. 전화로 통화한 사람의 목소리 샘플이 있다면 그 사람의 음성을 다른 뜻으로 얼마든지 구현해낼 수 있다.

AI 기술의 진화는 누구나 손쉽게 이미지나 음성을 합성할 수 있게 했다. 가령 우리나라 역사 속 인물들의 모습이나 목소리를 생생하게 구현해 낼 수 있다. 이렇게 AI기술을 선하게 사용한다면 사회에 많은 유익을 가져다 줄수 있다. 문제는 악용이다. 이런 사람들로 말미암아 AI 도구의 부작용과 위험성도 나날이 커지고 있다. 최근 사회 문제가 되고 있는 불법 딥페이크는 앞으로 일어날 AI로 인한 부작용과 위험성의 빙산의 일각일지도 모른다. 사실 예전에는 이미지 합성 자체가 쉽지 않았다. 그래픽 도구를 활용해 합성을 해도 조잡하고 쉽게 알아볼 수 있었다. 최근의 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 딥페이크 제작은 예전에 비해 훨씬 쉬워졌고 합성 기술은 보다 정교해졌다. 해외 메신저를 통해 그들만이 음밀하게 공유하면서 불법 딥페이크는 추적도 어렵고 단속도 쉽지 않다.

딥 보이스도 언젠가는 딥페이크만큼 큰 사회적 문제가 될 수도 있다. 누군가 내 목소리를 얼마든지 악용할 수 있기 때문이다. 요즘 커뮤니티나 SNS 상에서 유저들이 우려하는 피해 사례는 아직 알려지지 않았거나 잘 드러나지 않았지만 보이스피싱보다 더 클 수도 있다. 앞으로는 내 목소리도 조심해야 할 시대가 찾아올 것 같다. 커뮤니티나 SNS 유저들이 우려하는 피해는 충분히 현실에서 일어날 수 있다.

최근 미국의 한 음악가는 AI를 이용해 곡을 많이 만들어 스트리밍 하는 수법으로 막대한 수익을 올렸다가 체포됐다. 이처럼 AI를 엉뚱한 방향으로 사용하는 일은 비일비재하다. 특히, 저작권은 아직 사회적 이슈가 되지 않았지만 언젠가는 문제가 불거질 시한폭탄과 같은 존재다. 생성형 AI가 학습을 통해 내놓는 답은 어딘가에서 자료를 가져와 이를 가공한 것이다. 이를 아무렇지도 않게 마치 자신이 알아서 만든 것처럼 프롬프트에 제시한다. 누군가가 힘들게 만든 콘텐츠인데도 출처 표기나 정당한 보상도 없이 가져다가 쓰곤 한다. 전국의 언론 유관단체들이 AI저작권을 문제 삼는 이유도 여기에 있다.

챗 GPT를 운영하는 오픈AI는 어려운 문제들에 대해 기존 AI보다 훨씬 더 잘 판단하는 ‘스트로베리’(Strawberry) AI를 선보일 것이라고 한다. 이 새 AI는 현재 챗봇들이 제대로 못하는 수학 문제들을 풀 수 있고 프로그래밍을 포함해 문제점들을 해결하도록 훈련됐다고 한다. 제품 마케팅 전략 같은 보다 주관적인 주제들에 대한 질문에도 대응할 수 있다고 알려지고 있다. 이 기술이 상용화되면 상당한 파급효과가 생길 것이다. 그만큼 이를 악용하는 사례도 늘어나고 더 지능화 될 것이다. 그때가 되면 부작용을 제어하기 힘들 지도 모른다.

AI의 진화는 동전의 앞뒤와 같다. AI를 어떻게 쓰느냐에 따라 긍정과 부정의 효과를 낳을 수 있다. 부작용이 크다고 해서 기술의 진화를 막을 수는 없다. 따라서 부작용이 커지기 전에 악용 사례를 막을 방안을 찾아야 한다. 사회적 합의를 통한 자정 방향을 찾고 빠른 시일 내에 제도적 장치를 마련해야 한다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실도 바꾸자. AI에게 태생적으로 윤리의식을 심어주거나 가이드라인을 만들고 적용하게 하자. 윤리나 자정능력이 없이 성능 향상에만 주력하는 AI가 발을 붙이지 못하도록 하자. 브레이크 없는 AI의 무한 진화, 섬뜩하지 않은가.

장세훈 디지털 부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  2. 2의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  3. 3국내 복귀 쌍용전력, 부산에 신규 생산시설 100억 투자
  4. 4해사는 진해 남는다…육사만 서울서 충청으로(종합)
  5. 5“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  6. 6시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  7. 7적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  8. 8감평사를 6개월만에? 합격수기 비공개…관세사 시험 수석은 공개행보 아예 없어
  9. 9‘이병주 평전’ 저자에게 듣는다, 독자를 두루 ‘섬긴’ 나림의 문학
  10. 10스폰지 재질 귀마개는 허용…폰은 전원 끈 뒤 제출
  1. 1해사는 진해 남는다…육사만 서울서 충청으로(종합)
  2. 2김민석 비판 중징계…선거법 위반 무혐의…부산 與비례 희비
  3. 3부산 러너공간 근거조례 상임위 통과
  4. 4불시 문자·신고 1억 포상 추가대책…시험 집중력 방해 논란
  5. 5추경호 ‘계엄해제 방해’ 1심 무죄…法 “내란가담 증명 안돼”(종합)
  6. 6與, 민주유공자법 19일 처리 추진…국힘 “모든 법안 필리버스터” 예고
  7. 7부적격 판단 기관장 임명 맹공…홍순헌 사과도
  8. 8국힘, 가덕 공사비 현실화 특별법 개정 동참
  9. 9육사, 충청권 이전…해사·공사는 기존 위치 활용
  10. 10수능 10년 응시제한 경고했지만…커닝기술 원천 차단 글쎄(종합)
  1. 1국내 복귀 쌍용전력, 부산에 신규 생산시설 100억 투자
  2. 2초품아·평지·역세권 ‘삼박자’, 중소형 실속까지 챙겼다…연산동 新 주거타운 부상
  3. 3AI·애니·모빌리티로 외연확장…지스타 1237개사 총출동
  4. 4소상공 금융지원 공백 없게…부산신보 자체 상담센터 추진
  5. 5예탁원, 전자주총 플랫폼 ‘EVOP’ 개설
  6. 6“청년 창업기업 안정적 성장 기반을” BNK그룹, 1000억 금융지원 추진
  7. 7주가지수- 2026년 11월 18일
  8. 8전력반도체 전문기업 기장에 둥지…부산 생태계 넓힌다
  9. 9옛 한국유리 부지 대변신…바다·휴양·문화 어우러진 ‘일광 더 에스’
  10. 10돼지털 팔던 한국, 반도체 등으로 수출 1조 달러 달성 눈앞에
  1. 1천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  2. 2의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  3. 3“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  4. 4시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  5. 5적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  6. 6감평사를 6개월만에? 합격수기 비공개…관세사 시험 수석은 공개행보 아예 없어
  7. 7스폰지 재질 귀마개는 허용…폰은 전원 끈 뒤 제출
  8. 8국내외 원전기업 창원에 다 모였네
  9. 9부산대·동의대도 털렸다, 지역 대학가 ‘해킹 비상’
  10. 10“위급문자 차단 가능” 미확인 썰 확산
  1. 1시간 없었나, 능력 없었나…모레노는 물음표
  2. 2선수 복귀 논란, 사령탑 공백…읏맨, 연이은 악재에 3연패 수렁
  3. 3타이거 우즈 2년5개월 만에 필드 컴백
  4. 4롯데 젊은 피 4인방 국제무대(아시아프로야구챔피언십)서 통했다
  5. 5“반복훈련이 답” 친정 거인 공수에 베테랑 DNA 심는다
  6. 6읏맨 신영철 감독, 건강 문제로 사퇴
  7. 7LPGA CME그룹 챔피언십 19일 티오프
  8. 8“전국체전 금빛 물살, 친구랑 함께여서 더 좋아요”
  9. 9‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  10. 10색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
세계유산위원회, 부산의 시간을 세계와 나누다
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
일극의 한계, 다극의 설계
국제적으로 주목받는 부산오페라하우스
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
창업주의 복귀
AI 커닝
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
국제신문 회생, 법원의 전향적 판단 촉구한다
AI 커닝 우려 속 공정한 수능 환경 조성에 만전 기해야
세상읽기 [전체보기]
경기력 향상 위한 2026아시안게임 돌아보기
아무것도 사지 않아도 머물 수 있는가
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
5극3특 전략 속 부울경의 기회와 도전
부산, 준비가 돼있는가?
  • 맘편한 부산
  • 부산국제마라톤
  • BNK생명나눔챌린지
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내