2
부산메디클럽

[국제칼럼] 딥페이크 자정능력을 갖춘 AI가 그립다

윤리없는 AI의 무한 진화, 딥보이스 등 부작용 낳아

기술 진화 못 따르는 법…조속한 정비에 힘 모아야

  • 장세훈 기자 garisani@kookje.co.kr
  •  |   입력 : 2024-09-08 19:06:31
  •  |   본지 23면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
“여보세요, 여보세요. 왜 말을 안 하지? 누구세요, 전화를 했으면 말을 하세요.” 누군가 내게 전화를 걸어왔는데 아무 말도 안 하는 경우가 있다. 이때 상대방 목소리가 들리기도 전에 내가 먼저 전화기에 대고 말을 한 적은 없는가. 앞으로는 모르는 사람의 전화가 걸려와 아무 말을 안 한다면 내 목소리를 상대방에게 먼저 들려주지 않는 게 좋을 것 같다. 딥 보이스(deep voice) 때문이다. 이 기술은 딥러닝을 기반으로 목소리를 합성하거나 변환하는 것을 말한다. AI(인공지능)가 진화를 거듭해 특정인의 목소리를 합성하는 기술도 급속도로 발전했다. 이제는 목소리 합성 기술이 범죄에 악용될 우려마저 제기되고 있다.

최근 커뮤니티나 SNS에서 딥 보이스를 우려하는 게시물이 곧잘 올라온다. 요즘 딥페이크 문제가 심각하다 보니 딥 보이스를 대수롭지 않게 여기거나 간과되고 있다. 하지만, 커뮤니티나 SNS에서 많은 유저들이 우려하는 일이 실제로 일어날 수도 있다. 녹음한 목소리 샘플이 있다면 AI로 얼마든지 학습이 가능하기 때문이다. AI가 그 사람의 특성을 학습한 뒤 사용자가 특정 텍스트를 넣으면 그 사람이 원하는 목소리로 손쉽게 만들어 준다. 전화로 통화한 사람의 목소리 샘플이 있다면 그 사람의 음성을 다른 뜻으로 얼마든지 구현해낼 수 있다.

AI 기술의 진화는 누구나 손쉽게 이미지나 음성을 합성할 수 있게 했다. 가령 우리나라 역사 속 인물들의 모습이나 목소리를 생생하게 구현해 낼 수 있다. 이렇게 AI기술을 선하게 사용한다면 사회에 많은 유익을 가져다 줄수 있다. 문제는 악용이다. 이런 사람들로 말미암아 AI 도구의 부작용과 위험성도 나날이 커지고 있다. 최근 사회 문제가 되고 있는 불법 딥페이크는 앞으로 일어날 AI로 인한 부작용과 위험성의 빙산의 일각일지도 모른다. 사실 예전에는 이미지 합성 자체가 쉽지 않았다. 그래픽 도구를 활용해 합성을 해도 조잡하고 쉽게 알아볼 수 있었다. 최근의 AI 기술로 만든 불법 딥페이크는 합성인지 실제인지 구분을 못할 정도다. 딥페이크 제작은 예전에 비해 훨씬 쉬워졌고 합성 기술은 보다 정교해졌다. 해외 메신저를 통해 그들만이 음밀하게 공유하면서 불법 딥페이크는 추적도 어렵고 단속도 쉽지 않다.

딥 보이스도 언젠가는 딥페이크만큼 큰 사회적 문제가 될 수도 있다. 누군가 내 목소리를 얼마든지 악용할 수 있기 때문이다. 요즘 커뮤니티나 SNS 상에서 유저들이 우려하는 피해 사례는 아직 알려지지 않았거나 잘 드러나지 않았지만 보이스피싱보다 더 클 수도 있다. 앞으로는 내 목소리도 조심해야 할 시대가 찾아올 것 같다. 커뮤니티나 SNS 유저들이 우려하는 피해는 충분히 현실에서 일어날 수 있다.

최근 미국의 한 음악가는 AI를 이용해 곡을 많이 만들어 스트리밍 하는 수법으로 막대한 수익을 올렸다가 체포됐다. 이처럼 AI를 엉뚱한 방향으로 사용하는 일은 비일비재하다. 특히, 저작권은 아직 사회적 이슈가 되지 않았지만 언젠가는 문제가 불거질 시한폭탄과 같은 존재다. 생성형 AI가 학습을 통해 내놓는 답은 어딘가에서 자료를 가져와 이를 가공한 것이다. 이를 아무렇지도 않게 마치 자신이 알아서 만든 것처럼 프롬프트에 제시한다. 누군가가 힘들게 만든 콘텐츠인데도 출처 표기나 정당한 보상도 없이 가져다가 쓰곤 한다. 전국의 언론 유관단체들이 AI저작권을 문제 삼는 이유도 여기에 있다.

챗 GPT를 운영하는 오픈AI는 어려운 문제들에 대해 기존 AI보다 훨씬 더 잘 판단하는 ‘스트로베리’(Strawberry) AI를 선보일 것이라고 한다. 이 새 AI는 현재 챗봇들이 제대로 못하는 수학 문제들을 풀 수 있고 프로그래밍을 포함해 문제점들을 해결하도록 훈련됐다고 한다. 제품 마케팅 전략 같은 보다 주관적인 주제들에 대한 질문에도 대응할 수 있다고 알려지고 있다. 이 기술이 상용화되면 상당한 파급효과가 생길 것이다. 그만큼 이를 악용하는 사례도 늘어나고 더 지능화 될 것이다. 그때가 되면 부작용을 제어하기 힘들 지도 모른다.

AI의 진화는 동전의 앞뒤와 같다. AI를 어떻게 쓰느냐에 따라 긍정과 부정의 효과를 낳을 수 있다. 부작용이 크다고 해서 기술의 진화를 막을 수는 없다. 따라서 부작용이 커지기 전에 악용 사례를 막을 방안을 찾아야 한다. 사회적 합의를 통한 자정 방향을 찾고 빠른 시일 내에 제도적 장치를 마련해야 한다. 법과 제도가 기술의 진화를 제대로 따라가지 못하는 현실도 바꾸자. AI에게 태생적으로 윤리의식을 심어주거나 가이드라인을 만들고 적용하게 하자. 윤리나 자정능력이 없이 성능 향상에만 주력하는 AI가 발을 붙이지 못하도록 하자. 브레이크 없는 AI의 무한 진화, 섬뜩하지 않은가.

장세훈 디지털 부문장
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1“부산시민과 함께 일군 승리” “능인선원 후속절차 협조해야”(종합)
  2. 22050년 인구 250만으로 ↓…부산 공간 재구조화 시급
  3. 3“부산 미래 팔아넘긴 죄” 북항 비리 ‘몸통’ 징역 15년 구형
  4. 4스페인판 산복도로 곳곳 승강기…주민 활동반경 넓혔다
  5. 5초등생 의붓딸들에 ‘나쁜손’…7년간 성폭행 계부 징역 35년
  6. 6법원, 회생계획 인가…국제신문 정상화 돌입(종합)
  7. 7전재수, 국회 예산안 심의 막바지에…경제·산업분야 증액 총력
  8. 8부산 첫 CR리츠 흥행 조짐…‘가야역 롯데캐슬’ 홍보관 텐트행렬
  9. 9[국제칼럼] AI라는 창과 방패
  10. 10[한 손 뉴스] 시민과 함께 키운 캐릭터 ‘부캉이’ 도시브랜드 대상
  1. 1전재수, 국회 예산안 심의 막바지에…경제·산업분야 증액 총력
  2. 2렌터카업체 저공해차 전환 지원…‘세수 지키기’ 조례 눈길
  3. 3울산 AIDC(AI 데이터센터) 건설현장 온 李, 인력양성 지원 약속
  4. 4민주 김민석 우울한 ‘취임 100일’…내부 통합·외연 확장 등 첩첩산중
  5. 5BRT 존폐 등 공론화로 결정…정책 반영 의무화 필요성도
  6. 6낙태죄 폐지 등 시민의회 공론화로 국민투표…개헌 이끌어
  7. 7이 대통령, 최교진 교육장관 사의 수락(종합)
  8. 8이재명 대통령, ‘대장동 의혹’ 또 반박…“업자와 결탁한 시장 아냐”
  9. 9與 “한덕수 판결, 절차가 曺 탄핵 사유…연내 의결 노력”
  10. 10李대통령, 울산 전통시장 두 곳 방문해 “내년엔 좀 더 좋아질 것”
  1. 1부산 첫 CR리츠 흥행 조짐…‘가야역 롯데캐슬’ 홍보관 텐트행렬
  2. 2수중드론 조종, 극지 간접 체험…해양수도 내일을 만난다
  3. 3센텀2지구 절반…풍산 토지보상 착수
  4. 4“정년 연장, 與 결론 안내면 정부 입장 낼 것”(종합)
  5. 5블랙 먼데이 덮칠라…‘증안펀드’ 준비하고 공매도 감시 강화
  6. 6한은 금주 금리인상 유력…긴축 고삐 죈다
  7. 7엔비디아 호실적마저 무색…AI 투자 한파에 코스피 ‘덜덜’
  8. 8샤오미 ‘AI 후면 디스플레이’ 탑재 신제품 출시
  9. 9“수전까지 하이엔드…압도적 해양복합공간 자신”
  10. 10합격예측 앱, 포털 환산점수 도구…손쉽게 대입 전략 세운다
  1. 1“부산시민과 함께 일군 승리” “능인선원 후속절차 협조해야”(종합)
  2. 22050년 인구 250만으로 ↓…부산 공간 재구조화 시급
  3. 3“부산 미래 팔아넘긴 죄” 북항 비리 ‘몸통’ 징역 15년 구형
  4. 4스페인판 산복도로 곳곳 승강기…주민 활동반경 넓혔다
  5. 5초등생 의붓딸들에 ‘나쁜손’…7년간 성폭행 계부 징역 35년
  6. 6법원, 회생계획 인가…국제신문 정상화 돌입(종합)
  7. 7[한 손 뉴스] 시민과 함께 키운 캐릭터 ‘부캉이’ 도시브랜드 대상
  8. 8지지해주신 시민 여러분, 머리 숙여 감사드립니다
  9. 9“서·논술형 등으로 바꾸자” 수능 개편론 확산
  10. 10부산 산복도로 인프라 기초단체가 전담… 市 나서 통합관리 필요성
  1. 1키움 히어로즈 임지열 받고 정철원 내준 롯데…외야 보강 첫 단추
  2. 2FIFA 회장 3파전
  3. 3엄지성·양현준·김민수 유럽파 펄펄…나란히 공격포인트
  4. 4부산, 충북청주 잡아야 PO행 보인다
  5. 5KBO 왕중왕 '45홈런' 김도영이냐 '197탈삼진' 곽빈이냐
  6. 6세계 야구 日 1위, 대만 2위, 韓 5위
  7. 7“장타비결요? 근력 운동하고 힘빼는 스윙이 최고”
  8. 8라스트 댄스 최민정, 안방서 금메달 도전
  9. 9선수 복귀 논란, 사령탑 공백…읏맨, 연이은 악재에 3연패 수렁
  10. 10타이거 우즈 2년5개월 만에 필드 컴백
우리은행
주민자치 모범현장 가다
낙태죄 폐지 등 시민의회 공론화로 국민투표…개헌 이끌어
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
강동진의 도시이야기 [전체보기]
부캉이가 알려준 부산의 비밀
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
AI라는 창과 방패
미래대응기금 쌓느라 지방재정 기반 흔드나
기고 [전체보기]
LPG 화물차 보조금, 현실 맞게 부활해야
일극의 한계, 다극의 설계
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
무너진 5천피
나이키의 혁신
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
AI 안경을 넘어 AI 렌즈까지…
제국의 도로, 인간의 혈관
목지수의 도시브랜드 산책 [전체보기]
OLD IS NEW
랜드마크 시스템의 시대
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
국제신문 정상화 시동, 시·도민께 보답하겠습니다
부전~마산선 붕괴, 책임 규명·재발 방지 대책 서둘러야
세상읽기 [전체보기]
위반 건축물 양성화제도 시행을 앞두고
경기력 향상 위한 2026아시안게임 돌아보기
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
5극3특 전략 속 부울경의 기회와 도전
부산, 준비가 돼있는가?
  • BNK생명나눔챌린지
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내