2
부산메디클럽

은행, 부모까지 속았다?…AI 아바타, 범죄악용 주의보 무슨일?

WSJ 칼럼니스트 실험…음성 생체인식시스템도 뚫려

  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
바야흐로 챗GPT가 생활을 바꾸고 있다. 이런 챗봇 ‘챗GPT’를 비롯한 인공지능(AI) 기술로 일상생활이 편리해졌지만 그 이면에는 어떤 위험성이 있을까.

미국 일간 월스트리트저널(WSJ)의 IT 칼럼니스트 조안나 스턴은 28일(현지시간) ‘AI로 나 자신을 복제했다. 그녀가 은행과 내 가족을 속였다’는 제목의 기사에서 AI로 만든 아바타가 초래할 부작용을 경고했다.

스턴은 지난 몇개월간 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램을 활용해 ‘아바타’를 만드는 실험을 했다고 밝혔다.

그는 이렇게 생성된 ‘AI 아바타’가 나오는 동영상을 보고 “거울로 나 자신을 보는 것 같았다”고 말했다.

지난 6일 서울 강남구 코엑스에서 열린 ‘대한민국 맥주박람회 및 와인&로컬 드링크 페어’ 한 부스에서 서빙용 로봇을 시연하고 있다. 기사와 관련 없음. 연합뉴스
스턴은 여기서 한발 더 나아가 AI 아바타에 챗GPT로 생성한 대사를 입력해 자신 대신 동영상 공유 사이트나 화상회의에 출연하도록 해봤다.

그 결과 화상회의에선 지나치게 곧은 자세와 위트 부족으로 진짜 사람이 아니란 사실이 곧장 들통났지만, 상호작용이 상대적으로 적은 동영상 공유 사이트에선 비교적 쉽게 들키지 않았다고 그는 밝혔다.

스턴은 이와 동시에 음성 AI 스타트업 일레븐랩스(ElevenLabs)의 프로그램으로 ‘음성 아바타’를 만든 뒤 가족을 대상으로 자신의 실제 목소리와 구분할 수 있는지 시험하기도 했다.

매주 스턴과 여러 차례 통화한다는 여동생은 AI로 생성된 목소리가 호흡을 위해 대화 중 멈추지 않는 점을 제외하면 진짜와 매우 흡사하다는 반응을 보였다.

스턴의 아버지는 사회보장번호를 묻는 AI 음성에서 녹음 같은 느낌을 받고 ‘뭔가 벌어졌다’는 정도만 알아챘을 뿐 스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌다.

스턴은 “부모와 여동생조차 차이를 찾아내지 못한다면 다른 사람들에게 그것을 기대할 수 있겠는가”라면서 “잠재적 악용 가능성이 있는 게 현실”이라고 우려했다.

실제, 일레븐랩스 프로그램으로 생성한 AI 음성을 이용해 미 대형은행의 신용카드 관련 고객서비스를 이용해 본 결과 개인 목소리를 구분하는 생체인식 시스템을 손쉽게 통과할 수 있었다고 스턴은 밝혔다.

자동응답시스템이 AI 음성을 스턴 본인의 목소리로 인식해 직원에게 연결해줬다는 것이다.

은행 측 대변인은 신속한 업무를 위해 음성 생체인식 기술을 쓰고 있으며 고객이 금융 거래 등을 마무리하려면 추가 정보 제공이 필요하다고 강조했지만, 그런 정보가 유출된 상황이라면 보안이 뚫릴 위험성을 배제하기 힘들어 보인다.

스턴은 신세시아 프로그램과 일레븐랩스 프로그램 모두 AI 아바타가 살해 위협을 비롯한 비윤리적이거나 문제가 될 수 있는 내용을 제한하지 않는다고도 지적했다.

그러면서, 실제 사람과 구분되지 않는 AI 아바타가 우후죽순 생겨나 온라인 세상을 더욱 혼탁하게 만들 위험성이 있다고 경고했다.

스턴은 기사의 말미에서 AI 기술은 계속 발전할 것이라며 “나 자신을 진정한 인간으로 만드는데 더 많은 시간을 가지도록 AI 도구들을 활용할 계획”이라고 말했다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1[속보]美공화 폭망에 손절 머스크 “난 MAGA 아냐…어리석어 시계 돌리고 싶다”
  2. 2의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  3. 3[속보] 리트 만점자, 강동구 모텔서 심정지 상태로 발견
  4. 4천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  5. 5해사는 진해 남는다…육사만 서울서 충청으로(종합)
  6. 6시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  7. 7‘리트 만점’ 이진우 씨 수능 공개검증 불참…연락두절
  8. 8국내 복귀 쌍용전력, 부산에 신규 생산시설 100억 투자
  9. 9“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  10. 10적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  1. 1해사는 진해 남는다…육사만 서울서 충청으로(종합)
  2. 2[속보] 한 총리, '지난해 수능 시험지 보관' 긴급 지시
  3. 3김민석에 막말 비판 중징계…선거법 위반 무혐의…부산 與비례 희비
  4. 4부산 러너공간 근거조례 상임위 통과
  5. 5불시 문자·신고 1억 포상 추가대책…시험 집중력 방해 논란
  6. 6李 순방 중 조작기소 특검법 재가, 野 "뻔뻔한 기습재가" (종합)
  7. 7與, 민주유공자법 19일 처리 추진…국힘 “모든 법안 필리버스터” 예고
  8. 8추경호 ‘계엄해제 방해’ 1심 무죄…法 “내란가담 증명 안돼”(종합)
  9. 9박찬종 전 의원 별세…세브란스병원에 주검 기증
  10. 10전현희 “청년창업 금융사다리 지역으로 확산”…BNK 1000억 지원 이끌어
  1. 1국내 복귀 쌍용전력, 부산에 신규 생산시설 100억 투자
  2. 2초품아·평지·역세권 ‘삼박자’, 중소형 실속까지 챙겼다…연산동 新 주거타운 부상
  3. 3AI·애니·모빌리티로 외연확장…지스타 1237개사 총출동
  4. 4소상공 금융지원 공백 없게…부산신보 자체 상담센터 추진
  5. 5"총인구 감소에도 수도권 인구 비중은 2045년 53.7%로 상승"
  6. 6“청년 창업기업 안정적 성장 기반을” BNK그룹, 1000억 금융지원 추진
  7. 7예탁원, 전자주총 플랫폼 ‘EVOP’ 개설
  8. 8국토부, ‘부정청약 40억대 시세차익’ 이혜훈 반포 원펜타스 계약취소 요청 공문
  9. 9주가지수- 2026년 11월 18일
  10. 10한-싱가포르 해저 ‘양자보안’ 시험망 구축
  1. 1의혹투성이 LEET(법학적성시험) 만점자…변호사들 줄고발(종합)
  2. 2[속보] 리트 만점자, 강동구 모텔서 심정지 상태로 발견
  3. 3천마산 전망대행 산길 불편 대책 없이…조명에 13억 투입
  4. 4시험 하루 앞 필기구 지침 바꿔…혼돈의 수능(종합)
  5. 5‘리트 만점’ 이진우 씨 수능 공개검증 불참…연락두절
  6. 6“지광, 회생 동의 않을 땐 법원 현명한 결단해달라”
  7. 7적자 사하구 ‘조직 다이어트’ 추진에…野 구의원 반대기류
  8. 8감평사를 6개월만에? 합격수기 비공개…관세사 시험 수석은 공개행보 아예 없어
  9. 9‘리트 만점’ 추정인물 고의 교통사고로 징역형에 경찰 폭행도
  10. 10국내외 원전기업 창원에 다 모였네
  1. 1선수 복귀 논란, 사령탑 공백…읏맨, 연이은 악재에 3연패 수렁
  2. 2시간 없었나, 능력 없었나…모레노는 물음표
  3. 3타이거 우즈 2년5개월 만에 필드 컴백
  4. 4“반복훈련이 답” 친정 거인 공수에 베테랑 DNA 심는다
  5. 5롯데 젊은 피 4인방 국제무대(아시아프로야구챔피언십)서 통했다
  6. 6읏맨 신영철 감독, 건강 문제로 사퇴
  7. 7LPGA CME그룹 챔피언십 19일 티오프
  8. 8“전국체전 금빛 물살, 친구랑 함께여서 더 좋아요”
  9. 9‘FA 잔혹사’ 거인, 3년 만에 화끈하게 지갑 열까
  10. 10색깔 찾지 못한 모레노…깜깜하기만 한 韓 축구
우리은행
  • BNK생명나눔챌린지
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내