2
부산메디클럽

은행, 부모까지 속았다?…AI 아바타, 범죄악용 주의보 무슨일?

WSJ 칼럼니스트 실험…음성 생체인식시스템도 뚫려

  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
바야흐로 챗GPT가 생활을 바꾸고 있다. 이런 챗봇 ‘챗GPT’를 비롯한 인공지능(AI) 기술로 일상생활이 편리해졌지만 그 이면에는 어떤 위험성이 있을까.

미국 일간 월스트리트저널(WSJ)의 IT 칼럼니스트 조안나 스턴은 28일(현지시간) ‘AI로 나 자신을 복제했다. 그녀가 은행과 내 가족을 속였다’는 제목의 기사에서 AI로 만든 아바타가 초래할 부작용을 경고했다.

스턴은 지난 몇개월간 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램을 활용해 ‘아바타’를 만드는 실험을 했다고 밝혔다.

그는 이렇게 생성된 ‘AI 아바타’가 나오는 동영상을 보고 “거울로 나 자신을 보는 것 같았다”고 말했다.

지난 6일 서울 강남구 코엑스에서 열린 ‘대한민국 맥주박람회 및 와인&로컬 드링크 페어’ 한 부스에서 서빙용 로봇을 시연하고 있다. 기사와 관련 없음. 연합뉴스
스턴은 여기서 한발 더 나아가 AI 아바타에 챗GPT로 생성한 대사를 입력해 자신 대신 동영상 공유 사이트나 화상회의에 출연하도록 해봤다.

그 결과 화상회의에선 지나치게 곧은 자세와 위트 부족으로 진짜 사람이 아니란 사실이 곧장 들통났지만, 상호작용이 상대적으로 적은 동영상 공유 사이트에선 비교적 쉽게 들키지 않았다고 그는 밝혔다.

스턴은 이와 동시에 음성 AI 스타트업 일레븐랩스(ElevenLabs)의 프로그램으로 ‘음성 아바타’를 만든 뒤 가족을 대상으로 자신의 실제 목소리와 구분할 수 있는지 시험하기도 했다.

매주 스턴과 여러 차례 통화한다는 여동생은 AI로 생성된 목소리가 호흡을 위해 대화 중 멈추지 않는 점을 제외하면 진짜와 매우 흡사하다는 반응을 보였다.

스턴의 아버지는 사회보장번호를 묻는 AI 음성에서 녹음 같은 느낌을 받고 ‘뭔가 벌어졌다’는 정도만 알아챘을 뿐 스턴 본인의 목소리가 아니라고 눈치채진 못한 것으로 전해졌다.

스턴은 “부모와 여동생조차 차이를 찾아내지 못한다면 다른 사람들에게 그것을 기대할 수 있겠는가”라면서 “잠재적 악용 가능성이 있는 게 현실”이라고 우려했다.

실제, 일레븐랩스 프로그램으로 생성한 AI 음성을 이용해 미 대형은행의 신용카드 관련 고객서비스를 이용해 본 결과 개인 목소리를 구분하는 생체인식 시스템을 손쉽게 통과할 수 있었다고 스턴은 밝혔다.

자동응답시스템이 AI 음성을 스턴 본인의 목소리로 인식해 직원에게 연결해줬다는 것이다.

은행 측 대변인은 신속한 업무를 위해 음성 생체인식 기술을 쓰고 있으며 고객이 금융 거래 등을 마무리하려면 추가 정보 제공이 필요하다고 강조했지만, 그런 정보가 유출된 상황이라면 보안이 뚫릴 위험성을 배제하기 힘들어 보인다.

스턴은 신세시아 프로그램과 일레븐랩스 프로그램 모두 AI 아바타가 살해 위협을 비롯한 비윤리적이거나 문제가 될 수 있는 내용을 제한하지 않는다고도 지적했다.

그러면서, 실제 사람과 구분되지 않는 AI 아바타가 우후죽순 생겨나 온라인 세상을 더욱 혼탁하게 만들 위험성이 있다고 경고했다.

스턴은 기사의 말미에서 AI 기술은 계속 발전할 것이라며 “나 자신을 진정한 인간으로 만드는데 더 많은 시간을 가지도록 AI 도구들을 활용할 계획”이라고 말했다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1통영 국도서 승용차-SUV 6중 추돌…운전자 등 8명 부상
  2. 2추석 연휴 울산서 아버지와 지적장애 아들 사망, 경찰 수사
  3. 3고속도로 요금소 주변에서 한눈팔면 큰 낭패 본다
  4. 4수도권 가구 평균 자산 7억 원 육박…비수도권의 1.7배
  5. 5[박수현의 꽃] 아토피 등 피부 질환 치료에 최고로 알려져
  6. 6대통령실 참모들, 추석직후부터 '총선 앞으로'
  7. 7[영상] 재난 관리 제각각... 온천천 사고 예방의 허점
  8. 8美 '반도체 인센티브' 계획 발표…정부 "업계와 공동 대응"
  9. 9“추석 연휴 이동 때는 지갑이나 여권 간수 잘하세요”
  10. 10美정부 셧다운 '초읽기'…하원의장 주도 임시예산안 하원서 부결
  1. 1대통령실 참모들, 추석직후부터 '총선 앞으로'
  2. 2검찰 '36회' 대 민주당 '376회'
  3. 3이재명의 영수회담 다목적 포석
  4. 4尹, ‘명절 근무’ 지구대 소방서 찾아 격려
  5. 5[종합]이재명, 尹 대통령에 '민생영수회담 제안'... 여 "뜬금포"에 야 "전제군주" 반박
  6. 6단식과 검찰로 보낸 이재명의 시간
  7. 7이재명, 尹에 '민생영수회담' 제안, 與 "뜬금없어, 대표회담부터"
  8. 8尹, 원폭피해 동포들과 오찬 "한일관계 미래지향적 발전시킬 것 "
  9. 9민주당 원내수석에 박주민 의원 선임
  10. 10연휴 첫날 인천공항 찾은 윤 대통령, "수출 수입 더 늘려야"
  1. 1고속도로 요금소 주변에서 한눈팔면 큰 낭패 본다
  2. 2수도권 가구 평균 자산 7억 원 육박…비수도권의 1.7배
  3. 3美 '반도체 인센티브' 계획 발표…정부 "업계와 공동 대응"
  4. 4“추석 연휴 이동 때는 지갑이나 여권 간수 잘하세요”
  5. 5기름값 12주째 상승…휘발유 1800원·경유 1700원 근접
  6. 6코스피, 3분기 지수 성과 G20 중 15위, 4분기 반등 주목
  7. 7기업대출 1년간 130조 증가.
  8. 8외식 물가, 27개월 연속 전체 평균 상회…부산은 33개월째
  9. 9여행자 통한 마약 밀수 올해 7.6배 급증…"특단 대책 시급"
  10. 10소형어선에 최첨단 기자재 해상실증한다
  1. 1통영 국도서 승용차-SUV 6중 추돌…운전자 등 8명 부상
  2. 2추석 연휴 울산서 아버지와 지적장애 아들 사망, 경찰 수사
  3. 3[영상] 재난 관리 제각각... 온천천 사고 예방의 허점
  4. 4귀경 본격화 고속도로 정체, 부산역, 김해공항 등도 북새통
  5. 530일, 부산, 울산, 경남 가끔 비…낮과 밤의 기온차가 10~15도
  6. 6진주 진성면 비닐하우스 화재…40대 남성 숨져
  7. 7"올해 유난히 덥더니" 온열질환 추정 사망자 역대 두번째
  8. 8귀경 본격화 고속도로 정체…부산~서울 6시간 50분 소요
  9. 9부산 버스 승강장에 멧돼지…엽사 사살
  10. 10귀경길 정체 새벽 1~2시 해소, 부산→서울 4시간 50분
  1. 1'윤학길 딸' 윤지수. "아버지와 맥주 마시고 싶어"
  2. 2[아시안게임] 롤러스케이트 정병희 金…여자축구, 북한에 1-4로 패배
  3. 3'우즈베크 유도' 쿠라시서 한국 첫 메달 "금메달까지 노린다"
  4. 4북한 역도 여자 49㎏급 리성금, 세계 신기록으로 금메달 '번쩍'
  5. 5[아시안게임] 여자 탁구 복식 신유빈-전지희, 북한 누르고 8강 진출
  6. 6[아시안 게임] 김우민 한국 수영 역대 3번째 3관왕
  7. 7[아시안게임]최동열 한국신기록으로 남자 평영 50m 동메달
  8. 8부산의 금빛 여검객 윤지수, 부상 안고 2관왕 찌른다
  9. 9추석연휴 첫날 金 쏟아지나…김우민 자유형 800m·황선우 계영 400m 출전
  10. 10‘요트 전설’ 하지민 아쉽게 4연패 무산
우리은행
  • 맘 편한 부산
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스