2
부산메디클럽

[과학에세이] 인공지능안전센터에서 인공지능 IAEA로

장종욱 동의대 컴퓨터공학과 교수·스마트IT연구소장

  • 장종욱 동의대 컴퓨터공학과 교수·스마트IT연구소장
  •  |   입력 : 2023-07-31 19:14:53
  •  |   본지 22면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
로봇이 인간을 대체할 날이 얼마나 가까워졌길래 많은 전문가들이 인공지능의 위험성을 경고하는 걸까. 작년 말에 출시된 ‘챗GPT’를 포함하는 생성형 인공지능은 엄청난 인기를 모은 동시에 인공지능의 영향에 대해 격론을 일으켰다.

딥러닝의 아버지로 불리는 제프리 힌턴, 오픈AI 샘 알트먼 대표, 구글 딥마인드 CEO 데미스 허사비스를 포함하는 수십 명의 전문가들이 비영리기구 ‘인공지능안전센터’(Center for AI Safety) 웹사이트에 게시된 성명에 지지를 표했다. 성명에 따르면, “AI로 인한 멸종 위험을 완화하는 것이 전염병이나 핵전쟁과 같은 사회적 규모의 다른 위협처럼 전 세계적 우선순위가 되어야 한다”는 것이다. 특히 알트먼 대표는 미국 의회 청문회에 출석해 AI 기술에 대한 정부 규제와 개입을 요구했다.

전 세계적인 생성형 AI 열풍을 불러온 장본인이 AI 규제 필요성을 강조하는 어색한 상황인 셈인데 그가 우려하는 부분은 악용 가능성이다. 인공지능이 만들어 낸 거짓 정보는 정치·경제 영역에 심각한 혼란을 일으킬 수 있고, 사이버범죄에 활용될 가능성도 많다.

이런 우려가 과장됐다고 말하는 이들도 있다. 빌 게이츠는 인공지능안전센터(CAIS)가 발표한 성명서에 서명한 수십 명의 전문가 중 한 명이지만 지난 7월 개인 블로그 ‘게이츠노트(GatesNotes)’에 적힌 그의 견해는 ‘장기적’ 위험과 ‘즉각적’ 위험을 비교하는 논쟁 구도를 잡고, ‘이미 존재하거나 곧 존재할 위험’에 초점을 맞추고 있다. 게이츠의 블로그에는 공포감을 조성하는 내용이 없다. 사실 실존적 위험은 전혀 찾아볼 수 없다. 반면에 메타 AI의 얀 르쿤, 조엘 피노는 실존적 위험에 대한 논의가 ‘터무니없고’ ‘혼란스럽다’고 생각하며, 시그널(Signal)의 메러디스 휘터커는 힌턴과 다른 사람들이 제기하는 우려는 ‘괴담’이라 생각한다는 견해이다.

다양한 견해 속에 우리는 어떠한 조치를 취해야 하나? 지난 월드코인 밋업 서울행사에 참여했던 알트먼 오픈AI 대표는 “사회가 AGI 시스템을 어떻게 받아들이고, 사람과 머신의 역할을 어떻게 구분할 것인가가 중요한데, 여기에 대한 답은 없다. 다만 사회가 그 답을 찾아야 하고 사회에서 만들어진 시스템이 우리 삶에 통합되면 인류에게 유용하게 작용할 것으로 생각한다”고 말했다.

우리 사회도 답을 찾아야 할 시점이다. 다행히도 각 국가가 답을 찾기 시작한 것 같다. 지난 6월 유럽의회에서 ‘유럽연합 AI법(EU AI Act)’이 통과됐다. 이 법은 현재 전 세계에서 가장 앞선 형태의 AI 규제안이기 때문에 중요한 이정표라 할 수 있다. 왜냐하면 AI 기술 자체는 미국이나 중국이 더 앞서 있지만, 그 기술의 이용을 제한하는 규제는 유럽이 주도하고 있기 때문이다.

어떤 내용이길래 가장 앞선 형태의 규제라고 하는 걸까. 핵심은 이 법안이 AI 시스템을 위험 정도에 근거해 세 가지 카테고리로 분류하고 그에 따른 대응책을 명시하고 있다는 점이다.

첫째, ‘수용 불가능한 위험’ 군에는 공공장소에서 안면인식 AI 기술을 이용해 실시간으로 생체 정보를 수집해 신원을 확인하거나, 정부나 공공기관이 개인의 데이터를 바탕으로 사회 신용점수를 부여해 보험이나 대출 등에 이용하는 것이 포함된다. 이 카테고리에 속하는 AI 기술은 금지 대상이다. 둘째, 고위험군에는 AI 알고리즘을 이용해 구직자의 이력서를 분류하고 고용 여부를 결정짓는 일 등이 포함된다. 과거 백인 남성이 주로 고용되었다는 데이터를 바탕으로 미래의 구직자 중에도 백인 남성을 더 우수하다고 평가하는 건 실제 미국 아마존 채용 시 벌어졌던 일이다. 셋째, 저위험군에 속하는 기술은 규제 대상이 아니다.

한국도 ‘인공지능산업 육성 및 신뢰 기반 조성 등에 관한 법률안’이 국회에 계류 중이다. 필자는 전 세계적으로 인공지능의 위험성을 통제할 수 있는 국제원자력기구 IAEA와 같은 인공지능 통제 국제기구도 필요한 시점이라고 말하고 싶다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1김해 안동1지구, 재산권 숨통 트인다
  2. 2음주운전 장소 허위 기재 혐의…부산 구청장 송치
  3. 3창원산단 문화랜드마크 이달 후보지 윤곽 나온다
  4. 4온라인몰에 은닉용 카메라·이어폰 널려…수능 D-3 초비상(종합)
  5. 5산청군, 출생부터 고교 졸업까지 1인당 최대 2억3000만 원 지원
  6. 6교통과태료 고지서 카톡으로…단속사진·영상도 모바일 확인
  7. 7부산 다주택자 3년 연속 증가…작년 17만5021명 '역대 최다'
  8. 8상의 회장선거 넉달 앞…너무 조용한 부산 상공계
  9. 9세무사 수석합격자 “AI로 부정행위” 경찰 자수(종합)
  10. 10부산해사법원 본청사 후보지 현장실사…내달 결정
  1. 115분도시 내실 부족 꼬집고, 동백전 쿠폰 사용 저조 질타
  2. 2최민희 윤리심판원 이첩…친명 vs 친청 점입가경
  3. 3한동훈 ‘징계조작’ 추가폭로 예고…찻잔 속 태풍?
  4. 4개혁신당 “수능 연기하는 방안 검토해야”
  5. 5이 대통령 지지율 36.4%…민주 34.6%·국힘 43%
  6. 6정연욱, 친한·반장파와 결다른 행보
  7. 7특검법 의결 앞…국힘 부산역 집결 “이재명 탈옥법 막아야”
  8. 8李, 한미·한중 정상회담 할까…다자외교 슈퍼위크
  9. 9조정식 의장, 개헌자문위원장에 김형오·정세균 전 의장 위촉…개헌 시동
  10. 1019일 수능시험장 스마트기기 반납, 공공 와이파이 차단 추진
  1. 1부산 다주택자 3년 연속 증가…작년 17만5021명 '역대 최다'
  2. 2상의 회장선거 넉달 앞…너무 조용한 부산 상공계
  3. 3HJ重 3분기 영업익, 작년보다 8배 성장(종합)
  4. 4박재호 전 의원, 중진공 신임 이사장 취임
  5. 5부산지역 부동산시장 소비심리지수 한 달 만에 하락
  6. 6정부 로봇 액추에이터 지원 본격화…동남권 기업에 열린 ‘기회의 창’
  7. 7겨울옷부터 귀 따뜻한 헤드폰까지…방한품·연말선물 마케팅 ‘후끈’
  8. 8SNS서 입소문 탄 해남 고구마 맛탕, 신세계 센텀서 팝업
  9. 9엿·찹쌀떡 심심해…이색디저트 수능 선물 인기
  10. 10중기중앙회도, 인제대도 개인정보 잇단 해킹피해
  1. 1김해 안동1지구, 재산권 숨통 트인다
  2. 2음주운전 장소 허위 기재 혐의…부산 구청장 송치
  3. 3창원산단 문화랜드마크 이달 후보지 윤곽 나온다
  4. 4온라인몰에 은닉용 카메라·이어폰 널려…수능 D-3 초비상(종합)
  5. 5산청군, 출생부터 고교 졸업까지 1인당 최대 2억3000만 원 지원
  6. 6교통과태료 고지서 카톡으로…단속사진·영상도 모바일 확인
  7. 7세무사 수석합격자 “AI로 부정행위” 경찰 자수(종합)
  8. 8부산해사법원 본청사 후보지 현장실사…내달 결정
  9. 9부산, 세계 해양도시 7위 도약
  10. 10전동차 비상버튼 누르고 승용차 훔친 러 선원 구속(종합)
  1. 1알록달록 복장 뽐내고, 외국인도 러닝에 빠지고…모두 하나 된 축제
  2. 2다대포 모인 1만 마라토너…빗속에서도 신나게 달렸다
  3. 384세 어르신도, 꼬맹이도…궂은 날씨 뚫고 열정이 달렸다
  4. 4하프 코스 여자 1위 정순연 씨 “3년 연속 우승…꾸준한 훈련 빛나”
  5. 5하프 코스 남자 1위 박지웅 씨 “개인 기록 경신…내년엔 풀코스 도전”
  6. 610㎞ 코스 남자 1위 감진규 씨 “맞바람 페이스 조절로 2연승 일궈”
  7. 710㎞ 코스 여자 1위 전수진 씨 “감각 믿고 달려…세 번 도전 끝 결실”
  8. 8‘21점 차 뒤집었다’ 부산 KCC, 한국가스공사 꺾고 파죽의 5연승
  9. 9김도영 결승포…한국, 대만 6-4 꺾고 APBC 결승행
  10. 10신진서, 당이페이에 174수 만에 불계승…삼성화재배 4강
우리은행
주민자치 모범현장 가다
지방의회 아래 선출직 주민의회…술집 개업 등 찬반 권한
주민자치 모범현장 가다
‘주민대표’가 건축 세부사항까지 의견…지방의회 심사 반영
강동진의 도시이야기 [전체보기]
바흐를 찾아간 나, 한국을 꿈꾸는 그녀
세계유산위원회, 부산의 시간을 세계와 나누다
경제프리즘 [전체보기]
소비 아닌 문화 생산 주체 오페라하우스
한국 갯벌의 2단계 확대 등재 의미
과학에세이 [전체보기]
커져가는 기후참사와 불평등
‘지구와 환경을 살리는 과학’ 그린리모델링
국제칼럼 [전체보기]
미래대응기금 쌓느라 지방재정 기반 흔드나
이 즈음, 다시 나림(那林)을 생각한다
기고 [전체보기]
국제적으로 주목받는 부산오페라하우스
부산 관광 다음 키워드는 ‘건축관광’
기자수첩 [전체보기]
금고 이사장 전횡, 지금도 진행중
엘리트 자평해온 市 공무원…생중계 회의서 능력 입증을
김준희의 클래식 인사이트 [전체보기]
세레나데, 다정한 위로
여름의 끝자락, 브람스
김지윤의 우리음악 이야기 [전체보기]
다대포에서 만난 퇴계 이황
세종시대 음악이 전해진 이유
뉴스와 현장 [전체보기]
‘탈서울’ 안 된다던 원안위, 세종행에 왜 침묵하나
AX·반도체 전시회 5개 동시에 열렸는데…
도청도설 [전체보기]
허니 트랩(honey trap)
부산대 시계탑
독자 투고 [전체보기]
새로운 시작 ‘황혼 이혼’
무료 화장실 깨끗하게 쓰자
메디칼럼 [전체보기]
제국의 도로, 인간의 혈관
감기약을 먹어도 감기가 낫지 않는 이유
목지수의 도시브랜드 산책 [전체보기]
랜드마크 시스템의 시대
북항 돔구장에서 야구 보며 사우나를
박지욱의 뇌력이 매력 [전체보기]
‘운동 좀비’가 되자!
건망증, 이렇게 잡자
박진희의 컬처 픽 [전체보기]
‘부캉이’ 스펙터클에서 공존으로
부산 문화정책, 지금 필요한 선택
사설 [전체보기]
세계 7위 오른 부산, 해양산업 경쟁력 키워야
첫 미·중·러 정상회담, 한반도 문제 당사국 패싱 안 돼
세상읽기 [전체보기]
아무것도 사지 않아도 머물 수 있는가
문장 수집의 즐거움
안재철의 연결하는 공간 [전체보기]
오래된 건축이 만드는 새로운 연결
지구와 도시의 연결을 묻다
엄길청의 문전성시 [전체보기]
말과 현실이 너무 다른 부산
반도체와 부산
이보성의 미술 현장 산책 [전체보기]
두 미술관, 각자의 역할을 묻다
시장이 강해진 것일까, 비엔날레가 약해진 것일까
이상이 칼럼 [전체보기]
복지의 ‘필요 원칙’과 포퓰리즘
보건의료에서 지방정부 역할과 ‘정책 의료’
이제명의 오션 드림 [전체보기]
기다림에도 비용이 든다
광복 81년, 다음은 바다의 산업 주권
이홍의 세상현미경 [전체보기]
대규모 대미 투자, 기회인가 위협인가
국제질서의 지각변동과 한국의 성장경로
정쾌호의 부동산 탐구생활 [전체보기]
부산 아파트 10년, 이중 양극화와 위상 추락
미분양의 경고, 지방 맞춤 ‘출구전략’ 서둘러야
주재민의 명당을 찾아서 [전체보기]
사람은 갔어도 명당은 남아 있다
조선 8대 명당 중 하나인 정문도 묘
최태호의 와인 한 잔 [전체보기]
와인은 어떻게 마음에 남는가
추석의 식탁, 가족을 잇는 와인
특별기고 [전체보기]
국제신문 회생, 법 조문 2개면 충분하다
‘해양수도 부산’ 토대부터 바로 놓아야
하순봉의 음악이야기 [전체보기]
영남악파
박자와 기보
황정수의 그림산책 [전체보기]
양달석의 ‘목동’
이대원의 ‘온정리 풍경’
CEO 칼럼 [전체보기]
부산, 준비가 돼있는가?
십시일반(十匙一飯), 나눔이 만드는 연말의 온도
  • 맘편한 부산
  • 부산국제마라톤
  • BNK생명나눔챌린지
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내