2
부산메디클럽

[과학에세이] AI 윤리교육은 왜 필요한가?

남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장

  • 남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장
  •  |   입력 : 2023-06-05 19:34:00
  •  |   본지 18면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
과학기술의 발달 속도에 맞춰 사회 변화가 빠르게 일어나는 경우, 기존 법과 질서, 윤리가 그 속도를 쫓아가지 못하는 현상은 인류사에서 흔하게 관측되는 풍경이다. 최근 인공지능(AI)이 빠르게 발전하면서 인공지능 분야에도 이 같은 현상이 나타나고 있다.

출시 두 달 만에 1억 명 사용자를 돌파한 인공지능 챗봇 ‘챗GPT’에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다.

인공지능의 윤리 문제는 앞선 AI 모델들도 피해 가지 못했다. 2015년 구글 포토가 흑인 커플 사진을 ‘고릴라’로 분류해 큰 물의를 일으켜 알고리즘을 수정하는 사건이 있었고, 2016년 마이크로소프트(MS)의 채팅봇 ‘테이’는 악성 사용자들과의 대화로부터 학습한 백인 우월주의 및 여성 혐오를 바탕으로 비윤리적인 대화를 수행해 출시 16시간 만에 운영 중단됐다. 2020년에는 국내 인공지능 스타트업 회사 ‘스캐터랩’이 개발한 AI 챗봇 ‘이루다’는 인공지능과 대화를 하는 혁신적 기술로 주목받았지만 인공지능을 향한 사용자들의 윤리 문제가 있었고, 이를 학습한 ‘이루다’가 약자 혐오 등의 발언을 하는 AI 윤리 문제까지 일어나 출시 20일 만에 서비스를 중단해야 했다.

이처럼 인간과 인공지능 사이의 상호적 윤리문제가 지속적으로 발생함에 따라 인공지능의 윤리적인 개발과 활용 방법을 연구하는 ‘인공지능 윤리’가 나란히 발전해 왔다. 인공지능 윤리는 인공지능의 개발자 제공자 사용자 등 모든 이해관계자가 준수해야 하는 도덕적 규범이자 자율규범으로, 인공지능 사용으로 각종 비윤리적인 행동이나 결과가 발생하지 않도록 사후적으로 방지하는 내용을 말한다.

구글, 마이크로소프트 등 IT 기업을 비롯해 유럽연합, 미국 등에서 평등한, 착한 AI를 위한 윤리 규범 및 가이드라인을 정립해 왔다. 우리나라 역시 2020년 12월 과학기술정보통신부를 필두로 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.

인공지능은 윤리 규정에 맞게 설계되었기에 윤리적 중립을 지켜 차별적이거나 혐오 표현, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다. 그러나 이러한 답변 제한을 교묘하게 우회해서 차별적이거나 폭력적인 답변을 유도하는 ‘탈옥(Jailbreak)’ 혹은 ‘우회(Bypass)’ 방법을 적용하면 이러한 규정이 힘을 쓸 수 없게 된다. 또한 이제까지 출시된 AI 중 가장 지능화된 ‘챗GPT’의 파급력은 표절, 저작권 침해, 범죄 이용 등 악용사례 속출로도 이어져 AI의 윤리적 활용에 대해서도 사회적 논의가 필요하다.

실제 지난달 국내 한 국제학교에서 챗GPT를 활용해 영문 에세이를 제출한 학생들이 0점 처리되는 일이 발생한 것으로 알려졌다. 보고서 과제가 많은 대학가에도 챗GPT를 활용했다는 경험담이 속속 나오고 있다. 이 같은 표절 문제가 교육 현장에 빠르게 확산되는 건 시간문제라는 우려가 나오고 있다. 필연적으로 AI와 공존할 미래 세대에게 AI 윤리 교육이 필요하다는 여론이 강해지고 있는 이유이다. AI의 윤리적 문제들은 AI가 학습할 데이터를 제공하는 사용자의 윤리 의식에서 기인하기 때문이다. 편향적인 윤리의식은 나쁜 AI를 만들고 AI의 악용은 과학기술 발달을 저해한다.

사티아 나델라 마이크로소프트 CEO는 “인공지능이 우리가 일하는 방식을 근본적으로 바꾸고, 생산성 증대의 새로운 물결을 일으킬 것”이라고 강조했다. 이를 증명하듯 많은 기업이 전화 상담 대신 AI 상담을 진행하고 있으며, 현재 가장 인기 있는 인공지능 챗GPT는 학습에서 마케팅까지 전방위적으로 쓰이고 있다.

인공지능과 함께하는 시대적 흐름은 거스를 수 없다. 과학기술 발달을 저해하지 않고 윤리문제를 해결하기 위해서는 사용자들이 스스로 인공지능을 책임감 있게 사용할 수 있도록 윤리적 역량을 키워줘야 한다. 단순히 교과서적 윤리 지침을 읊으라는 교육이 아닌 과학의 발달과 상생할 수 있는 윤리 교육이 필요한 때이다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1부산형 급행철도(BuTX) 이어 가덕철도망도 속도전
  2. 2[단독]현직 부산 북구의원, 음주운전 사고로 입건
  3. 3알짜직장 적은 부산, 임금도 노동시간도 바닥권
  4. 4[근교산&그너머] <특집> 추석 연휴 가볼 만한 둘레길 4선
  5. 5늦여름 담양대숲 청량하다, 초가을 나주들녘 풍요롭다
  6. 6“강과 산 모두 있는 부산 북구, 다양한 재난대비 훈련”
  7. 7주가지수- 2023년 9월 27일
  8. 8구속 피한 이재명…여야 ‘검찰 책임론’ 두고 극한대치
  9. 9‘교섭’‘헌트’‘존윅4’ 극장서 놓친 작품 즐기고, ‘무빙’ 몰아볼래요
  10. 10[서상균 그림창] 추석 밥상
  1. 1구속 피한 이재명…여야 ‘검찰 책임론’ 두고 극한대치
  2. 2여야, 이균용 대법원장 임명안 내달 6일 표결키로
  3. 3구속 피했지만 기소 확실시…李 끝나지 않은 사법리스크
  4. 4檢 2년 총력전 판정패…한동훈 “죄 없단 뜻 아냐, 수사 계속”
  5. 5위증교사 소명돼 증거인멸 우려 없다 판단…李 방어권에 힘 실어
  6. 6부산 민주당, 전세사기 유형별 구제책 촉구
  7. 7국힘 ‘여론역풍’ 비상…민주 공세 막을 대응책 고심
  8. 8부산시민 52.8% “총선 때 尹정부에 힘 싣겠다”
  9. 9[부산시민 여론조사]한동훈 28.1%, 이재명 27.4%…차기 대권주자 선호도 박빙
  10. 10이재명 영장 기각…법원 "증거인멸 우려 없고 범죄 소명 됐다고 보기 어려워"
  1. 1부산형 급행철도(BuTX) 이어 가덕철도망도 속도전
  2. 2주가지수- 2023년 9월 27일
  3. 3BPA, 항만 근로자 애로사항 청취
  4. 47월 부산 인구 1231명 자연감소…경북 등 제치고 전국 1위
  5. 51인당 가계 빚, 소득의 3배…민간부채 역대 최고치
  6. 6추석 뒤인 10월, 부산에서 1115가구 분양
  7. 7국제유가 다시 90달러대로…추석 전 국내 기름값 고공행진
  8. 8긴 추석연휴 ‘추캉스족’ 모여라…롯데아울렛 ‘홀리데이 페스타’
  9. 9아프리카 섬나라에 '부산엑스포 유치' 사절단 30명 파견
  10. 10부산 사업장 뒀던 한국유리공업, 'LX글라스'로
  1. 1[단독]현직 부산 북구의원, 음주운전 사고로 입건
  2. 2알짜직장 적은 부산, 임금도 노동시간도 바닥권
  3. 3“강과 산 모두 있는 부산 북구, 다양한 재난대비 훈련”
  4. 4부산시 생활임금 심의 투명성 높인다
  5. 5지인에게 빌린 수술비·투석비용 지원 절실
  6. 6오늘의 날씨- 2023년 9월 28일
  7. 7영도 ‘로컬큐레이터센터’ 세워 도시재생 이끈다
  8. 8오수관 아래서 작업하던 인부 2명, 가스 질식돼 숨져
  9. 9과속 잦은 내리막길 12차로 건너야 학교…보행육교 신설을
  10. 10추석 코 앞인데…부산 체불임금 작년보다 110억 늘었다
  1. 1부산의 금빛 여검객 윤지수, 부상 안고 2관왕 찌른다
  2. 2행운의 대진표 여자 셔틀콕 금 청신호
  3. 3한가위 연휴 풍성한 금맥캐기…태극전사를 응원합니다
  4. 4럭비 척박한 환경 딛고 17년 만에 이룬 은메달
  5. 5‘요트 전설’ 하지민 아쉽게 4연패 무산
  6. 6사격 러닝타깃 단체전 금 싹쓸이…부산시청 하광철 2관왕
  7. 7한국 수영 ‘황금세대’ 중국 대항마로 부상
  8. 8구본길 4연패 멈췄지만 도전은 계속
  9. 9김하윤 밭다리 후리기로 유도 첫 금 신고
  10. 10박혜진 태권도 겨루기 두번째 금메달
우리은행
강동진의 도시이야기 [전체보기]
‘싱가포르다움’을 위한 그들의 선택
우리는 제1부두를 맘대로 할 자격이 없다
과학에세이 [전체보기]
과학자들의 소통방식
국가 연구개발(R&D) 예산 삭감
기고 [전체보기]
대통령의 ‘서울·부산 2개 성장 축’ 실현되려면
안전한 세상에서 아동은 꿈을 펼칠 수 있습니다
기자수첩 [전체보기]
교권회복 시킨다더니…교육부, 교사 집단연가에 으름장
‘고삐 풀린’ 부산 분양가 괜찮나
김갑수의 생각 [전체보기]
꼰대세상
파격적 세대교체를 소망한다
김석환의 이미 도착한 미래 [전체보기]
‘달’ 대신 ‘손가락’만 보세요
세계는 지금, 반도체 전쟁 중
김용석의 시사탐방 [전체보기]
양말 뒤집어 신기
‘학생의 날’이 있다면
김지윤의 우리음악 이야기 [전체보기]
자연과 인간을 잇는 원초적 매개체
무대 밖으로 뛰쳐나온 예술
뉴스와 현장 [전체보기]
PK는 목마르다
이젠 팬이 원하는 감독을 보고 싶다
도청도설 [전체보기]
3위가 목표인 대회
부산형 급행철도
박상현의 끼니 [전체보기]
명란과 옹기
시즈오카의 녹차 젤라또
사설 [전체보기]
이재명 영장 기각…여야는 사과하고 정치하라
부산 영도에 들어설 도시재생 거점 기대한다
세상읽기 [전체보기]
명절 때 나눌 치매 예방 이야기
역사 전쟁과 자유론
이상이 칼럼 [전체보기]
실손의료보험 청구간소화와 의료민영화
간호법 제정안과 지역사회 보건의료
이해인 수녀 '기도의 창가에서' [전체보기]
해인의 서랍에서
친구에게 추천하는 두 권의 책
이홍의 세상현미경 [전체보기]
독일을 보면서 곱씹어보는 교훈
골짜기 세대
인문학 칼럼 [전체보기]
불편한 제의
사적 공간의 미학
장병윤의 대안 모색 [전체보기]
야만의 과학
밥의 길, 쌀의 미래
전호환의 두잉세상 [전체보기]
베로나 아레나 오페라 페스티벌
글로컬대학 30, 성공은 총장 리더십에 달렸다
차재원의 정치평설 [전체보기]
잼버리 파행을 부산엑스포 전화위복으로!
민주당이 ‘노무현 정신’을 되살리려면
최태호의 와인 한 잔 [전체보기]
화해의 와인
와인, 스토리텔링
특별기고 [전체보기]
수산업 몰락 재촉하는 후쿠시마 방사능 선동
원전 오염수 해양투기가 비과학적인 이유
하순봉의 음악이야기 [전체보기]
12음기법
바이로이트 음악축제
황정수의 그림산책 [전체보기]
화가 장욱진이 온다
황창배의 ‘곡고댁(哭高宅)’
CEO 칼럼 [전체보기]
세계박람회와 벡스코 제3전시장
우리가 몰랐던 지역의 잠재력과 성장성
  • 맘 편한 부산
  • 유콘서트
걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스