2
부산메디클럽

[과학에세이] AI 윤리교육은 왜 필요한가?

남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장

  • 남승훈 ㈔출연(연)과학기술인협의회 총연합회 명예회장
  •  |   입력 : 2023-06-05 19:34:00
  •  |   본지 18면
  • 글자 크기 
  • 글씨 크게
  • 글씨 작게
과학기술의 발달 속도에 맞춰 사회 변화가 빠르게 일어나는 경우, 기존 법과 질서, 윤리가 그 속도를 쫓아가지 못하는 현상은 인류사에서 흔하게 관측되는 풍경이다. 최근 인공지능(AI)이 빠르게 발전하면서 인공지능 분야에도 이 같은 현상이 나타나고 있다.

출시 두 달 만에 1억 명 사용자를 돌파한 인공지능 챗봇 ‘챗GPT’에게 윤리적 논란을 빚을 수 있는 답변을 유도하는 질문법이 온라인상에서 공유되면서 인공지능 윤리 문제가 불거졌다.

인공지능의 윤리 문제는 앞선 AI 모델들도 피해 가지 못했다. 2015년 구글 포토가 흑인 커플 사진을 ‘고릴라’로 분류해 큰 물의를 일으켜 알고리즘을 수정하는 사건이 있었고, 2016년 마이크로소프트(MS)의 채팅봇 ‘테이’는 악성 사용자들과의 대화로부터 학습한 백인 우월주의 및 여성 혐오를 바탕으로 비윤리적인 대화를 수행해 출시 16시간 만에 운영 중단됐다. 2020년에는 국내 인공지능 스타트업 회사 ‘스캐터랩’이 개발한 AI 챗봇 ‘이루다’는 인공지능과 대화를 하는 혁신적 기술로 주목받았지만 인공지능을 향한 사용자들의 윤리 문제가 있었고, 이를 학습한 ‘이루다’가 약자 혐오 등의 발언을 하는 AI 윤리 문제까지 일어나 출시 20일 만에 서비스를 중단해야 했다.

이처럼 인간과 인공지능 사이의 상호적 윤리문제가 지속적으로 발생함에 따라 인공지능의 윤리적인 개발과 활용 방법을 연구하는 ‘인공지능 윤리’가 나란히 발전해 왔다. 인공지능 윤리는 인공지능의 개발자 제공자 사용자 등 모든 이해관계자가 준수해야 하는 도덕적 규범이자 자율규범으로, 인공지능 사용으로 각종 비윤리적인 행동이나 결과가 발생하지 않도록 사후적으로 방지하는 내용을 말한다.

구글, 마이크로소프트 등 IT 기업을 비롯해 유럽연합, 미국 등에서 평등한, 착한 AI를 위한 윤리 규범 및 가이드라인을 정립해 왔다. 우리나라 역시 2020년 12월 과학기술정보통신부를 필두로 사람이 중심이 되는 ‘인공지능(AI) 윤리기준’을 마련했다.

인공지능은 윤리 규정에 맞게 설계되었기에 윤리적 중립을 지켜 차별적이거나 혐오 표현, 정치적 민감도가 높은 질문에는 기본적으로 답할 수 없다. 그러나 이러한 답변 제한을 교묘하게 우회해서 차별적이거나 폭력적인 답변을 유도하는 ‘탈옥(Jailbreak)’ 혹은 ‘우회(Bypass)’ 방법을 적용하면 이러한 규정이 힘을 쓸 수 없게 된다. 또한 이제까지 출시된 AI 중 가장 지능화된 ‘챗GPT’의 파급력은 표절, 저작권 침해, 범죄 이용 등 악용사례 속출로도 이어져 AI의 윤리적 활용에 대해서도 사회적 논의가 필요하다.

실제 지난달 국내 한 국제학교에서 챗GPT를 활용해 영문 에세이를 제출한 학생들이 0점 처리되는 일이 발생한 것으로 알려졌다. 보고서 과제가 많은 대학가에도 챗GPT를 활용했다는 경험담이 속속 나오고 있다. 이 같은 표절 문제가 교육 현장에 빠르게 확산되는 건 시간문제라는 우려가 나오고 있다. 필연적으로 AI와 공존할 미래 세대에게 AI 윤리 교육이 필요하다는 여론이 강해지고 있는 이유이다. AI의 윤리적 문제들은 AI가 학습할 데이터를 제공하는 사용자의 윤리 의식에서 기인하기 때문이다. 편향적인 윤리의식은 나쁜 AI를 만들고 AI의 악용은 과학기술 발달을 저해한다.

사티아 나델라 마이크로소프트 CEO는 “인공지능이 우리가 일하는 방식을 근본적으로 바꾸고, 생산성 증대의 새로운 물결을 일으킬 것”이라고 강조했다. 이를 증명하듯 많은 기업이 전화 상담 대신 AI 상담을 진행하고 있으며, 현재 가장 인기 있는 인공지능 챗GPT는 학습에서 마케팅까지 전방위적으로 쓰이고 있다.

인공지능과 함께하는 시대적 흐름은 거스를 수 없다. 과학기술 발달을 저해하지 않고 윤리문제를 해결하기 위해서는 사용자들이 스스로 인공지능을 책임감 있게 사용할 수 있도록 윤리적 역량을 키워줘야 한다. 단순히 교과서적 윤리 지침을 읊으라는 교육이 아닌 과학의 발달과 상생할 수 있는 윤리 교육이 필요한 때이다.
ⓒ국제신문(www.kookje.co.kr), 무단 전재 및 재배포 금지
국제신문 뉴스레터
국제신문 네이버 뉴스스탠드 구독하기
국제신문 네이버 구독하기
뭐라노 뉴스

 많이 본 뉴스RSS

  1. 1부산·울산·경남 '대체로 흐린 날씨'…낮 최고 7~11도
  2. 2[오늘의 운세] 띠와 생년으로 확인하세요(2025년1월5일)
  3. 3더 심해진 양극화…소득 상·하위 10% 격차 사상 첫 2억원 돌파
  4. 4[속보] 尹측 “공수처장·경찰 등 체포영장 집행 관여 150여명 고발”
  5. 5'무안 제주항공기 참사' 악성 게시글 작성자 1명 검거…99건 수사 진행
  6. 6[속보] 법원, 윤 대통령 측 체포영장 집행 이의신청 기각
  7. 7"그랑 콜레오스 잘 나갔네"…르노차 국내 판매량 상승 이끌어
  8. 8韓 반도체 수출, 중국 의존도 낮아지고 미·대만 비중 커졌다
  9. 9'무안 제주항공기 참사' 현장 수색 종료…시신·유류품 인도 마무리
  10. 10새해에도 일부 농산물 가격 강세… 정부, 이번 주쯤 물가관리대책 발표
  1. 1[속보] 법원, 윤 대통령 측 체포영장 집행 이의신청 기각
  2. 2법원, 尹 대통령측 ‘체포·수색영장 이의신청’ 기각
  3. 3경찰직협 “경찰 모든 자원 총동원해 尹 체포영장 집행하라”
  4. 4野 “경호처장 尹 체포영장 집행에 실탄 발포 명령”…경호처 “허위 사실”
  5. 5[속보] 尹측, 영장 이의신청 기각에 “대법원 재항고 검토”
  6. 6민주 “경호처장 직위해체”…공수처에는 尹 체포영장 집행 촉구
  7. 7관저 주변 철조망 설치 포착…대통령 경호 강화하나
  8. 8'尹대통령 체포영장 집행 중지' 공수처, 다음 스텝 고심
  9. 9김선호 국방대행 "尹체포 저지에 군 병력 투입 맞지 않아"
  10. 10국민의힘, 주말 의총 열어 '尹대통령 체포 대응' 논의
  1. 1더 심해진 양극화…소득 상·하위 10% 격차 사상 첫 2억원 돌파
  2. 2"그랑 콜레오스 잘 나갔네"…르노차 국내 판매량 상승 이끌어
  3. 3韓 반도체 수출, 중국 의존도 낮아지고 미·대만 비중 커졌다
  4. 4새해에도 일부 농산물 가격 강세… 정부, 이번 주쯤 물가관리대책 발표
  5. 5'수출 호황' 대기업 생산 2015년 이후 최고…'내수 부진' 中企는 최저
  6. 6한국 화장품 수출, 미국·일본 시장서 프랑스 제치고 '1위 등극'
  7. 7안덕근 산업장관, 트럼프 취임 앞두고 방미…"협력 강화 계기"
  8. 8지난해 상반기 대기업 하도급대금 총 87조원…85%는 현금결제
  9. 9정부, 설 앞두고 27일까지 농산물 원산지 표시 확인 나서
  10. 10“더 이상 ‘노쇼’는 No”… 설 승차권 출발 3시간 전 환불 땐 위약금 10→20%
  1. 1부산·울산·경남 '대체로 흐린 날씨'…낮 최고 7~11도
  2. 2[오늘의 운세] 띠와 생년으로 확인하세요(2025년1월5일)
  3. 3[속보] 尹측 “공수처장·경찰 등 체포영장 집행 관여 150여명 고발”
  4. 4'무안 제주항공기 참사' 악성 게시글 작성자 1명 검거…99건 수사 진행
  5. 5'무안 제주항공기 참사' 현장 수색 종료…시신·유류품 인도 마무리
  6. 6[속보] 尹측 “대통령, 적정한 기일에 출석해 의견 밝힐 예정”
  7. 7울산시 올해 정부 교부세 사상 최대 확보
  8. 8올해부터 장애인연금 급여액 2.3% 오른다
  9. 9尹, 탄핵심판 직접 출석…"의견 밝힐 예정"
  10. 10무안 제주항공기 참사 조문객 28만명 넘어…일부 분향소 연장 운영
  1. 1“하루빨리 1군서 뵐게요”…돌아온 거포 유망주 롯데 조세진 [부산야구실록]
  2. 2MLB 진출할까, 국내 복귀할까…김혜성 선택은?
  3. 3류현진, 한미 통산 200승 도전
  4. 4문 열린 유럽 이적시장…캡틴 손흥민에 시선집중
  5. 5위기의 맨유, 수입 1조6600억 줄 수도
  6. 6브렌트퍼드 수비수 김지수, EPL 2경기 연속 교체 출전
  7. 7‘추신수 외삼촌’ 박정태, SSG 2군 이끈다
  8. 8새판짜기 나선 조성환 감독, 아이파크 1부 승격 담금질
  9. 9체육회장 6파전…후보 단일화 변수
  10. 10디펜딩 챔프 KCC 3연패…이대로 추락?
부산시의회 후반기 상임위 들여다보기
전세사기조례 입법 추진, 가덕신공항 안전성 점검
부산시의회 후반기 상임위 들여다보기
공교육 정상화에 최우선, 교육교부금 개편도 숙제
강동묵의 디톡스 [전체보기]
市 노동안전보건센터, 조속한 설립 필요하다
기후문제에도 정의로와야 할까?
강동진의 도시이야기 [전체보기]
영원히 기억을 쌓아가야 할 부산포
부산 원도심 부활에 대한 근원적 생각
과학에세이 [전체보기]
‘트럼프 2기, 과학기술 전망과 대응 전략’
과학을 배워야 하는 이유
국제칼럼 [전체보기]
다시, 펜의 힘으로
갈맷길 15주년을 보내며
기고 [전체보기]
한일해저터널 통한 영호남과 규슈 메가시티
e스포츠 경기장 역할과 게임도시 부산의 전략
기자수첩 [전체보기]
‘기관장 잔치’된 체전 폐회식…선수가 주역인 축제 만들자
불운의 사고로 치부한 경찰…기강해이 드러나자 여론 반전
김석환의 이미 도착한 미래 [전체보기]
이형(고종), 이승만, 박정희, 윤석열 - 그들의 계엄
“Busan is good”, Really?
김지윤의 우리음악 이야기 [전체보기]
‘정년이’로 돌아온 여성국극
음악과 문학이 만난 새로운 장르
뉴스와 현장 [전체보기]
‘통합 LCC 본사’라는 달콤함
위기에 강한 부산항의 저력을 기대한다
도청도설 [전체보기]
대통령의 거짓말
저비용항공사 포비아
메디칼럼 [전체보기]
심리적 트라우마의 층위
넘쳐나는 가짜뉴스에 속지 말아야
박상현의 끼니 [전체보기]
사하구 노포 맛집
2024 B-FOOD
박지욱의 뇌력이 매력 [전체보기]
뇌력 키우기 3원칙 ‘머리 쓰기’
뇌력 키우기 2원칙 ‘수면과 휴식’
사설 [전체보기]
성장률 비상…공공 재원 동원 부울경부터 온기를
체포 앞두고 “끝까지 싸우겠다”며 선동 일삼는 ‘윤’
세상읽기 [전체보기]
‘개헌론’…민주주의 향한 마지막 퍼즐
부산 자영업 폐업률, 17개 시·도 중 두 번째
이상이 칼럼 [전체보기]
인구 위기 본질과 노인 연령의 합리적 조정 방안
주치의 제도에 대한 오해와 진실
이제명의 오션 드림 [전체보기]
K-조선 슈퍼 사이클
‘머스크’가 쏘아 올린 커다란 공
이홍의 세상현미경 [전체보기]
고환율의 명령
삼성전자가 빠진 함정
전호환의 두잉세상 [전체보기]
수능 폐지를 위한 10년 교육 실험
東明 강석진 선생의 40주기를 기리며
주재민의 명당을 찾아서 [전체보기]
공원묘원에도 명당은 있다
조선의 명당, 청주 한씨 시조 묘
차재원의 정치평설 [전체보기]
‘위헌 대통령’ 퇴진과 함께 재발방지책도!
김정은보다 못한 미국 대선 대비
최태호의 와인 한 잔 [전체보기]
체크인, 체크아웃
선택의 조건
하순봉의 음악이야기 [전체보기]
겨울 나그네
부산콘서트홀의 파이프 오르간
황정수의 그림산책 [전체보기]
‘자연’ 임신의 검정 강아지
천경자 ‘내 슬픈 전설의 22페이지’
CEO 칼럼 [전체보기]
2025년에는 ‘실행력’으로 승부하라
올해 2024년의 단어는?

Error loading images. One or more images were not found.

걷고 싶은 부산 그린워킹 홈페이지
국제신문 대관안내
스토리 박스