 |
| AI 생성 문제로 철회된 연구 논문. 연합 AI 플랫폼 생성 이미지
|
인공지능(AI)이 만들어낸 가짜 참고문헌이나 잘못된 인용이 학술 논문에 활용되면서 국내외 대학과 연구기관의 논문 철회가 줄줄이 나오고 있다.
국내 대학과 정부출연연구기관을 포함해 해외 유명 학술지와 국내 한국학술지인용색인(KCI) 등재 학술지에서도 허위 인용 사례가 확인됐다. 최근 해외 연구에서는 허위 참고문헌이 포함된 논문의 비율이 크게 높아진 것으로 나타나면서 AI의 ‘환각’ 현상이 과학 연구의 신뢰성을 위협하고 있다. AI 환각은 AI가 허위로 만들어낸 것을 말한다.
17일 과학기술계에 따르면 강원대와 세종대 연구진이 지난해 12월 국제학술지 ‘사이언티픽 리포트’에 게재한 가짜뉴스 탐지 관련 논문이 올해 철회됐다. 학술지는 철회 사유로 논문 전반에 비표준적 어휘가 사용됐고, 관련성이 떨어지거나 잘못 인용된 참고 문헌이 다수 발견됐다고 지적했다.
어휘가 부정확하다거나 인용 논문이 부정확한 것은 AI로 작성한 논문의 대표적 특징 중 하나다. 저자들은 학술지에서 철회 관련해 보낸 서신에 명확한 입장을 밝히지 않았다.
한양대 에리카캠퍼스와 극지연구소 등 공동연구진이 국제학술지 ‘헬리온’에 낸 금강과 섬진강 내 유기 탄소 관련 논문도 논문 내용과 관련 없는 참고문헌들이 드러나 지난해 11월 철회됐다.
한국과학기술정보연구원(KISTI) 연구진도 최근 국제학술지 ‘기술 예측과 사회 변화’에 생명공학 전문가 페르소나를 가진 AI 생성형 에이전트 관련 논문을 발표했다가 11개 인용 논문이 환각으로 생성된 것을 확인하고 자진 철회했다.
AI 석학 조경현 뉴욕대 교수도 지난해 말 세계 최고 권위 AI 학회인 뉴립스(NeurIPS)에 채택된 공저 논문이 AI가 생성한 가짜 참고문헌을 인용한 것으로 확인돼 공개 사과하기도 했다.
논문철회 감시 사이트 리트랙션워치의 데이터베이스에 따르면 2023년 이후 AI 생성 콘텐츠 사유로 철회된 국내 기관 소속 저자 논문은 205건, 참고문헌이나 출처 문제로 철회된 논문은 316건에 달한다.
AI가 생성한 부정확한 문장이나 정보가 논문에 포함되는 문제는 전 세계적으로 빠르게 확산하고 있다.
미국 컬럼비아대 연구진이 올해 5월 국제학술지 ‘랜싯’에 발표한 연구에 따르면 올해 첫 7주간 의학·생명과학 분야 논문 데이터베이스 ‘펍메드’(Pubmed)에 발표된 논문에서 277편당 1편꼴로 허위 참고문헌이 발견됐다. 2023년 2828편당 1편꼴이었던 것과 비교하면 허위 참고문헌이 포함된 논문의 비율이 크게 올라갔다.
또 미국 컬럼비아대 연구진이 11월 3일 국제학술지 ‘미국국립과학원회보’(PNAS)에 발표한 과학·공학·컴퓨터 분야 논문 50만편의 참고문헌 2160만건을 분석한 결과, 허위 참고문헌 포함 비율이 2023년 1600편당 1편에서 2026년 1분기 435편당 1편으로 높아진 사실이 확인됐다.
한국과학학술지편집인협의회도 최근 3년간 진행한 AI 관련 교육과 학술대회에서 생성형 AI의 환각으로 인한 허위 정보와 부정확한 데이터 생성이 주요 문제로 최근 발표되고 있다고 지적했다.