최근 인공지능(AI:Artificial Intelligence) 기술이 광범위하게 확산되면서 사회가 급속도로 변화하고, 기술발전에 따라 경제적으로 생산성과 업무 효율성이 향상될 것으로 전망된다. 액센추어(Accenture) 연구 결과에 따르면 인공지능 기술은 2035년까지 12개 국가의 16개 산업에서 기업 수익성을 평균 38% 향상시킬 것으로 전망된다. 그러나 인공지능의 발전으로 삶의 질과 생산성이 향상되기도 하겠지만, 이면에는 사회적 무질서 상태가 되거나 심각한 사회·윤리적 문제를 발생시킬 수도 있다. 알리안츠 리스크 바로미터(2018)에 따르면 인공지능 등 신기술의 영향은 이미 정치적 위험과 기후 변화와 시대적 상황에 따라 일곱 번째의 기업리스크(응답자 15%)로 분류됐다. AI가 빠른 속도로 발전하면서 사회적 연결망이 복잡 다양한 미래 사회에서 해킹공격 등 악의적인 사이버 행위의 증가 및 개인의 데이터 프라이버시와 개인정보 누출, 인공지능이 잘못된 결정을 내려 사고가 발생했을 경우 책임성의 문제, 인공지능과 같은 첨단 기술의 활용으로 상호 연결성이 증가하면서 타 기술들과의 융복합으로 인한 복합적 위험과 사회적 혼란까지 발생한다. 따라서 신기술과 관련한 위험의 불확실성 및 규제 AI에 법적 책임을 물을 수 없을 때 이에 관여한 자연인(법인)에게 대신 책임을 묻는다면 과연 누구에게 물을지를 판단하는 것도 쉽지 않다.

정부의 수준이 높은 국가일수록 투명성 수준도 높게 나타나듯 최근 미국에서는 휴가 때 독서를 하기 위해 AI에게서 도서를 추천받았는데 15권 중에서 10권이 없는 제목으로 확인돼 신뢰성 논란이 크게 일었다. 또 영국대학생 AI부정행위 6900건 적발, 학생 1000명당 5.1건이 넘는 수치(이전학기 1.6건보다 3배 이상 급증)와 국내 모 대학의 중간고사 집단부정행위, 고교(서울)수행평가, 논문작성 대가로 금전적 보수를 받는 부정행위가 4년간 204건 적발돼 이 중 165건이 논문대필 업체가 AI로 대신 작성한 것으로 분류됐고 교수 모르게 대필하거나 승인되지 않는 제3자가 개입하는 사례가 반복됐다는 사실로 충격을 줬다.

서울대 김난도 교수에 따르면 2026년도는 ‘붉은 말’의 해로서 사람의 지혜와 말의 힘, 켄타우로스처럼 인공지능이 우리 삶에 시나브로 스며들고 있으며, 앞으로 없어서는 안 될 파트너로 빠르게 자리 잡고 있다. 문제는 우리 일상을 편리하게 하는데 그치지 않고 삶의 방식을 크게 바꾸고 있다는 점이다. 그러면 AI대전환의 시대에 우리는 무엇을 준비해야 하는가? 질문을 던져 본다. 한국은행 발표에 따르면 자기업무에 AI를 활용하는 직장인이 미국이 27%인 반면 한국은 52%라고 한다. 이렇게 되면 일하는 방식과 조직구조 문화도 개선돼야 하고, 부서 간 칸막이, 상하 간 엄격한 조직체계를 허물고 협업과 학습-재학습의 문화도 함께 만들 것을 요구 한다. 생산성 향상과 편의성 증대라는 긍정적 효과를 가져오는 동시에 책임 소재의 불명확성, 가짜 정보 확산, 개인정보 유출, 조직문화 혼란, 부정부패 가능성 증가라는 새로운 위험을 맞게 될 것이다.

이 같은 복합위험성에 대응하기 위한 방안으로 첫째 ‘AI 거버넌스 체계 확립’으로 책임과 권한을 AI 의사결정 과정의 투명성 확보와 생성형 AI 사용 때 책임 소재를 명확히 하고, 정부 부처별 ‘AI 윤리위원회’ 설치를 제안한다. 둘째 ‘데이터 투명성·보안 강화’로 개인과 조직의 정보 보호를 강화해야 하며 개인정보 침해와 데이터 편향 및 무단 활용 등으로 인한 위험 대응과 공공기관의 데이터 윤리의 수준을 제고해야 한다. 셋째 ‘조직문화 개편’으로 계층제 완화·협업 중심 구조로 전환해 일하는 방식·보고체계·조직문화를 AI 친화적으로 개편해야 할 것이며, 넷째, ‘AI 기반 부패위험 진단 및 청렴관리 시스템 구축’으로 부패를 탐지하는 강력한 도구를 갖춰야 하고, 마지막으로 ‘AI 윤리법 제정’으로 공공·교육 분야의 윤리 기준을 확립해 논문 대필, AI조작 보고서, 부정행위 등 심각한 문제가 증가하는 것을 철저히 예방해야 할 것이다.