부산대학교 정보컴퓨터공학부·국방기술연구센터·사회조사연구센터·SSK 느린 재난 연구팀과 한국AI보안협회는 19일 부산대 IT관 410호에서 「제2회 AX 인권·안전 포럼: 사회적 얼라인먼트를 위한 과제」 포럼 행사를 개최했다고 21일 밝혔다.

이들 참여 기관은 이번 포럼을 계기로 인공지능 전환(AX)을 기술 개발과 산업 경쟁의 문제로만 다루지 않고 인권·안전·민주주의의 기준과 함께 설계해야 한다는 데 뜻을 모으고, 이를 위해 「AX 인권·안전 연구센터(가칭)」 설립을 본격 추진하기로 했다.

「AX 인권·안전 연구센터(가칭)」는 AI의 인권·사회적 위험을 진단하는 데에서 나아가, 공공기관과 기업을 위한 AI 인권·안전 실사(due diligence), 정책 자문, 한국형 AI 안전성 검증 기준 마련, 실무교육 프로그램 등을 수행할 예정이다.

김정구 한국AI보안협회장(부산대 정보컴퓨터공학부 교수)은 이날 인사말에서 “AI가 급박하게 바뀌는 환경에서는 AI 자체만큼이나 AI의 보안과 안전이 더 심각한 문제로 떠오를 것”이라며 “부산대 공과대학에서 출발했지만 사회적 과제가 큰 만큼 인문사회 연구자들과 함께 이 포럼을 시작했다”고 소개했다.

포럼 사회를 맡은 주윤정 부산대 사회학과 교수는 “기술 발전 속도에 비해 제도와 사회의 위험 대응 능력은 크게 뒤처져 있다”며 “공학과 인문사회과학이 계속 대화하면서 연구·교육의 기반을 함께 만들어야 한다“고 밝혔다.

첫 발표에 나선 백범석 경희대 법학전문대학원 교수(유엔 인권이사회 자문위원회 의장)는 ‘인공지능과 인권: 쟁점과 과제’를 주제로 “공공부문에서 AI 활용이 확대될수록 국가는 그 판단을 설명하고 오류를 바로잡을 책임을 져야 하며, 시민에게 이해·이의 제기·참여의 기회를 보장해야 한다”며 “이는 기존 인권 의무를 공권력 행사에 반영하는 AI 시대 굿 거버넌스의 핵심”이라고 설명했다.

서현수 한국교원대 교육정책대학원 교수(국가인공지능전략위원회 AI 민주주의 분과위원)는 ‘인공지능과 민주주의: 쟁점과 과제’ 발표에서 AI가 민주주의를 위협하는 요인으로 딥페이크 선거, LLM 그루밍, AI에 시민 숙의를 맡기는 대체의 유혹, 빅테크 권력 집중과 국가 주도 기술관료제를 지적하며, “이에 대응하려면 시민 숙의형 AI 정책, 알고리즘의 투명성·책임성 강화, 시민 AI 리터러시 제고를 통해 민주주의와 시민의 행위자성을 보장해야 한다”고 언급했다.

종합토론에서 손준영 부산대 정보컴퓨터공학부 교수(국방기술연구센터 AI 부문장)는 “AI 위해성 평가 문항 660개(DarkBench)로 시험한 결과, 상용·오픈웨이트 모델에서 20~40%의 위해한 답변이 확인됐다”며 “국내 AI 안전과 취약계층 대상 연구, 벤치마크 구축이 필요하다”고 분석했다.

김정구 교수는 “AI를 효과적으로 감시·감독하기 위해 인간의 검토 역량을 강화하고, 사회과학과 공학이 협력해 책임 있는 AI 시스템을 설계해야 한다”고 말했으며, 김연철 부산대 사회과학연구원 선임연구원은 “AI 생성물의 출처와 AI 사용 여부를 표시하고, 최종 책임은 인간이 져야 한다. 또한 빅테크 권력을 견제하고 시민 참여를 확대해야 한다”는 의견을 피력했다.

주윤정 교수는 “AI 피해가 대규모로 확산될 수 있어 사후 구제만으로는 한계가 있다”며 피해를 막는 예방적 대응 체계의 필요성을 제기했다. 주 교수는 “인문사회과학이 기술 개발 초기부터 참여해 AI의 위험을 진단하고, 인권·안전 기준과 정책 대안을 마련해야 한다”며 “한국연구재단과 AI 연구에 윤리·법·사회적 영향과 거버넌스를 반영하는 방안을 논의 중”이라고 밝혔다.

이어, 백범석 교수는 “기술계와 규범 연구자 간 투명성 개념을 통일하기 위한 공동 연구가 필요하고, AI 피해에 대비해 국가가 우선 레드라인과 가이드라인을 마련해야 해야 한다”며 한국이 국내 경험을 바탕으로 국제 AI 규범을 선도할 수 있다고 내다봤다.

서현수 교수는 “AI 공공 투자 중 일정 부분을 인문사회·민주주의 연구에 배정하고, 대학 중심의 학제 간 연구와 인재 양성을 통해 AI 민주주의 논의를 발전시켜야 한다”고 제안했다.

부산대는 이날 논의를 바탕으로 ‘AX 인권·안전 연구센터(가칭)’를 중심으로 다음과 같은 역할을 단계적으로 추진할 계획이다.

　① 문제 진단: 공학·법학·사회과학·인권 연구자가 함께 AI가 인권, 민주주의, 노동, 교육, 취약계층에 미치는 영향을 체계적으로 분석

　② AI 인권·안전 실사(due diligence): 공공기관과 기업의 AI 도입·조달·운영 전 과정에 걸친 인권영향평가와 지속 점검 지원

　③ 안전성 검증: 한국 사회의 언어·제도·이용 환경을 반영하고 취약계층 위험을 중점에 둔 AI 안전성 벤치마크와 가드레일 개발

　④ 정책 개발·자문: 기업과 인권 분야 정책 자문, 공공부문 AI 레드라인·가이드라인 제안, AI 연구개발 사업에 인문사회 영향 연구와 거버넌스를 함께 설계하는 방안 제시

　⑤ 교육·인재 양성: 학생과 시민이 AI를 비판적으로 검토하고 책임 있게 활용하는 교육, 기술과 인권을 함께 이해하는 융합형 인재 양성

　⑥ 지역·국제 연계: 동남권 대학·연구기관·시민사회·산업계 협력 기반을 넓히고, 국내 연구 성과를 유엔 등 국제 규범 논의로 연결