AI의 급속한 발전은 군사 기술에 엄청난 변화를 가져왔다. 미국 정보당국이 이란 지도부를 정밀 타격할 수 있었던 배경에는 AI기업 앤트로픽과 팔란티어가 있다. 이란 최고지도자 아야톨라 하메네이와 정부 고위인사 등은 지난달 28일(현지시간) 미국의 첫 공습에 사망했다. 미 국방부와 미국 중앙정보국(CIA)이 구체적인 사용 범위 등을 밝히진 않았지만, 미군의 중동 작전을 총괄 지휘하는 중부사령부(CENTCOM)가 앤트로픽의 챗봇 ‘클로드’를 활용해 정보수집·표적 식별·전투 시나리오 시뮬레이션 등을 진행한 것으로 알려졌다.

팔란티어의 데이터 플랫폼 ‘고담’은 이란 혁명수비대의 주요 군사 시설과 지도부의 은신처를 식별하는 데 사용됐다. 레이다와 드론 데이터를 융합해 방공망의 허점을 찾아내기도 했다. 우크라이나 전쟁을 통해 AI 무기 가능성이 부각됐다면 이란 전투에선 AI 무기의 위력을 확인한 셈이다. 현대 전쟁에서 AI는 승패를 가르는 핵심 자산이다. 방대한 위성사진과 소셜미디어 드론 영상을 실시간 분석해 적군의 이동 경로를 파악하고 정밀 타격 지점을 찾는다.

앤트로픽 최고경영자 다리오 아모데이는 오픈AI의 챗GPT 개발에 핵심 역할을 했다. 그는 AI 개발 과정에서 예측 불가능한 상황을 경험하면서 통제가 필요하다고 인식했다. 오픈AI 측과 AI 상업화 속도를 놓고 갈등을 빚었다. 그가 사표를 내고 나와 2021년 만든 회사가 앤트로픽이다. 이 회사는 보편적 윤리와 법규를 철저히 준수하는 AI를 추구하고 있다.

앤트로픽은 AI 안전 연구를 핵심 가치로 삼고 있고 모델의 오류와 허위 정보 생성을 줄이는 기술에 집중했다. 이 회사의 챗봇 클로드가 민감한 데이터를 다루는 군사용에 최적화됐다는 평가를 받는 이유다. 클로드의 유용성이 이번 전투에서 입증된 가운데 앤트로픽과 도널드 트럼프 미 행정부간에 ‘윤리 논쟁’이 심화하고 있다. 앤트로픽은 자사 기술이 살상 무기 개발이나 공격 시스템에 사용되는 것을 제한한다는 방침을 유지하고 있다. 하지만 트럼프 미 대통령은 앤트로픽을 “급진 좌파 기업”이라고 경고하며 연방기관의 클로드 사용을 중단하라고 지시했다.

앤트로픽이 AI 윤리 방침을 고수할지는 미지수다. 중국과 러시아 등이 AI 기반 군사 장비 개발에 집중하고 있기 때문이다. ‘킬러로봇’ 같은 치명적 자율살상무기가 인류를 파멸시킬 시간이 다가오는 것 같다.

이은정 논설위원