“무력 충돌에서 AI 사용하려면 국제 인도법 준수해야”

미국 국무부가 16일(현지시간) 국제법을 준수하는 선에서 인공지능(AI)을 군사적으로 책임 있게 개발·사용하기 위한 기본 원칙을 담은 선언문을 공개했다.

국무부는 이날 보도자료를 내고 ‘군사적 영역에서의 책임 있는 인공지능에 관한 장관급 회의’(REAIM 2023)에서 이 선언문을 발표했다고 밝혔다. 한국·네덜란드 공동 주최로 15~16일 네덜란드 헤이그에서 열린 이번 회의는 AI의 책임 있는 군사적 사용이라는 주제를 다룬 첫 국제회의다.

선언문은 군사적 AI 기능을 국제법에 따라 일관되게 사용하고, 핵무기 사용에 관한 주권적 결정을 알리고 실행하는 데 필수적인 모든 조치에 인간의 통제와 개입을 유지하며, 고위 정부 관료가 군사적 AI 개발 및 배치를 감독할 것 등을 촉구했다.

또한 군사적 AI 시스템 수명 전반에 걸쳐 엄격하게 시험·평가하고, 의도치 않은 행동을 나타내는 AI 시스템을 비활성화할 수 있도록 AI를 설계하며, AI의 심각한 실패에 대비하기 위한 안전장치를 구축한다는 내용도 담겼다.

아울러 선언을 승인한 국가들이 군사적 AI 기능을 개발·배포할 때 이를 반영하고 공개적으로 천명하도록 했다.

국무부는 “우리는 군이 AI와 같은 신기술을 책임 있게 사용하도록 보장하는 것을 공동의 도전 과제로 보고 있다”며 “인간의 책임 있는 지휘와 통제 내에서 군사적 AI 기능이 사용되어야 한다”고 했다.

아울러 “무력 충돌에서 AI를 사용하려면 국제 인도법과 기본 원칙을 준수해야 한다”며 “우리는 이 선언문이 AI와 자율성의 책임 있는 사용을 보장하는 데 필요한 국제사회에서의 원칙과 관행에 대한 토대로 역할을 할 수 있다고 믿는다”고 했다.