‘로마 선언’ 서명, 핵무기와 인공지능(AI)에 관한 공동의 노력

Benedetta Capelli – Città del Vaticano

"인류는 지금 역사상 결정적인 순간에 서 있습니다." 이 문장으로 시작하는 「인공지능 시대, 핵무기와 자율무기, 새로운 디지털 프로토콜과 신흥 디지털 발전 모델의 시대를 위한 '무장하지 않은 평화, 무장을 해제시키는 평화'에 관한 로마 선언」이 7월 16일 오전 로마 캄피돌리오에서 서명됐다. 이번 선언은 「인공지능과 핵전쟁에 관한 노벨상 수상자 세계총회」라는 제목으로 ‘보르고 라우다토 시’에서 이틀간 열린 국제회의를 마무리하며 발표됐다. 이번 행사에는 노벨상 수상자들을 비롯해 세계적인 AI 전문가, 전직 국가원수 및 정부 수반, 그리고 세계에서 가장 영향력 있는 대학 및 연구 기관의 대표들이 대거 참석했다. 선언문은 우리가 직면한 상황을 “전례 없는 도전”이라고 규정하며, 특히 인공지능이 거대한 기회를 제공하는 동시에 “대규모 일자리 감소를 유발하고 핵보유국 간의 경제적 경쟁을 심화시킬 가능성이 크다”는 점에서 모두에게 깊은 성찰을 요구한다고 밝혔다. 또한 AI 기술이 소수의 국가와 거대 기업의 손에 집중될 경우 심각한 권력의 비대칭을 초래할 수 있으며, 전례 없는 속도로 발전하고 있어 “광범위한 경제적·군사적·사회적 변화를 초래하게 될 것이다”라고 강조했다. 선언문은 점증하는 핵 군비 경쟁이 “그에 못지않게 위험한 인공지능 경쟁”과 맞물려 돌아가고 있음을 지적했다. 이에 따라 “무장하지 않은 평화, 무장을 해제시키는 평화”를 추구하자는 교황 레오 14세의 초대를 받아들여, 안보가 공포, 지배, 위협, 그리고 상호 파괴에 기반한다는 생각을 거부하고자 한다고 밝혔다.

인류 전체의 이익을 위하여
6개 항으로 이루어진 선언문에서 서명자들은 “인공지능과 핵무기 분야 모두에서 차기 군비 경쟁이 다가오는 세기의 모습을 결정짓기 전에, 이 위험한 군비 경쟁을 사전에 차단해야 한다”고 촉구했다. 특히 인공지능 시스템 개발자들이 “국제법과 인권을 준수하며 인류의 이익을 위해” 일할 것을 강력히 권고했다. 이에 발맞추어 각 기구와 정부가 인공지능 시스템 내의 완전히 자동화된 의사결정 과정을 철저히 모니터링할 것을 촉구했다.

인공지능 통제 체계에 관한 국제조약
선언문은 “핵무기 사용에 대한 최종 결정은 결코 자동화된 시스템에 위임되어서는 안 된다”고 명시했다. 따라서 “핵무기의 지휘, 통제 및 발사 시스템에 인공지능이 무책임하게 통합되는 것을 금지하고, 항상 실질적이고 의미 있는 인간의 통제가 유지되도록 보장하는 국제 조약”을 채택할 것을 촉구했다. 이는 본질적으로 사이버 작전이나 핵 인프라에 대한 공격에서 AI가 악용되는 것을 막기 위함이다. 선언문은 “우리는 인류의 복지를 증진하고, 과학 및 의학적 발전을 촉진하며, 환경을 보호하고, 사회의 회복탄력성을 강화하며, 평화와 지속 가능한 발전 및 공동선을 도모하기 위해 인공지능의 책임 있는 개발과 활용을 지지한다”고 선언했다.

디지털 공동선 구축
선언의 마지막 항은 인공지능의 글로벌 거버넌스를 위한 새로운 제도적 방안을 마련하고, 장차 이 분야에서 글로벌 거버넌스가 실현될 수 있도록 해야 한다고 강조한다. 서명자들은 레오 14세 교황의 「위대한 인간성」(Magnifica humanitas)에서 영감을 받은 여러 계획을 지지하며, 유엔 인공지능 국제 독립 과학 패널의 활동을 옹호했다. 선언 서명자들은 핵무기와 인공지능에 대한 이해를 심화하고 효과적인 대응을 가능하게 하기 위해 필요한 데이터를 수집하고 공유할 수 있는 '디지털 공동선(digital commons)'을 구축할 것을 촉구했다. 선언은 오늘날 세계가 수많은 상호 연결된 위협에 직면해 있으며, 그 결과의 피해는 정작 그러한 기술에 접근하거나 통제할 수 없는 사람들에게 돌아간다고 지적한다.

핵군축
선언문은 결론 부분에서 “핵무기의 검증 가능하고 돌이킬 수 없는 폐기”에 도달하기 위한 협상을 시급히 개시할 것을 촉구했다. 이에 따라 핵확산금지조약(NPT)과 핵무기금지조약(TPNW)에 명시된 기존의 약속을 재확인했다. 아울러 각국이 군비 경쟁을 중단하고 협상과 합의된 의무 이행에 집중할 것을 요청했다. 선언문은 “핵보유국들은 이러한 무기의 역할을 점진적으로 축소하고, 전략적 안정성을 강화하며, 핵무기의 선제 사용 및 파멸적인 결과를 초래할 전쟁의 위험을 줄이는 정책과 군사 교리를 추진해야 한다”고 서술했다. 서명자들은 끝으로 “우리와 미래 세대의 생존이 걸려 있다”고 역설했다.

번역 박수현

무단 전재 및 재배포 금지
(인용시에는 출처를 밝혀주시고, 임의 편집/변형하지 마십시오)