Deklarasi Bersama di Jenewa Tolak Penggunaan AI dalam Peperangan
Oleh Valerio Palombaro
Deklarasi tersebut ditandatangani dalam pertemuan yang berlangsung di Jenewa, Swiss, pada 15–17 Juni 2026 dan diselenggarakan oleh Kantor PBB untuk Urusan Perlucutan Senjata (United Nations Office for Disarmament Affairs). Pertemuan itu membahas penggunaan AI dalam bidang militer serta dampaknya terhadap perdamaian dan keamanan internasional.
Para penandatangan menyatakan keprihatinan mendalam terhadap semakin meluasnya penggunaan AI dalam peperangan. Teknologi ini dinilai telah mempercepat proses identifikasi dan penyerangan target sehingga memungkinkan pembunuhan dilakukan dalam skala yang lebih besar dan waktu yang lebih singkat.
Deklarasi tersebut menyerukan agar perusahaan-perusahaan teknologi dan pemerintah menghentikan penyediaan sistem AI yang digunakan dalam rantai operasi militer yang berujung pada pengambilan nyawa manusia. Mereka juga diminta mengambil langkah-langkah konkret untuk memastikan bahwa teknologi yang mereka kembangkan tidak berkontribusi terhadap pelanggaran hukum humaniter internasional maupun hak asasi manusia.
Pertemuan di Jenewa berlangsung hanya beberapa minggu setelah Pope Leo XIV dalam ensikliknya, Magnifica Humanitas, menyerukan dunia untuk "melucuti AI" (disarm AI), sebuah ajakan agar perkembangan teknologi tetap berada di bawah kendali etika dan martabat manusia.
Tanggung Jawab Manusia Tidak Boleh Tergantikan
Menurut deklarasi tersebut, semua perusahaan, termasuk yang bekerja sama dengan lembaga pertahanan negara, memiliki kewajiban moral untuk memastikan bahwa produk dan layanan mereka tidak digunakan untuk melakukan pelanggaran hak asasi manusia atau kejahatan internasional.
Jika risiko tersebut tidak dapat dicegah atau dikurangi secara memadai, perusahaan seharusnya tidak menandatangani ataupun melanjutkan kontrak dengan pihak militer.
Para penandatangan juga menyoroti laporan yang menunjukkan bahwa penggunaan AI telah meningkatkan kecepatan, skala, dan daya rusak operasi militer di berbagai konflik bersenjata. Situasi serupa disebut terjadi dalam penggunaan sistem AI oleh militer Israel.
Menurut mereka, teknologi tersebut berpotensi mengaburkan tanggung jawab manusia dalam keputusan hidup dan mati. Dengan mengandalkan algoritma yang tampak objektif, pelanggaran hukum internasional dapat tersembunyi di balik proses otomatis yang sulit dipertanggungjawabkan.
Ancaman terhadap Prinsip Hukum Humaniter
Deklarasi itu secara khusus menyoroti penggunaan Large Language Models (LLM), teknologi yang menjadi dasar berbagai sistem AI generatif saat ini.
Para penandatangan menilai penggunaan LLM untuk menghasilkan dan memprioritaskan target militer dapat mendorong praktik perang yang mengabaikan prinsip-prinsip mendasar hukum humaniter internasional, seperti pembedaan antara kombatan dan warga sipil, proporsionalitas penggunaan kekuatan, serta kewajiban kehati-hatian dalam operasi militer.
Mereka mengingatkan bahwa sistem AI bekerja berdasarkan data yang sering kali tidak lengkap, bias, atau diperoleh secara tidak sah. Dalam kondisi seperti itu, risiko terjadinya pelanggaran hak asasi manusia, kejahatan terhadap kemanusiaan, bahkan kejahatan perang menjadi semakin besar.
Selain itu, kurangnya transparansi dalam penggunaan AI militer menyulitkan penentuan tanggung jawab moral maupun hukum ketika terjadi kesalahan yang menimbulkan korban jiwa.
Pentingnya Kendali Manusia yang Bermakna
Deklarasi tersebut menegaskan bahwa keputusan untuk mengambil nyawa manusia memiliki konsekuensi moral dan hukum yang sangat besar sehingga tidak boleh direduksi menjadi sekadar menerima atau menolak rekomendasi yang dihasilkan oleh sistem AI.
Walaupun keputusan akhir secara formal masih dilakukan oleh manusia, penggunaan AI dalam identifikasi target berisiko mengubah proses tersebut menjadi sekadar formalitas administratif. Ketika manusia hanya menyetujui rekomendasi yang dibuat mesin tanpa penilaian kritis yang memadai, maka peluang terjadinya kekejaman massal menjadi semakin besar.
Para penandatangan juga memperingatkan bahwa AI berpotensi mendorong dehumanisasi dengan mereduksi persoalan hidup dan mati menjadi sekadar data dan perintah digital.
Seruan untuk Transparansi dan Akuntabilitas
Dalam deklarasi yang ditandatangani di Jenewa itu, perusahaan-perusahaan teknologi diminta untuk tidak menjalin kerja sama dengan lembaga militer atau kelompok bersenjata yang diduga terlibat dalam pelanggaran hukum internasional.
Sementara itu, pemerintah didesak untuk menghentikan penggunaan AI, termasuk Large Language Models, dalam operasi penargetan militer serta memastikan seluruh tindakan militer tetap mematuhi hukum humaniter internasional dan hukum hak asasi manusia.
Selain itu, negara-negara juga diminta membuka informasi secara transparan mengenai penggunaan AI dalam konflik bersenjata sehingga pengawasan publik dan pertanggungjawaban hukum dapat dilakukan secara efektif.
Bagi para penandatangan deklarasi ini, perkembangan teknologi tidak boleh menghilangkan dimensi kemanusiaan dalam pengambilan keputusan. Di tengah kemajuan pesat kecerdasan buatan, martabat manusia harus tetap menjadi prinsip utama yang tidak dapat digantikan oleh algoritma apa pun.
