युद्ध में एआई के इस्तेमाल के खिलाफ जिनेवा में संयुक्त घोषणा पर हस्ताक्षर

वाटिकन न्यूज

कृत्रिम बुद्धिमत्ता (AI) से “तेज” होनेवाली लड़ाइयाँ अधिक “तेजी से और बड़े पैमाने पर हत्या करने का तरीका” बनती जा रही हैं। साथ ही, फिलहाल ऐसा कोई “तकनीकी या सिस्टम से जुड़े उपाय नहीं हैं जो इनसे पैदा होने वाले जानलेवा और भयानक नतीजों को रोक सकें” जो इंटरनेशनल कानून के लिए चुनौतियाँ हैं।

इस परेशान करनेवाले माहौल में, कलीसियाओं के विश्व परिषद (WCC) ने 225 दूसरे हस्ताक्षरकर्ताओं के साथ मिलकर, जिसमें गैर सरकारी संगठन, संघ, विशेषज्ञ और तकनीकी कंपनियों के प्रतिनिधि शामिल हैं, लड़ाई में कृत्रिम बुद्धिमत्ता के इस्तेमाल का विरोध करनेवाले एक संयुक्त घोषणा को मंजूरी दी है।

जिनेवा में यूएन की मीटिंग

इस घोषणा में साफ तौर पर कृत्रिम बुद्धिमत्ता विकसित करनेवाली कंपनियों और सरकारों से कहा गया है कि वे “सैन्य हत्या श्रृंखला” में इस्तेमाल होनेवाले कृत्रिम बुद्धिमत्ता सिस्टम की “सप्लाई बंद” करें और “यह सुनिश्चित करने के लिए सभी जरूरी कदम उठाएँ कि उनके दिए गए कोई भी दूसरे कृत्रिम बुद्धिमता सिस्टम अंतरराष्ट्रीय मानवीय कानून और अंतरराष्ट्रीय मानवीय अधिकार कानून का उल्लंघन न करें या उसमें हिस्सा न लें।”

इस घोषणा पर हस्ताक्षर 15 से 17 जून तक जिनेवा में हुई एक मीटिंग के दौरान की गई, जिसे संयुक्त राष्ट्र के  निर्स्त्रीकरण मामले ने मिलिट्री क्षेत्र में एआई और अंतरराष्ट्रीय शांति एवं सुरक्षा पर इसके असर विषय पर आयोजित किया था।

यह मीटिंग पोप लियो 14वें के प्रेरितिक विश्व पत्र मनिफिका उमानितास में दुनिया से “कृत्रिम बुद्धिमता (AI) को निर्स्त्रीकृत करने” की अपील के कुछ ही हफ्ते बाद हो रही है।

मानव जिम्मेदारी को “कमजोर” करने का खतरा

घोषणा के अनुसार, सभी कंपनियों को “यह सुनिश्चित करने के लिए हर मुमकिन कदम उठाने होंगे कि उनके उत्पाद और सेवा मानव अधिकार के उल्लंघन और अंतरराष्ट्रीय अपराध का कारण न बनें, उनमें हिस्सा न लें, या सीधे तौर पर उनसे न जुड़ें।”

इसके अलावा, “जहाँ कंपनियाँ ऐसे जोखिमों को रोकने या उन्हें सही तरीके से कम करने में नाकाम हैं, उन्हें ऐसे अनुबंध नहीं करने चाहिए या उन्हें पूरा नहीं करना चाहिए।”

मीडिया रिपोर्ट और पेंटागन के आधिकारिक बयानों का हवाला देते हुए, घोषणा में कहा गया है कि “एआई उपकरण के जरिए तेजी से निशाना बनाने से ईरान के खिलाफ अमरीकी हमले की तेजी, पैमाना, तीव्रता और नुकसान पहुँचाने वाली ताकत में बढ़ोतरी हुई है।” इसमें आगे कहा गया है कि इसी तरह के आकलन, इस्राएली हथियारबंद सैनिकों द्वारा इस्तेमाल किए जानेवाले सिस्टम के बारे में भी किए जा सकते हैं।

घोषणा का तर्क है कि ऐसी तकनीकी “जीवन और मौत के फैसलों में मानवीय जिम्मेदारी” को कमजोर करती हैं और “अंतरराष्ट्रीय अपराध को निष्पक्षता के पीछे छिपाने में मदद कर सकती हैं, साथ ही जवाबदेही से भी बच सकती हैं।”

एक अमानवीय झुकाव

226 हस्ताक्षर करनेवालों ने कहा, “एआई का असल दुनिया में इस्तेमाल यह दिखाता है कि यह असल में युद्ध के ज्यादा हिंसक, अमानवीय और विनाशकारी तरीकों को बढ़ावा दे रहा है।” इनमें एमनेस्टी इंटरनेशनल (मानव अधिकार की रक्षा करनेवाला गैर-सरकारी अंतरराष्ट्रीय संगठन) जैसे अंतरराष्ट्रीय संगठन और कई स्थानीय दल शामिल हैं।

घोषणा में आगे कहा गया है, “हम खास तौर पर इस बात से चिंतित हैं कि निशाना बनाने और प्राथमिकता तय करने के लिए लार्ज लैग्वेज मॉडल (LLM) का इस्तेमाल सैन्यबलों को एक ऐसे युद्ध की ओर धकेल रहा है जिसमें इंटरनेशनल मानवीय कानून के बुनियादी सिद्धांतों – जिसमें अंतर, अनुपात और सावधानी शामिल है – का ठीक से सम्मान नहीं किया जाता है, और शायद किया भी नहीं जा सकता है।”

इन तकनीकियों की तेजी और पैमाने को देखते हुए, साथ ही आंकड़ों के भरोसे न होने, भेदभाव और अक्सर गैर-कानूनी तरीके से सोर्स किए जाने को देखते हुए, हस्ताक्षर करनेवालों ने चेतावनी दी है कि ऐसे सिस्टम से मानवाधिकारों के उल्लंघन, मानवता के खिलाफ अपराध और युद्ध अपराधों को बढ़ावा मिलने का खतरा है।

इसके अलावा, उनके इस्तेमाल को लेकर जो अस्पष्टता है, वह गलती होने पर नैतिक या कानूनी जिम्मेदारी सौंपने की संभावना को अत्याधिक कमजोर करती है।

अर्थपूर्ण मानवीय नियंत्रण

घोषणा में आगे कहा गया है कि, भले ही निशाना में इस्तेमाल होनेवाले एआई सिस्टम मारने का आखिरी फैसला न लें, फिर भी वे बड़े पैमाने पर हत्या की स्वतः मंजूरी के लिए सिस्टम बनने का रिस्क उठाते हैं क्योंकि वे निष्पक्षता की झूठी भावना पर निर्भर करते हैं और इंसानी जिम्मेदारी और यथोचित परिश्रम की जगह ले सकते हैं।

इस वजह से, वे बड़े पैमाने पर हत्याओं को तेज करने और उन्हें आसान बनाने में मदद कर सकते हैं।

ये सिस्टम "जीवन और मौत के मामलों को सिर्फ एक सरल चैट प्रॉम्प्ट बना करके" अमानवीयकरण को भी ऑटोमेट करते हैं। हस्ताक्षर करनेवालों ने जोर दिया कि किसी इंसान की जान लेने का फैसला बहुत नैतिक और कानूनी तौर पर जरूरी होता है और इसे कभी भी एआई सिस्टम से मिली सिफारिशों को मानने या न मानने तक सीमित नहीं किया जाना चाहिए।

जब सेनाएँ निशाना की पहचान करने के लिए एआई पर इतनी तेजी और बड़े पैमाने पर भरोसा करती हैं कि इंसानों द्वारा जांच करना सिर्फ एक औपचारिकता बन जाता है, तो "बड़े पैमाने पर अत्याचार हो सकते हैं, और अक्सर होते भी हैं," जो अंतरराष्ट्रीय मानवीय कानून में दिए गए सावधानी के सिद्धांत का सीधा उल्लंघन है।

अधिक जवाबदेही और पारदर्शिता

जिनेवा में हस्ताक्षर किए गए घोषणापत्र में तकनीकी कंपनियों से कहा गया है कि वे "इंटरनेशनल कानून के संभावित उल्लंघन, जिसमें मानवाधिकारों का उल्लंघन और अत्याचार के अपराध शामिल हैं, में शामिल सैन्य एजेंसियों या हथियारबंद दल के साथ अनुबंध करने या उन्हें पूरा करने से बचें।"

इस बीच, सरकारों से कहा गया है कि वे "मिलिट्री टारगेटिंग ऑपरेशन में लार्ज लैग्वेज मॉडल सहित एआई अपकरण का इस्तेमाल रोकें और अंतरराष्ट्रीय मानवीय कानून और अंतरराष्ट्रीय मानवाधिकार कानून का पालन पक्का करें।"

उनसे यह भी कहा गया है कि वे "दुश्मनी के दौरान एआई के मौजूदा इस्तेमाल के बारे में पारदर्शिता सुनिश्चित करें।"