ААН пра ШІ ў вайне: кантроль чалавека становіцца фармальным

Ян Глінскі

226 падпісантаў з няўрадавых арганізацый, навуковых колаў і тэхналагічнага сектара, у тым ліку Сусветнай Рады Цэркваў выказаліся супраць выкарыстання ШІ ў ваенных мэтах. У дакуменце прагучала асцярога, што вайна з дапамогай штучнага інтэлекту можа ўсё больш спрыяць “дасягненню хуткага і неразборлівага забойства”.

Аўтары дэкларацыі патрабуюць спыніць пастаўкі сістэм для выяўлення ваенных цэляў і прыняцця рашэнняў аб ударах. Акрамя таго, кампаніі павінны гарантаваць, што іх прадукцыя не спрыяе – прама ці ўскосна – парушэнням правоў чалавека і ваенным злачынствам. Пры адсутнасці такой гарантыі кантракты не могуць заключацца або павінны быць скасаваны.

Крытыка падпісантаў вынікае з занепакоенасці тым, што сістэмы штучнага інтэлекту могуць падарваць ключавыя прынцыпы міжнароднага гуманітарнага права, у прыватнасці прынцыпы адрознення, прапарцыянальнасці і гарантый.

Паведамленні з абароннага сектара ЗША, а таксама ацэнкі ізраільскіх ваенных сістэм паказваюць, што захоп цэляў з дапамогай штучнага інтэлекту значна павялічыў хуткасць і маштаб ваенных аперацый. Падпісанты ўказалі на рызыку, якая непакоіць: адказнасць чалавека пры прыняцці рашэнняў адносна жыцця і смерці будзе размыта, а напады будуць легітымізаваны алгарытмічнай аб’ектыўнасцю.

Размытая юрыдычная і маральная адказнасць у выпадку памылковых рашэнняў

Асабліва праблематычным, на думку аўтараў дакумента, з’яўляецца выкарыстанне маштабных моўных мадэляў у працэсах прыняцця ваенных рашэнняў. Як было падкрэслена, яны могуць стаць аўтаматызаванымі механізмамі для аўтарызацыі смяротных аперацый.

У дэкларацыі папярэджваецца, што ў такіх сітуацыях кантроль з боку чалавека становіцца ўсё больш фармальным, што павялічвае рызыку масавых ахвяр і сістэматычных парушэнняў закона. Адсутнасць празрыстасці ў многіх сістэмах штучнага інтэлекту таксама перашкаджае выразнаму размеркаванню юрыдычнай і маральнай адказнасці ў выпадку памылковых рашэнняў.

Галоўная мэта сумеснай дэкларацыі – не дапусціць, каб рашэнні адносна жыцця і смерці ўсё часцей зводзіліся да машынных рэкамендацый.

Дзяржавы і тэхналагічныя кампаніі больш не павінны даваць у распараджэнне штучны інтэлект для рэалізацыі ваенных мэтаў у так званым “ланцугу забойстваў”. Нагадаем, Папа Леў XIV у сваёй энцыкліцы “Magnifica Humanitas”, апублікаванай у пачатку чэрвеня, заклікаў да “раззбраення” штучнага інтэлекту.