梵蒂岡人工智能研討會

（梵蒂岡新聞網）由聖座經濟秘書處與聖座勞工局（ULSA）聯合舉辦的“人工智能的潛力與挑戰”研討會3月2日上午在羅馬舉行。聖座勞工局主任帕薩拉誇（Pasquale Passalacqua）教授指出，教宗良十四世對活動表示“贊賞和鼓勵”，希望人們在這一“現實而複雜”的領域中獲得“更深入的認識”。

會議由聖座傳播部編輯部門副主任吉索蒂（Alessandro Gisotti）主持。發言者包括聖座文化教育部秘書長泰伊（Paul Tighe）主教、宗座額我略大學科技倫理教授貝南蒂（Paolo Benanti）主教，以及羅馬生物醫學大學智能系統工程碩士課程教授科拉多·朱斯托齊（Corrado Giustozzi）。

波動、不確定、複雜與模糊

聖座文化教育部秘書長泰伊主教用四個詞“波動、不確定、複雜與模糊”展開討論。他指出，儘管無需陷入“末日式的誇張言辭”，但相關風險仍然真實存在，例如“生物武器、宣傳操控、虛假信息，以及失去人類控制的系統”。要應對這些問題，“代表性、透明度和可理解性”是關鍵概念。正如方濟各教宗早已指出的那樣，“技術官僚範式”可能會加劇不公正、不平等、兩極分化和環境威脅。

因此，這位愛爾蘭主教再次強調，人工智能的發展並不是在中立空間中進行的。如果缺乏國際層面的監管，“各大國將競相追求技術優勢，尤其是在軍事領域”，而對可能出現金融泡沫的認知，則刺激人們以犧牲安全為代價去承擔風險。在這一背景下，泰伊主教還提到近期的一則新聞：美國人工智能企業Anthropic原本以開發更具倫理性的人工智能為目標，但卻“受到政府壓力，被要求放鬆其在軍事和監控用途方面的倫理承諾”。

人工智能的倫理挑戰

宗座額我略大學科技倫理教授貝南蒂神父的報告聚焦於人工智能所帶來的倫理挑戰，並提出應從“政治層面”審視這些模型。這位方濟各會士指出：“任何技術產物一旦進入社會環境，就會成為一種權力配置和秩序形式。”他強調，這一問題的緊迫性已經在“多個討論平台”上引起共鳴：從聖座到聯合國——貝南蒂神父本人正是聯合國人工智能委員會成員。在這些平台上，上述“權力配置”正越來越受到“商業協議”的影響。

這種情況在信息傳播領域同樣明顯。一篇文章能否獲得曝光，並不一定取決於內容質量，而越來越取決於算法在網頁上給予它的位置。貝南蒂教授認為，這實際上是一種“權力的中介”。

什麼是算法

羅馬生物醫學大學智能系統工程碩士課程教授朱斯托齊教授的發言主要圍繞人工智能的本質及其技術局限展開，並介紹了其核心組成之一——算法，以及基於算法進行決策時可能出現的主要問題。其中一個重要問題是偏差（bias）。算法往往會機械地執行“存在於其設計者頭腦中的選擇策略”，因此有時會在無意或刻意的情況下，將某些偏見嵌入系統之中，從而扭曲結果或導致結果不公。此外，如果問題本身被表述得不正確，算法也可能變得無效；如果算法建立在不準確的假設之上，或者過於簡化的近似條件上，也可能產生偏差性的結果。在進一步闡述這一問題時，朱斯托齊教授強調，在算法開發過程中訓練（training）階段具有決定性的重要性。若數據存在缺失或偏差，最終結果必然會出現錯誤或歧視性傾向。

鏈接網址：www.vaticannews.cn
訂閱電郵新聞：http://www.vaticannews.cn/zh/newsletter-registration.html