梵蒂冈人工智能研讨会

（梵蒂冈新闻网）由圣座经济秘书处与圣座劳工局（ULSA）联合举办的“人工智能的潜力与挑战”研讨会3月2日上午在罗马举行。圣座劳工局主任帕萨拉夸（Pasquale Passalacqua）教授指出，教宗良十四世对活动表示“赞赏和鼓励”，希望人们在这一“现实而复杂”的领域中获得“更深入的认识”。

会议由圣座传播部编辑部门副主任吉索蒂（Alessandro Gisotti）主持。发言者包括圣座文化教育部秘书长泰伊（Paul Tighe）主教、宗座额我略大学科技伦理教授贝南蒂（Paolo Benanti）主教，以及罗马生物医学大学智能系统工程硕士课程教授科拉多·朱斯托齐（Corrado Giustozzi）。

波动、不确定、复杂与模糊

圣座文化教育部秘书长泰伊主教用四个词“波动、不确定、复杂与模糊”展开讨论。他指出，尽管无需陷入“末日式的夸张言辞”，但相关风险仍然真实存在，例如“生物武器、宣传操控、虚假信息，以及失去人类控制的系统”。要应对这些问题，“代表性、透明度和可理解性”是关键概念。正如方济各教宗早已指出的那样，“技术官僚范式”可能会加剧不公正、不平等、两极分化和环境威胁。

因此，这位爱尔兰主教再次强调，人工智能的发展并不是在中立空间中进行的。如果缺乏国际层面的监管，“各大国将竞相追求技术优势，尤其是在军事领域”，而对可能出现金融泡沫的认知，则刺激人们以牺牲安全为代价去承担风险。在这一背景下，泰伊主教还提到近期的一则新闻：美国人工智能企业Anthropic原本以开发更具伦理性的人工智能为目标，但却“受到政府压力，被要求放松其在军事和监控用途方面的伦理承诺”。

人工智能的伦理挑战

宗座额我略大学科技伦理教授贝南蒂神父的报告聚焦于人工智能所带来的伦理挑战，并提出应从“政治层面”审视这些模型。这位方济各会士指出：“任何技术产物一旦进入社会环境，就会成为一种权力配置和秩序形式。”他强调，这一问题的紧迫性已经在“多个讨论平台”上引起共鸣：从圣座到联合国——贝南蒂神父本人正是联合国人工智能委员会成员。在这些平台上，上述“权力配置”正越来越受到“商业协议”的影响。

这种情况在信息传播领域同样明显。一篇文章能否获得曝光，并不一定取决于内容质量，而越来越取决于算法在网页上给予它的位置。贝南蒂教授认为，这实际上是一种“权力的中介”。

什么是算法

罗马生物医学大学智能系统工程硕士课程教授朱斯托齐教授的发言主要围绕人工智能的本质及其技术局限展开，并介绍了其核心组成之一——算法，以及基于算法进行决策时可能出现的主要问题。其中一个重要问题是偏差（bias）。算法往往会机械地执行“存在于其设计者头脑中的选择策略”，因此有时会在无意或刻意的情况下，将某些偏见嵌入系统之中，从而扭曲结果或导致结果不公。此外，如果问题本身被表述得不正确，算法也可能变得无效；如果算法建立在不准确的假设之上，或者过于简化的近似条件上，也可能产生偏差性的结果。在进一步阐述这一问题时，朱斯托齐教授强调，在算法开发过程中训练（training）阶段具有决定性的重要性。若数据存在缺失或偏差，最终结果必然会出现错误或歧视性倾向。

链接网址：www.vaticannews.cn
订阅电邮新闻：http://www.vaticannews.cn/zh/newsletter-registration.html