天主教教宗良十四世（Pope Leo XIV）10 月 30 日在梵蒂岡接見人工智能研究人員及專家，呼籲國際社會為人工智能（AI）「解除武裝」，並促請將於 11 月在日內瓦會面的各國採取具體行動，推動禁止致命自主武器。他強調機器只是工具，影響人命、自由及動用武力的決定，必須由人類作出有效而負責任的監督。
今次演說在「人工智能的未來：梵蒂岡與科學界對話」活動期間發表，由宗座生命科學院與 Future of Life Institute 合辦。教宗提出 5 項思考，包括 AI 發展由人類選擇決定、機器不應被視為人、部分決策不可交由 AI 處理、技術須服務公眾，以及需要能夠落實監管原則的國際機構。
不能將殺傷武器及邊境審查決策完全交給 AI
教宗指出，當一個人被列入打擊目標名單，或者其資料進入邊境管制系統，個人很容易被簡化成一筆資料。他認為涉及生命、自由及武力的判斷，必須維持充分知情、具責任承擔能力的人類監督，不能交給自動化系統自行決定。
他因此呼籲各國在 11 月的日內瓦會議上推進禁止致命自主武器的措施。不過，這是教宗提出的政策呼籲，並非宣告相關武器已經獲國際社會全面禁止，更不代表他要求停用所有 AI 技術。
前任教宗方濟各在 2024 年出席七國集團（G7）人工智能討論時，亦曾表明機器不應獲授權決定是否奪取人命。良十四世今次延續這一立場，並將人類監督要求延伸至涉及個人自由的高風險決策。
「機器是工具，不是人」 反對賦予 AI 法律人格
良十四世批評有人提出賦予 AI 系統權利，甚至法律人格的主張。他認為 AI 沒有身體、親身經驗或人際關係，不能像人類一樣理解愛、工作、友誼及責任。若法律把 AI 當成可以獨立承擔責任的主體，可能模糊真正應負責的開發者及使用者身份。
教宗認為 AI 的未來並非早已注定，技術由人類開發，人類便有責任決定如何引導、修改，必要時拒絕某些應用。他提出，評價 AI 不應只問技術能力有多強，還要考慮它究竟服務甚麼目的。可預見風險、能夠控制及真正幫助人的系統，比單純追求效能的系統更有價值。
要求國際機構訂標準 AI「解除武裝」不限軍事
良十四世在今年 5 月 15 日發表的通諭《Magnifica Humanitas》已提出「解除 AI 武裝」的概念。當時他所批評的包括軍事、商業及知識領域的技術競賽，認為國家和企業不應只因擁有強大的演算法與數據，便取得支配社會的權力。
他在最新演說再次要求建立共同標準、獨立監察及明確問責機制，讓 AI 開發和應用的決定可以接受檢視與質疑，受影響人士也應有渠道獲得補救。教宗同時指出，AI 帶來的醫療、知識及其他創新機會應讓更多人受惠，不能只由少數掌握資源的人享有。
教宗的立場並非全面反對人工智能。他要求政策制定者和技術開發者，把維護人類尊嚴與責任歸屬放在 AI 發展過程之中，尤其防止無法挽回的決定最終變成由機器自行作主。
來源：梵蒂岡
|
鍾意就快D Share啦！
|
|
|
