通諭發布儀式由教宗親自主持,與包括美國人工智能企業Anthropic聯合創辦人奧拉(Christopher Olah)在內的專家一同出席。
Anthropic目前正與美國軍方進行法律訴訟,反對將其技術用於致命自主武器系統及大規模監控。奧拉於現場表示,人工智能企業在「一系列誘因與限制下運作,有時會與做正確的事產生衝突」,並歡迎教會等外部力量參與,以「推動事態向更好方向發展」,並指「AI引發的問題,已超越了AI研究界的範疇」。
作為首位美國籍教宗,良十四世在通諭中警示,切勿「為確保地緣政治或商業霸權,而競相發展更強大的演算法及更龐大的數據集」。他強調,人工智能必須「從淪為統治、排斥與死亡工具的邏輯中解放出來」,並明確指出「將致命決策交託予科技絕不能接受」。
良十四世又回應指,接受奧拉邀請,「同行,傾聽與發言,共同為人類尋找出路」。他透露,在籌備通諭期間,曾聽取科學家、工程師、政治領袖、家長及教師的意見,既聽到「令人極度不安的聲音」,亦聽見「那些發不出聲音者的沉默」。
警惕「武裝競爭」思維
通諭引用聯合國數據指出,人工智能產業價值預計於2033年達4.8萬億美元,較十年前增長25倍,但利潤卻集中於極少數人手中。良十四世指:「解除人工智能武裝,意味著使其擺脫『武裝』競爭的思維。」他補充:「解除武裝並非拒絕技術,而是防止技術主宰人類。」並強調,人工智能應當「以人為本」、普及大眾,並開放予討論與辯論。
良十四世警告,技術革命背後存在新型態奴役,強調「人工智能世界中沒有任何事物是無形或魔法般的」。他指出:「每一個看似即時且完美的回應……都依賴數百萬人的無聲勞動」,從被迫觀看令人不安內容的內容審核員,到開採人工智能所需稀土元素的兒童,他們「承受創傷、傷害與耗損,以維持計算流程不間斷運行」。
相關報導:白宮梵蒂岡交惡:教皇批美「全能妄想」
教宗亦就梵蒂岡在奴隸貿易及為奴隸制辯護中的角色,發出前所未有的道歉,形容這是「基督教記憶中的一道傷口」,並「以教會名義真誠請求寬恕」。
通諭又重申,提升效率或創新不能成為「刻意隱藏的剝削鏈」的藉口,社會須進一步減低人工智能的環境影響,以「保護我們共同的家園」。
《偉大的人類》於5月15日簽署,適逢良十三世1891年通諭135周年紀念。良十三世的通諭曾在工業革命時期奠定教會社會教義基礎。梵蒂岡早於2020年已發起《人工智能倫理羅馬呼籲》,倡議新技術須尊重人類尊嚴。專家認為,《偉大的人類》的影響力或可與教宗方濟各2015年氣候通諭《願祢受讚頌》(Laudato Si’)相提並論,後者曾引發全球政治與公民社會的廣泛回應。