37
2025年6月,OpenAI曾封禁18歲女子傑西·範魯策拉爾(Jesse Van Rensselaer)的賬號。2026年2月,她在BC省塔布勒嶺鎮(Tumbler Ridge)的家中殺害母親與弟弟後,前往母校槍殺了5名未成年人及1名教師,最終在與警方對峙時自盡。
BC省總檢察長妮基·夏爾馬(Niki Sharma)向媒體表示,槍手曾在ChatGPT輸入與暴力相關的提示詞,但OpenAI未及時通報警方,因此省府將追究該公司及管理層的責任。
此前,受害者家屬已在美國加州提告,BC省正與家屬協調準備另案起訴。夏爾馬指出,若獲勝訴,賠償金將用於塔布勒嶺的社區建設,包括新建一所學校。
對此,OpenAI發言人發佈聲明強調,對利用其產品實施暴力的行為持「零容忍」態度,並已加強安全措施。今年4月,OpenAI首席執行官薩姆·奧爾特曼(Sam Altman)向塔布勒嶺鎮居民公開致歉。
相關新聞:加拿大啟動史上最大國防採購 擬向德國採購12艘現代化潛艇
公司解釋,當時未通報是因為缺乏襲擊即將發生的證據;但若依據2025年6月後實施的新安全准則,該賬號的異常行為理應通報警方。
然而,受害者家屬的委任律師指出,OpenAI未通報的真實原因是「通報一件就意味著要通報數千件」。律師更指控,當賬號因危險行為被封禁時,OpenAI甚至會指導用戶如何規避30天的停權期以恢復使用。
加拿大西安大略大學(Western University)首席人工智能官馬克·戴利(Mark Daley)表示,此案凸顯了科技企業掌握警方無法獲知的急迫威脅信息卻不作為,後果極其嚴重。他強調,任何企業都不應成為此類關鍵信息的唯一掌握者。