55
此項命令於週三由巴西聯邦檢察總長辦公室、國家數據保護局(ANPD)及國家消費者保護秘書處(Senacon)聯合發布,並強調管制範圍亦涵蓋「未經當事人同意的成年人影像」。
在聯合通知中,上述機構強烈要求馬斯克(Elon Musk)旗下的 X 平台必須採取有效的技術手段,阻斷此類影像的生成。當局設定了五天的合規期限,若平台屆時未能遵從,將面臨法律訴訟及罰款。
巴西當局指出,儘管 X 平台在1月接獲警告後,已移除數千則違規貼文並封鎖數百個帳戶,但用戶仍持續利用「Grok」生成色情內容,顯示現有措施成效不足。
據悉,自 2025 年底至 2026 年初,該聊天系統持續應應用戶要求,利用 AI 生成名人及一般民眾的裸露或不雅影像,其中絕大多數受害者為女性。
此類內容的氾濫已引發公眾強烈憤慨,並促使法國、英國及歐盟當局採取法律行動。此前,馬來西亞、印尼和菲律賓等東南亞國家,亦曾因類似問題短暫中止 X 平台的服務,隨後才予以恢復。
相關新聞:《人民文學》葡語版巴西首發
針對此爭議,X 於一月中旬宣布,計畫在「生成此類圖像屬違法行為的司法管轄區」,封鎖生成真人裸露影像的功能。然而,儘管該功能最初僅限付費用戶使用,外界對於其封鎖機制的有效性仍存有疑慮。
非政府組織「反網路仇恨中心」(CCDH)的研究顯示,Grok 在短短 11 天內便生成了約三百萬張將女性及兒童性化的圖像,平均每分鐘產出高達 190 張。
此次事件再次凸顯了巴西當局與 X 平台之間的緊張關係。早在 2024 年,巴西聯邦最高法院就曾因該平台未遵守打擊假訊息的相關命令,裁定暫時中止其在巴西的服務。
