A rede social X deve “implementar imediatamente as medidas adequadas para impedir a produção, com a ajuda do Grok, de conteúdos sexualizados ou erotizados envolvendo crianças e adolescentes”. A exigência foi feita na passada quarta-feira pelo Procurador-Geral do Brasil, pela Agência Nacional de Proteção de Dados (ANPD) e pelo Serviço Nacional de Defesa do Consumidor (Senacon), que estende a ordem a casos que envolvam “adultos que não deram o seu consentimento”.
Na notificação conjunta, as entidades exigem que a plataforma detida por Elon Musk adote medidas técnicas eficazes para travar a geração deste tipo de imagens, fixando um prazo de cinco dias para o cumprimento da ordem, sob pena de ações judiciais e aplicação de multas.
Apesar de a X ter removido milhares de publicações e suspendido centenas de contas após uma advertência emitida em janeiro, os utilizadores continuam a conseguir criar imagens de teor sexual através do Grok, segundo as autoridades brasileiras.
No final de 2025 e início de 2026, o sistema de conversação respondia a pedidos de utilizadores que solicitavam que celebridades – e também pessoas anónimas – fossem retratadas despidas ou “colocar em biquíni”, recorrendo a imagens geradas por inteligência artificial. A maioria das vítimas visadas eram mulheres.
Leia também: Escritórios da rede social X alvo de buscas em França
A proliferação destes conteúdos gerou indignação pública e levou à abertura de processos por parte das autoridades em França, no Reino Unido e na União Europeia. Em alguns países do Sudeste Asiático, como a Malásia, a Indonésia e as Filipinas, o acesso à rede social chegou mesmo a ser temporariamente suspenso antes de ser restabelecido.
Em meados de janeiro, a X anunciou que iria bloquear a geração de imagens de nudez de pessoas reais “nas jurisdições onde tal seja ilegal”. Inicialmente, esta funcionalidade estava limitada a utilizadores pagos, mas persistem dúvidas quanto à eficácia do bloqueio.
Um estudo da organização não-governamental CCDH indicou que o Grok terá gerado cerca de três milhões de imagens sexualizadas de mulheres e crianças em apenas 11 dias – o equivalente a uma média de 190 imagens por minuto.
O Brasil já havia suspendido temporariamente o acesso à X em 2024, por decisão do Supremo Tribunal Federal, devido ao incumprimento de ordens relacionadas com o combate à desinformação, num histórico recente de tensão entre as autoridades brasileiras e a plataforma.
