Um chinês que divulgava vídeos nas redes sociais acumulou centenas de milhares de seguidores e vendeu bens russos ao simular que estava a combater na Ucrânia, através da criação de vídeos com recurso à inteligência artificial (IA).
Careca e com barba espessa, o homem identificado pelo pseudónimo Baoer Kechatie, apresentava-se como um soldado das forças especiais da Chechénia, estacionado nas linhas da frente.
Num dos vídeos, onde surge à frente do que diz ser uma “central nuclear”, proclama que o exército russo acabou de dominar a área. Noutro, afirma que acabou de lutar contra fuzileiros navais norte-americanos e exibe uma arma.
No entanto, o sotaque cerrado da província de Henan, no centro da China, acabou por suscitar dúvidas sobre a veracidade do conteúdo. Utilizadores do Douyin, a versão chinesa da aplicação de partilha de vídeos curtos TikTok, apuraram que o IP (Protocolo de Internet) de Baoer Kechatie estava localizado precisamente em Henan.
A conta chegou a somar 400.000 seguidores e vendeu pelo menos 210 produtos, incluindo vodca e mel russos, através de um loja de comércio eletrónico associada.
Num comunicado difundido este fim de semana, o Douyin disse que suspendeu indefinidamente a conta, por “espalhar desinformação”.
Antes de ser banido, o proprietário da conta retirou todos os vídeos e mudou o pseudónimo de “Baoer Kechatie” para Wang Kangmei, que se traduz como “Resistência aos Estados Unidos”.
Na China, a utilização de identidades falsas entre criadores de conteúdo é cada vez mais frequente, à medida que as ferramentas de IA para manipulação de vídeo e áudio são aprimoradas.
No ano passado, uma mulher que se identificava como Nana e de origem russa tornou-se viral por partilhar momentos da sua vida na China, mas acabou por ser desmascarada como uma impostora que transformou a sua aparência com recurso a filtros alimentados por IA. A conta chegou a ter quase dois milhões de seguidores.
Em janeiro passado, a China passou a criminalizar a publicação e veiculação de vídeos e áudio editados via inteligência artificial e realidade virtual (‘deepfakes’) que não estejam identificados como tal.
“Com a adoção de novas tecnologias como ‘deepfakes’ na indústria dos vídeos e áudios, o uso de conteúdo suscetível de perturbar a ordem pública e violar os interesses da população é um risco, criando problemas políticos e impacto negativo para a segurança nacional e a estabilidade social”, apontou então a Administração do Ciberespaço da China.
As medidas incluem a obrigatoriedade de configurar um sistema de verificação de nome real aquando da criação de uma conta.
Desde maio, o Douyin exige que todos os usuários rotulem claramente o conteúdo gerado por inteligência artificial.
