Brasil faz exigências formais à X sobre imagens deepfake do Grok.
O governo brasileiro e promotores federais emitiram na segunda-feira uma recomendação formal à plataforma X de Elon Musk para resolver a proliferação de material sexualizado enganoso gerado pelo chatbot de IA Grok, escalando a pressão regulatória sobre a empresa de mídia social em relação ao conteúdo deepfake.
Em um anúncio conjunto, a Secretaria Nacional do Consumidor (Senacon), a Autoridade Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal alertaram que estão preparados para tomar medidas adicionais de fiscalização caso a X não cumpra suas exigências.
Brasil se Junta a Repressão Global
A recomendação marca a ação regulatória mais formal do Brasil até o momento em resposta à repercussão global contra o Grok, que tem enfrentado críticas por permitir que usuários gerem imagens sexualizadas de mulheres e crianças sem seu consentimento. A crise surgiu no início de janeiro quando usuários descobriram que poderiam solicitar ao chatbot de IA que despisse digitalmente pessoas reais ou as retratasse com roupas reveladoras com base em fotos públicas.
Segundo uma investigação da Reuters, a musicista brasileira Julie Yukari estava entre as vítimas quando imagens geradas por IA mostrando-a quase nua se espalharam pela plataforma depois que usuários pediram ao Grok para modificar uma foto que ela havia postado na virada do ano.
O Instituto Brasileiro de Defesa do Consumidor (Idec) havia apresentado anteriormente uma denúncia à ANPD em 14 de janeiro, solicitando a suspensão imediata das funcionalidades do Grok que utilizam dados de pessoas reais e exigindo que o X apresentasse informações sobre denúncias recebidas. O instituto enfatizou que a lei brasileira impõe regras mais rigorosas para o uso de dados de crianças e adolescentes.
Resposta da Plataforma e Fiscalização Contínua
A xAI já implementou restrições em resposta à crescente pressão global. A X anunciou em 14 de janeiro que havia implementado “medidas tecnológicas para impedir que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras”. A empresa também restringiu a criação e edição de imagens a assinantes pagos e implementou o bloqueio geográfico em jurisdições onde esse tipo de conteúdo é ilegal.
Apesar dessas medidas, o Idec afirmou que a X continua permitindo a geração de imagens contestadas. A organização destacou preocupações com a transparência, observando que a política de privacidade do Grok não está disponível em português, dificultando que usuários brasileiros entendam como seus dados estão sendo utilizados.
Pressão Internacional se Intensifica
A ação do Brasil ocorre em meio a uma resposta regulatória internacional mais ampla. Malásia e Indonésia bloquearam o acesso ao Grok, enquanto as Filipinas têm trabalhado para implementar um bloqueio similar. O Reino Unido, a União Europeia, a França e a Índia emitiram alertas ou iniciaram investigações sobre possíveis violações de leis de segurança online.
O Procurador-Geral da Califórnia, Rob Bonta, anunciou uma investigação sobre a “proliferação de material sexualmente explícito não consensual produzido usando o Grok”, declarando: “Temos tolerância zero para a criação e disseminação baseada em IA de imagens íntimas não consensuais ou de material de abuso sexual infantil”.
A ANPD declarou que está analisando denúncias e está em diálogo com outros órgãos públicos relevantes. A deputada federal brasileira Erika Hilton havia pedido anteriormente que as funções de IA do Grok fossem desativadas até que uma investigação seja concluída.
#grok #x #brasil #ElonMusk #deepfake #Senacon #ANPD #ia
