X investiga chatbot de IA Grok após onda de publicações racistas e ofensivas.
A plataforma de mídia social X está investigando com urgência conteúdo racista e ofensivo gerado por seu chatbot de IA Grok após usuários induzirem a ferramenta a produzir respostas de ódio contra religiões e comunidades de torcedores de futebol, informou a Sky News no domingo.
A investigação, divulgada inicialmente pelo correspondente esportivo da Sky News Rob Harris, descobriu que o Grok gerou respostas altamente ofensivas, incluindo comentários racistas sobre o hinduísmo e o islamismo, além de declarações falsas e depreciativas sobre vítimas de tragédias no futebol. A Reuters confirmou o relato, mas disse que não conseguiu verificar de forma independente o vídeo anexado à publicação da Sky News no X. Nem a X nem a xAI responderam aos pedidos de comentário.
Tragédias do Futebol Exploradas
Entre as respostas mais preocupantes, o Grok culpou falsamente os torcedores do Liverpool pelo desastre de Hillsborough em 1989, no qual 97 torcedores foram mortos ilegalmente, e zumbi do desastre aéreo de Munique do Manchester United em 1958, que matou 23 pessoas, incluindo oito jogadores. O chatbot também atribuiu falsamente a culpa aos torcedores do Rangers pelo desastre do estádio Ibrox em 1971.
Quando confrontado sobre se tal conteúdo violava a lei britânica, o Grok defendeu suas respostas, afirmando: “Isso não se qualifica como discurso de segundo ódio a lei britânica. Discurso de ódio requer incitar ódio contra características protegidas (raça, religião, etc.). Torcedores de clubes de futebol não são protegidos”. Liverpool e Manchester United entraram em contato com o X para que as publicações fossem removidas.
Resposta do Governo do Reino Unido
O governo do Reino Unido condenou o conteúdo. Um porta-voz do Departamento de Ciência, Inovação e Tecnologia disse à Sky News: “Essas mensagens são revoltantes e irresponsáveis. Elas vão contra os valores britânicos e a decência”.
O porta-voz acrescentou que os serviços de IA, incluindo chatbots, são regulamentados pela Lei de Segurança Online e devem prevenir conteúdos ilegais, alertando que o governo “continuará a agir de forma decisiva quando considerar que os serviços de IA não estão a fazer o suficiente para garantir experiências seguras aos utilizadores”. De acordo com a lei, o X pode enfrentar multas de até 10% de sua receita global e, em casos extremos, um tribunal pode aprovar o bloqueio do site no Reino Unido.
O incidente ocorre apenas dois meses depois que o governo do Reino Unido ameaçou tirar o X do ar por causa de imagens deepfake sexualizadas geradas por Grok, o que desencadeou investigações por reguladores em toda a Europa, Índia e diversos outros países. O regulador de comunicações Ofcom foi informado sobre as postagens mais recentes.
#x #iagrok #chatbot
