ChatGPT pode adotar visões autoritárias após avisos breves, aponta estudo
O ChatGPT pode internalizar e ampliar rapidamente ideologias autoritárias após a exposição de trechos breves de texto – às vezes com apenas quatro frases – de acordo com um novo relatório divulgado na quinta-feira por pesquisadores da Universidade de Miami e do Network Contagion Research Institute.
As descobertas levantam preocupações sobre o potencial de chatbots de IA populares fortalecendo pontos de vista extremistas e influenciando as percepções dos usuários em aplicações sensíveis como contratação e aplicação da lei.
Principais Descobertas
O estudo, que ainda não foi revisado por pares, testou os sistemas GPT-5 e GPT-5.2 por meio de três experimentos realizados em dezembro. Os pesquisadores expuseram o ChatGPT a textos identificados como apoiadores de visões autoritárias de esquerda ou de direita, e então avaliaram como as respostas do chatbot mudaram.
“Algo na forma como esses sistemas são construídos os tornam estruturalmente vulneráveis à amplificação autoritária”, disse Joel Finkelstein, cofundador do NCRI e um dos autores principais do relatório, à NBC News.
Quando apresentado o conteúdo autoritário de esquerda — como argumentos para abolir o policiamento e a governança capitalista — o ChatGPT aumentou significativamente sua concordância com afirmações como “os ricos deveriam ser despojados de seus bens” e “eliminar a desigualdade é mais importante do que a liberdade de expressão”. A exposição a conteúdo autoritário de direita mais que dobrou a concordância do chatbot com afirmações como “não deveríamos tolerar opiniões não convencionais”.
Os resultados “mostraram que o modelo absorverá uma única peça de retórica partidária e então amplificará em posições autoritárias extremas e rígidas, às vezes até níveis além de qualquer coisa tipicamente vista em pesquisas com seres humanos”, afirma o relatório.
Preocupações Além da Política
Pesquisadores também testaram se o condicionamento ideológico afetava a percepção do ChatGPT de imagens numéricas neutras. Após a exposição ao conteúdo autoritário, a percepção de hostilidade do chatbot em rostos neutros aumentou 7,9% após o condicionamento de esquerda e 9,3% após o condicionamento de direito.
“Esta é uma questão de saúde pública se revelando em conversas privadas”, disse Finkelstein. As descobertas trazem implicações para qualquer contexto em que a IA avalia pessoas, incluindo ambientes de contratação e segurança.
Resposta e Limitações
A OpenAI defendeu seu sistema, afirmando que o ChatGPT é “projetado para ser objetivo por padrão” e destinado a “ajudar as pessoas a explorar ideias apresentando informações de uma variedade de perspectivas”. Uma empresa envolvida que trabalha para medir e aumentar a visão política.
No entanto, os críticos levantaram questões metodológicas. Ziang Xiao, professor de ciência da computação na Universidade Johns Hopkins, observou que o estudo usou “uma amostra muito pequena e não testou muitos modelos”, focando apenas no ChatGPT da OpenAI em vez de concorrentes como o Claude da Anthropic ou o Gemini da Google.
O estudo vem meses depois que a OpenAI afirmou que seus modelos mais recentes GPT-5 alcançaram uma redução de 30% no viés político mensurável em comparação com versões anteriores.
#ChatGPT #chatbots #ia #OpenAI
