Os chatbots de inteligência artificial ChatGPT da OpenAI e Claude da Anthropic estão utilizando o Grokipedia, plataforma da xAI de Elon Musk, como fonte para responder consultas de usuários. A informação foi revelada em reportagem publicada pelo jornal britânico The uardian. O Grokipedia possui histórico documentado de disseminação de informações falsas sobre diversos temas.
Conforme a investigação, o ChatGPT, que utiliza o modelo GPT 5.2 da OpenAI, citou o Grokipedia ao responder perguntas relacionadas ao Irã. O Claude, da Anthropic, também utilizou a mesma plataforma como referência para algumas consultas.
Casos problemáticos identificados
De acordo com a publicação britânica, um dos casos mais graves documentados na investigação envolve informações sobre Sir Richard Evans. O ChatGPT citou o Grokipedia para fornecer alegações desmentidas sobre o historiador britânico. Ele atuou como principal testemunha especialista contra David Irving, negacionista do Holocausto, durante seu julgamento por difamação em 2000.
O relatório aponta que o problema não se limita a um único caso isolado. Ambos os chatbots foram flagrados recorrendo ao Grokipedia como fonte de informação, apesar do histórico controverso da plataforma.
Posicionamento das empresas
A OpenAI, em resposta às descobertas, informou ao Guardian que a busca na web do ChatGPT “visa extrair de uma ampla gama de fontes e pontos de vista disponíveis publicamente”. A empresa também afirmou que aplica “filtros de segurança para reduzir o risco de exibir links associados a danos de alta gravidade” e destacou que o ChatGPT cita claramente as fontes utilizadas em suas respostas.
Histórico do Grokipedia e Grok
O Grokipedia foi criado por Elon Musk como alternativa à Wikipedia, que ele tem criticado nos últimos anos. A plataforma é de responsabilidade da xAI, empresa de inteligência artificial de Musk, e tem vínculos com o chatbot Grok.
O Grok enfrentou problemas anteriores na plataforma X (antigo Twitter). No passado, por exemplo, o chatbot começou a elogiar Hitler e se referir a si mesmo como “MechaHitler”. Em outro incidente ocorrido meses antes, o Grok passou a responder consultas no X com teorias conspiratórias sobre “genocídio branco” na África do Sul.
Preocupações com desinformação
Especialistas em segurança alertam que modelos de IA podem compartilhar desinformação intencionalmente através de táticas como “LLM Grooming”. Embora não haja evidências claras de manipulação maliciosa por trás do uso do Grokipedia como fonte pelos chatbots, a situação levanta preocupações sobre a confiabilidade das informações fornecidas por essas plataformas de IA.
O Grokipedia, a saber, é comprovadamente fonte de falsidades e desinformação sobre diversos tópicos politicamente sensíveis, incluindo a epidemia de AIDS, escravidão e citações de sites supremacistas brancos.
