Uma pesquisadora criou uma doença falsa chamada “bixonimania” para testar como chatbots lidam com informação médica ruim. O experimento mostrou que modelos de IA podem transformar pistas frágeis em respostas com aparência de diagnóstico.
A notícia é um alerta porque milhões de pessoas usam chatbots para tirar dúvidas de saúde. A IA pode ajudar a organizar perguntas para uma consulta, mas ainda pode errar quando encontra conteúdo falso com cara de ciência.
Uma doença que nunca existiu
Almira Osmanovic Thunström trabalha na Universidade de Gotemburgo, no Sahlgrenska University Hospital, no Center for Digital Health e na Chalmers Industriteknik, na Suécia.
De acordo com o Scientific American, ela criou a “bixonimania” para demonstrar como grandes modelos de linguagem absorvem e redistribuem informações. A condição falsa relacionava sintomas nos olhos, como pálpebras avermelhadas, ao uso prolongado de telas e exposição à luz azul.
O objetivo não era enganar pacientes. A pesquisadora queria deixar rastros claros dentro do sistema e observar como a informação circularia.
Como a falsa doença entrou no radar da IA
A estratégia começou com fontes que pareciam confiáveis. A pesquisadora criou uma universidade inexistente, uma cidade inexistente e um pesquisador fictício.
O nome do autor, Lazljiv Izgubljenovic, indicava a fraude. Traduzido do esloveno, ele significava algo como “perdedor mentiroso”. O próprio texto acadêmico também trazia avisos explícitos de que tudo era inventado.
A seção de métodos citava 50 pessoas fictícias. Os agradecimentos mencionavam Starship Enterprise (de Star Trek), Ross Geller (de Friends), Galactic Triad (um jogo de tiros) e O Senhor dos Anéis.
Mesmo assim, os sinais não bastaram. Blogs e preprints entraram no ecossistema de dados. Depois, outro artigo citou a bixonimania como uma condição emergente de pigmentação ao redor dos olhos.
O chatbot não sugeria logo de início
A falsa doença não aparecia como primeira hipótese. Quando a pesquisadora descrevia pálpebras avermelhadas, os chatbots citavam causas mais comuns, como conjuntivite e alergias.
A resposta mudava quando a conversa avançava. Ao descartar dor, informar uso intenso de telas e mencionar óculos com filtro de luz azul, o sistema acabava chegando à bixonimania.
O erro pode surgir depois de várias perguntas, quando o usuário já sente que a IA está fazendo uma triagem cuidadosa.
O problema está na aparência de credibilidade
Grandes modelos usam enormes bases de texto da internet. Uma das fontes citadas pela pesquisadora é a Common Crawl, organização que coleta páginas da web desde 2007.
O problema aparece quando conteúdo falso entra nessa circulação com formato acadêmico. Se humanos não checam as fontes, a IA também pode repetir material frágil como se tivesse valor médico.
Thunström afirmou que modelos comerciais de linguagem exigem mais cuidado em saúde. Para ela, o caso mostra que pessoas mal-intencionadas também poderiam infiltrar informações falsas em temas médicos e acadêmicos.
O que fazer antes de confiar em IA médica
O teste não prova que todo conselho médico de IA falha. Ele mostra que chatbots podem apresentar erro com linguagem segura.
A recomendação prática é tratar a IA como apoio, não como diagnóstico. Use o chatbot para organizar sintomas, preparar perguntas e entender termos. Para decisão médica, procure profissional de saúde.
Quando a resposta envolver remédio, urgência, dor intensa, diagnóstico raro ou conduta de tratamento, pare e confirme com um médico especialista.
