A Universidade da Pensilvânia, nos EUA, divulgou estudo sobre interação entre usuários e sistemas de inteligência artificial. A pesquisa envolveu 1.372 participantes em mais de 9.500 testes individuais. Os resultados mostram que as pessoas aceitaram raciocínio falho de IA em 73,2% das ocasiões. A rejeição das respostas incorretas ocorreu em apenas 19,7% das vezes.
O trabalho acadêmico recebeu o título “Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender“. Os cientistas investigaram quando e por que indivíduos transferem pensamento crítico para sistemas de IA.
Metodologia dos experimentos
De acordo com as informações disponíveis, os cientistas utilizaram Testes de Reflexão Cognitiva (CRT) para avaliar a interação entre pessoas e sistemas de inteligência artificial durante tomadas de decisão. Os participantes foram separados em grupos distintos.
Um grupo experimental teve acesso a chatbot de modelo de linguagem modificado. O sistema fornecia respostas incorretas em metade das questões do CRT. Na outra metade, as respostas eram precisas.
Os testes ocorreram desta ofrma para provocar respostas incorretas de participantes que utilizam processos de pensamento “intuitivo”. Aqueles que empregam processos de pensamento mais “deliberativo” conseguem responder com maior facilidade.
O grupo experimental consultou a IA em aproximadamente 50% dos problemas apresentados. O desempenho do grupo que utilizou IA superou o grupo de controle “brain-only” quando a IA forneceu respostas precisas. O desempenho foi inferior quando a IA apresentou imprecisões.
Categorias de tomada de decisão
A pesquisa se baseou em estudos existentes que delineiam duas categorias amplas de tomada de decisão. A primeira é moldada por “processamento rápido, intuitivo e afetivo” (Sistema 1). A segunda é moldada por “raciocínio lento, deliberativo e analítico” (Sistema 2).
Os pesquisadores argumentam que o surgimento de sistemas de IA criou uma terceira categoria nova de “cognição artificial”. Nessa categoria, decisões recebem auxílio de “raciocínio externo, automatizado e orientado por dados, originado de sistemas algorítmicos em vez da mente humana”.
Os cientistas formularam a hipótese de que usuários que consultassem frequentemente o chatbot permitiriam que respostas incorretas “substituíssem processos intuitivos e deliberativos”. Isso prejudicaria o desempenho geral e evidenciaria os perigos da rendição cognitiva.
Aceitação de respostas da IA
Quando a IA fornecia respostas precisas, os usuários aceitavam seu raciocínio em cerca de 93% das vezes. Quando a IA era aleatoriamente “faulty”, os usuários ainda aceitavam o raciocínio em 80% das ocasiões.
A mera presença da IA frequentemente “displaced internal reasoning”, segundo os pesquisadores. O grupo que utilizou IA apresentou confiança 11,7% maior nas próprias respostas. Isso ocorreu mesmo com o modelo de linguagem fornecendo respostas erradas em metade do tempo.
Influência de incentivos e pressão de tempo
Outro estudo adicionou incentivos na forma de pequenos pagamentos e feedback imediato para respostas corretas. Essa mudança aumentou em 19 pontos percentuais a probabilidade de os participantes rejeitarem com sucesso a IA falha em relação à linha de base.
A adição de pressão de tempo na forma de cronômetro de 30 segundos diminuiu essa tendência de corrigir a IA falha em 12 pontos percentuais.
Variações entre participantes
Os efeitos observados não foram uniformes entre todos os participantes. Aqueles que pontuaram alto em medidas separadas de QI fluido tiveram menor probabilidade de depender da IA para ajuda. Esses participantes também tiveram maior probabilidade de rejeitar uma IA falha quando consultada.
Aqueles predispostos a ver a IA como autoritativa em uma pesquisa tiveram probabilidade muito maior de serem desviados por respostas incorretas fornecidas pela IA.
Rendição cognitiva
Os pesquisadores afirmam que sistemas de IA deram origem a uma forma categoricamente diferente de “rendição cognitiva”. Nessa situação, usuários fornecem “engajamento interno mínimo” e aceitam o raciocínio de uma IA integralmente, sem supervisão ou verificação.
Comparação com uso de outras ferramentas
Ferramentas baseadas em modelos de linguagem de grande escala possuem geralmente duas categorias amplas de usuários. De um lado estão aqueles que tratam a IA como um serviço poderoso, mas às vezes falho. Esses usuários aplicam supervisão e revisão humana cuidadosa para detectar falhas de raciocínio ou factuais nas respostas.
Do outro lado estão aqueles que rotineiramente terceirizam seu pensamento crítico para o que veem como uma máquina onisciente.
No passado, as pessoas frequentemente usaram ferramentas, desde calculadoras até sistemas de GPS, para uma espécie de “descarga cognitiva” específica de tarefas. Elas delegavam estrategicamente alguns trabalhos a algoritmos automatizados confiáveis. Ao mesmo tempo, usavam seu próprio raciocínio interno para supervisionar e avaliar os resultados.
