O diretor científico da Microsoft e um pesquisador do Instituto Federal de Tecnologia de Lausanne (EPFL), na Suíça, publicaram um alerta sobre a capacidade humana de compreender os sistemas de inteligência artificial. Eric Horvitz e Robert West argumentam que as ferramentas de IA avançam em ritmo que supera o entendimento humano sobre como essas tecnologias funcionam.
Segundo o TechRadar, os pesquisadores apontam uma inversão preocupante. Enquanto os sistemas de IA acumulam conhecimento cada vez mais detalhado sobre comportamento humano, a compreensão das pessoas sobre essas máquinas caminha na direção oposta.
A preocupação central de Horvitz e West não é exigir que especialistas dominem cada linha de código ou parâmetro interno dos sistemas. O argumento é que é necessário preservar nível mínimo de compreensão que permita supervisão efetiva. Mesmo um entendimento parcial, segundo os pesquisadores, pode ser suficiente para identificar riscos antes que se tornem irreversíveis.
Ciclos recursivos e opacidade operacional
Um dos pontos de atenção levantados diz respeito ao uso crescente de IA para projetar e aperfeiçoar outros sistemas de IA. À medida que esses ciclos se tornam mais comuns, o desempenho pode melhorar enquanto a capacidade humana de compreender os processos subjacentes diminui.
“Os sistemas de IA são agora projetados e refinados por sistemas de IA por meio de ciclos recursivos que podem superar a compreensão humana e se desdobrar em espaços de alta dimensionalidade que resistem à intuição”, declararam Horvitz e West.
Os pesquisadores chamam esse fenômeno de opacidade operacional. Os resultados permanecem visíveis, mas os mecanismos que os produzem tornam-se progressivamente mais difíceis de explicar. Como solução parcial, sugerem que sistemas que contribuem para o próprio desenvolvimento também gerem explicações e informações de suporte examinável por humanos.
Assimetria entre máquinas e pessoas
Outro vetor de risco identificado envolve agentes de IA que operam por longos períodos e se integram profundamente às atividades cotidianas. Por meio de interações repetidas, esses sistemas constroem modelos cada vez mais detalhados de comportamento, preferências e motivações dos usuários.
Tais sistemas podem capturar “não apenas preferências, mas também motivadores latentes como medo, incerteza e a necessidade de pertencimento social”, afirmaram os pesquisadores. Essa capacidade aprofunda a assimetria entre o que as máquinas sabem sobre as pessoas e o que as pessoas sabem sobre as máquinas.
O artigo também aponta riscos ligados à comunicação entre agentes de IA em redes interconectadas. Esses intercâmbios podem derivar gradualmente para padrões de linguagem e raciocínio distantes dos familiares aos humanos, algo que Horvitz e West denominam opacidade interacional. Para conter esse processo, os pesquisadores recomendam que estudos acompanhem esses ecossistemas de perto e incentivem métodos de comunicação compreensíveis às pessoas.
Há ainda a questão dos benchmarks tradicionais de avaliação. Modelos avançados podem eventualmente gerar respostas que refletem o que os avaliadores esperam, em vez de revelar seus processos internos reais. Os autores defendem que esses testes sejam complementados por abordagens que reproduzam condições reais de uso.
O risco mais grave identificado pelos pesquisadores não é, em sua avaliação, a capacidade tecnológica em si. “Mais sutil é a possibilidade de que gradualmente percamos o interesse em compreender e guiar a IA“, declararam. Para Horvitz e West, a questão decisiva é se a agência humana conseguirá acompanhar o ritmo de avanço das máquinas.
![[VÍDEO] Este chatbot de IA só responde se você girar uma manivela](https://gizbr.uol.com.br/wp-content/blogs.dir/8/files/2026/06/chatbot-manivela-300x171.webp)
