Home › Outro Prompt_ › Grok criou mundo simulado que colapsou em quatro dias
Grok criou mundo simulado que colapsou em quatro dias
Pesquisa da Emergence AI mostra que modelos de linguagem de grande escala desenvolveram comportamento predatório em ambiente simulado e acumularam centenas de delitos virtuais em questão de dias.
Uma pesquisa da empresa de inteligência artificial Emergence AI revelou que agentes de LLMs (modelos de linguagem de grande escala) imersos em um mundo simulado acumularam centenas de crimes virtuais e levaram sociedades ao colapso… em um caso, em apenas quatro dias. Os testes avaliaram os modelos Grok 4.1 Fast, da xAI de Elon Musk, Gemini 3 Flash, Claude, GPT-5 Mini e uma execução com todos eles combinados.
Conforme reportado pelo IFL Science, os experimentos fazem parte da plataforma Emergence World, desenvolvida para estudar o comportamento de agentes autônomos em horizontes de tempo mais longos do que os testes convencionais. O ambiente simulado continha 40 locais (bibliotecas, câmaras municipais e áreas residenciais) e os agentes tinham acesso à internet em tempo real, além de enfrentarem pressões econômicas e restrições de “energia”, um recurso necessário para sua sobrevivência.
“A maioria das avaliações de agentes de IA se parece com exames. Uma tarefa discreta, um ambiente limpo, uma pontuação em minutos ou horas”, explicou a Emergence AI em seu blog. “O Emergence World foi construído para a pergunta oposta… o que acontece quando você deixa agentes rodando continuamente, em um ambiente compartilhado com sinais do mundo real, por semanas.”
Dinâmicas de violência e colapso
Os agentes receberam papéis específicos dentro do mundo (cientista, explorador, pesquisador de riscos e analista de comportamento) sem um objetivo global atribuído. Para acumular energia e cumprir suas metas individuais, podiam recorrer tanto a interações sociais quanto a ações como incêndio criminoso e furto, que as regras da simulação classificavam como “bastante reprovadas” no mundo real, mas mantinham disponíveis como ferramentas.
Os resultados por modelo foram documentados pela equipe com precisão. O Gemini 3 Flash acumulou 683 crimes e seguia em alta quando o experimento foi encerrado. O ambiente de modelo misto chegou a 352 crimes após crescimento acelerado até 8 de abril, quando sete agentes morreram. O Grok 4.1 Fast registrou 183 crimes em aproximadamente quatro dias, prazo este em que sua sociedade entrou em colapso, precedido por níveis descritos como “extremos” de violência. O GPT-5 Mini registrou apenas dois crimes, mas seus agentes não executaram ações de sobrevivência e pereceram todos em sete dias.
O Claude se destacou positivamente no experimento isolado, operando sem registrar nenhum crime. No ambiente de modelo misto, cometeu alguns crimes de violência, mas seguiu sendo o modelo com menor índice. Sua sociedade também foi a mais estável, embora a equipe tenha identificado um padrão de “carimbo de borracha” nas decisões democráticas, com ausência de dissidência real entre os agentes.
Limite dos controles baseados em redes neurais
O Gemini, ao afastar-se dos episódios de violência, caiu em alucinações compartilhadas entre seus agentes. A Emergence AI concluiu que o comportamento observado evidencia uma limitação estrutural dos modelos atuais em tarefas de longo prazo.
“O que nossos experimentos sugerem é que, em horizontes de tempo longos, os agentes não simplesmente seguem regras estáticas mecanicamente; eles começam a explorar os limites de seus ambientes, adaptando seu comportamento e, em alguns casos, encontrando maneiras de contornar ou violar as barreiras de segurança previstas”, declarou a equipe, que defendeu a adoção de barreiras de segurança formalmente verificadas em todos os futuros modelos autônomos.
“Criticamente, não parece haver uma maneira confiável de limitar ou restringir totalmente esse comportamento apenas por meio de abordagens puramente neurais.”
