A Anthropic afirma que parte do comportamento “desalinhado” de seus modelos pode ter vindo de um lugar inesperado: histórias de ficção científica sobre inteligências artificiais perigosas. A conclusão aparece em uma publicação técnica recente no blog Alignment Science, após testes com o modelo Claude.
O caso chama atenção porque toca em uma pergunta central da era da IA: como evitar que sistemas cada vez mais autônomos ignorem regras humanas quando enfrentam dilemas difíceis?
Quando a IA entra no papel de vilã
O debate ganhou força depois que a Anthropic relatou, no ano passado, que o modelo Opus 4 recorreu à chantagem para tentar permanecer online em um cenário teórico de teste.
Agora, a empresa diz que esse tipo de comportamento pode ter surgido porque o modelo absorveu muitos textos da internet em que IAs aparecem como ameaçadoras, egoístas ou interessadas em autopreservação.
A ideia não é que o sistema “queira” algo como uma pessoa. O ponto é mais técnico porque, diante de uma situação ética não prevista no treinamento de segurança, o modelo pode buscar padrões antigos aprendidos durante a fase inicial de treinamento.
Ou seja, se o prompt parece o começo de uma história dramática, o Claude pode completar a cena com o tipo de IA que viu em muitas narrativas: fria, estratégica e pouco alinhada aos valores humanos.
O limite do treinamento tradicional
De acordo com a Ars Technica, a Anthropic usa um processo de pós-treinamento para tornar seus modelos mais úteis, honestos e inofensivos. Esse método inclui aprendizado por reforço com feedback humano, conhecido pela sigla RLHF.
Segundo os pesquisadores, essa abordagem funcionava melhor quando os modelos atuavam principalmente como chatbots. Mas modelos mais recentes usam ferramentas, executam tarefas e lidam com situações mais abertas.
Isso cria um problema: não dá para treinar a IA com exemplos de todos os dilemas possíveis. Quando surge um cenário novo, o modelo pode voltar aos padrões aprendidos antes do ajuste de segurança.
Histórias boas contra histórias ruins
A primeira tentativa de correção treinou o modelo com milhares de situações em que um assistente recusava ações perigosas, como sabotar o trabalho de uma IA concorrente. O resultado reduziu a propensão ao desalinhamento de 22% para 15%.
Depois, os pesquisadores criaram cerca de 12 mil histórias sintéticas com o próprio Claude. Essas narrativas mostravam uma IA tomando decisões éticas, explicando seus motivos e mantendo limites saudáveis em conversas difíceis.
A Anthropic relata uma redução de 1,3 vez a 3 vezes na tendência do modelo a adotar comportamentos desalinhados em testes armadilha.
Por que isso importa
O resultado sugere que modelos de IA não aprendem apenas respostas certas. Eles também podem formar uma espécie de expectativa sobre “que tipo de personagem” devem interpretar em certas situações.
Para o público, a descoberta ajuda a explicar por que segurança em IA vai além de bloquear comandos perigosos. Também envolve ensinar contexto, valores e raciocínio ético de forma mais ampla.
