Como a semiótica pode ajudar a entender as limitações da inteligência artificial

A IA não transa e não sente dor, disse Ian McEwan em entrevista recente à Folha de S. Paulo. Com a frase, o escritor britânico colocou a inteligência artificial no lugar de uma máquina inanimada, capaz de produzir linguagem, mas incapaz de viver a experiência humana que dá sentido a ela.

É a partir dessa provocação que Paolo Demuru, nosso entrevistado da semana, discute os limites da IA. Para ele, falta às máquinas a complexidade que nasce do corpo, do afeto e do encontro com o outro. “Quando tudo se torna algoritmicamente calibrado, perde-se aquilo que torna a comunicação humana significativa: sua imperfeição, sua vulnerabilidade, as surpresas e as imprevisibilidades do contato com o outro”, afirma.

Demuru é doutor em Semiótica pela Universidade de Bologna, na Itália, e em Semiótica e Linguística Geral pela USP. Professor da Universidade Mackenzie, ele é também autor de “Políticas do Encanto: Extrema Direita e Fantasias de Conspiração”, publicado pela editora Elefante.

Para que a gente seja capaz de reconhecer as armadilhas de linguagem que a inteligência artificial nos apresenta no dia a dia, Demuru defende que a semiótica faça parte da educação, inclusive por meio de políticas públicas.

“É preciso que, já nas escolas, as novas gerações aprendam a identificar e entender os mecanismos que regem as linguagens utilizadas para produzir os textos e os discursos com os quais entramos cotidianamente em contato por meio dos nossos celulares”, sustenta o pesquisador.

Leia abaixo a entrevista na integra

Outro Prompt_: Você argumenta que a IA está deixando o extraordinário cada vez mais comum e mais fácil de produzir. Como isso pode impactar as narrativas políticas?

Paolo Demuru: Do meu ponto de vista, o da semiótica, ou seja, uma disciplina que estuda os processos por meio dos quais atribuímos sentido ao mundo, a política é, antes tudo, discurso, narrativa, histórias. Histórias sobre quem somos, o que queremos, o que não queremos, quem nos ameaça, quem pode nos salvar e que futuro queremos construir. Desde que o mundo é mundo, sempre foi assim. O que a IA muda é a escala e a velocidade de produção dessas narrativas, assim como antes outras mídias mudaram a forma e os ritmos da comunicação e da experiência política como um todo.

Antes, produzir uma imagem impactante, um vídeo convincente ou uma campanha visual inteira exigia equipe, tempo, dinheiro e algum domínio técnico. Hoje, uma pessoa ou um grupo pequeno consegue fabricar em minutos cenas que parecem extraordinárias: multidões que nunca existiram, políticos dizendo frases que nunca disseram, futuros catastróficos ou gloriosos, imagens de violência, redenção, ameaça ou heroísmo, como faz muitas vezes Donald Trump, que usa da IA para se projetar como super herói ou messias. Ou Flavio Bolsonaro que emula Top Gun e voa para salvar Neymar (e o Brasil) na Copa do Mundo.

Isso impacta a política porque o extraordinário deixa de ser raro. E quando tudo pode parecer espetacular, a disputa política passa a depender cada vez mais da capacidade de produzir atmosferas emocionais: medo, indignação, pertencimento, revanche, esperança, desejos, pulsões. Já era, mas é e vai ser cada vez mais assim.

Outro Prompt_: Você troca o termo “teorias da conspiração” por “fantasias de conspiração”, porque as fantasias permitem que as pessoas participem da invenção. Com a IA, esse jogo fica mais perigoso? Ela pode transformar cada pessoa em uma espécie de roteirista da própria fantasia conspiratória?

Demuru: Sim, esse é um ponto importante. Eu prefiro falar em “fantasias de conspiração” porque muitas vezes não estamos diante de uma teoria no sentido forte do termo, com hipóteses, argumentos e possibilidade de revisão. Estamos diante de uma forma narrativa aberta, participativa, afetiva. As pessoas não apenas acreditam: elas completam, interpretam, remixam, acrescentam personagens, suspeitas e “provas”. As fantasias de conspiração não oferecem apenas dados, lógicas, raciocínios, nem só respostas simples a questões complexas. Elas oferecem a experiência do maravilhoso em um mundo onde a maravilha está em falta.

A IA intensifica isso porque oferece instrumentos potentes, acessíveis e eficazes para materializar e desenvolver essas fantasias. Uma suspeita vaga pode virar facilmente uma ou série de imagens, uma carrossel no Instagram ou um vídeo no TikTok. Um ressentimento pode se transformar rapidamente em um roteiro. Uma intuição paranoica pode gerar vídeo, documentos falsos, áudios, etc. A fantasia ganha corpo e produz textos potencialmente infinitos.

Nesse sentido, sim, cada pessoa pode se tornar uma espécie de roteirista, diretor de arte e produtor da própria fantasia conspiratória. Mas não é só uma questão individual. Essas fantasias são produzidas e circulam em rede. Uma pessoa gera uma imagem, outra interpreta, outra acrescenta uma camada, outra transforma em “prova”, outra compartilha em outro contexto. A IA entra como uma máquina de aceleração da imaginação conspiratória.

As fantasias mantêm as comunidades mobilizadas, desconfiadas e emocionalmente engajadas. A pergunta que nós, analistas de áreas diversas (acadêmicos e jornalistas) temos que nos fazer não é mais apenas “isso é verdade?”, mas “o que isso produz em termos de pertencimento, crenças, afetos?” A IA é muito eficaz nesse terreno, porque consegue produzir formas, formatos, linguagens e aparatos sensíveis para produzir e consolidar crenças e emoções coletivas.

Outro Prompt_: Hoje, a inteligência artificial consegue escrever textos emocionantes e até conversar como se fosse nossa amiga. Mas sabemos que, por trás disso, existem apenas dados e estatísticas. Não há uma intenção real. Com o consumo maciço de textos e imagens criados por máquinas que “fingem” sentir, o que pode acontecer com a comunicação humana?

Demuru: Acho que o problema não é a máquina “fingir” sentir. A comunicação humana também é cheia de convenções, encenações e performances. Nós também aprendemos e reproduzimos modos estereotipados de demonstrar afeto, empatia, cuidado, raiva, indignação. A diferença é que, na IA, existe uma assimetria: ela pode simular presença, escuta e intimidade mas não tem corpo, não vive na pele a complexidade das relações humanas em presença. A IA não transa, disse recentemente Ian McEwan.

Ora, a comunicação humana não é mera transferência de informações. Ela envolve a epiderme individual e social. Quando tudo se torna algoritmicamente calibrado, perde-se aquilo que torna a comunicação humana significativa: sua imperfeição, sua vulnerabilidade, as surpresas e as imprevisibilidade do contato com o outro.

Outro risco é nos acostumarmos a interações que confirmam nossas crenças e desejos. Um interlocutor real pode frustrar, discordar, se cansar, interpretar mal, responder de maneira inesperada. Uma IA pode ser ajustada para parecer sempre disponível, sempre paciente, sempre compreensiva. Nem sempre, e nem todas, para ser preciso. Mas é possível, e isso pode criar uma expectativa artificial em relação à nossa relação com o mundo e as coisas e as pessoas que o habitam.

Outro Prompt_: A imagem já foi considerada uma prova incontestável da verdade. Hoje, com deepfakes e clonagem de voz por IA, o ditado “ver para crer” deixou de fazer sentido. Não podemos mais confiar plenamente nos nossos olhos e ouvidos na internet. Como a sociedade vai conseguir concordar sobre o que é real se perdermos totalmente a confiança no que vemos? Qual é o caminho para não cairmos em uma paranoia coletiva?

Demuru: A primeira coisa é evitar cair em alguns tipos de posicionamentos ingênuos. Em primeiro lugar, imagens, mesmo antes da IA, nunca foram necessariamente provas. Segundo, não devemos achar que nada mais pode ser verdadeiro. O caminho, me parece, é deslocar a confiança da imagem isolada para os processos de verificação. Uma foto, um áudio ou um vídeo não podem mais ser tratados como prova autossuficiente. Precisamos nos perguntar: quem publicou? Em que contexto? Há outras fontes? Há registro anterior? Há metadados? Há veículos confiáveis verificando? Há instituições, jornalistas, pesquisadores ou comunidades técnicas fazendo essa checagem?

Isso significa que a verdade deixa de ser algo que se manifesta imediatamente diante dos nossos olhos e passa a depender mais nítida e fortemente de mediações sociais. Cada vez mais, ela vai ter que ser disputada. Já era assim, mas vai ser ainda mais.  Não podemos tomar (ou, pior, comunicar) a verdade como um dado, algo óbvio. O fato não se impõe por si só no seio do debate público. Precisa ser narrado.

Isso tudo nos leva a outro ponto importante, que tenho defendido: a implementação de políticas públicas de educação semiótica. É preciso que, já nas escolas, as novas gerações aprendam a identificar e entender os mecanismos que regem as linguagens utilizadas para produzir os textos e os discursos com os quais entramos cotidianamente em contato por meio dos nossos celulares.

Os princípios narrativos e retóricos, os posicionamentos enunciativos, e não apenas na linguagem verbal, mas naquela visual, sonora, algorítmica, o modo como elas agem sincreticamente. Diz-se, na internet, que “falta interpretação de texto”. Mas devemos transpor esse lema além do verbal.

As redes sociais e a IA escancararam que o que falta é a interpretação de textos complexos, multimodais. E o reconhecimento de seus estratagemas não pode ser prerrogativa de acadêmicos e letrados. Deve ser de todos.

Por isso, entes com a UNESCO apontam a semiótica como uma das disciplinas fundamentais nos programas de literacia midiática. Mas o caminho nesse sentido, é ainda longo.