2023 © Copyright 404 - Todos os direitos reservados

A próxima ameaça da IA pode estar no seu cartão de crédito

Iniciativa estabelece normas para validar e proteger operações comerciais realizadas por sistemas de IA autônomos
Imagem: Unsplash/Reprodução

A Aliança FIDO formou dois grupos de trabalho em abril de 2026 para desenvolver padrões de segurança em transações financeiras realizadas por agentes de inteligência artificial. Google e Mastercard, por exemplo, participam da iniciativa. Os grupos vão estabelecer normas para validar e proteger operações comerciais feitas por sistemas de IA autônomos.

A expansão de agentes de inteligência artificial que executam tarefas financeiras de forma autônoma criou novos desafios de segurança. Esses sistemas realizam ações em plataformas digitais sem supervisão humana constante. As operações vão desde reservas de viagens até gestão de investimentos.

A capacidade desses agentes de executar operações em nome dos usuários gera vulnerabilidades de segurança. A preocupação central é assegurar que os agentes executem apenas instruções autorizadas pelos usuários. Existe o risco de sequestro de agentes por atores maliciosos. Isso poderia resultar em instruções fraudulentas e atividades ilícitas.

A complexidade dos ecossistemas de pagamento aumenta esse desafio. Eles envolvem múltiplas partes interessadas: plataformas, comerciantes, provedores de pagamento e redes. A ausência de padrões claros poderia dificultar a determinação de responsabilidade em casos de disputas. Isso comprometeria a confiança necessária para a adoção ampla da IA.

Os paradigmas de segurança atuais não foram projetados para acomodar ações autônomas de inteligência artificial na economia conectada.

Objetivo da iniciativa

A organização industrial especializada em autenticação estabeleceu uma iniciativa para criar padrões que possam ser adotados universalmente pelo setor. O objetivo é garantir que agentes de IA que atuam de forma autônoma em nome de usuários humanos operem com base em protocolos de confiança e segurança.

A medida busca estabelecer uma linha de base de proteção para o campo emergente da IA agêntica.

A iniciativa envolve a Aliança FIDO como organização coordenadora. Google e Mastercard fornecem contribuições fundamentais e a medida afeta consumidores e empresas que utilizam ou desenvolvem sistemas de IA autônomos para transações financeiras.

Empresas como a ARSA Technology, que atua desde 2018 na entrega de sistemas de IA e IoT prontos para produção, precisam garantir que suas soluções sigam os protocolos de segurança mais elevados. Os padrões desenvolvidos impactarão usuários finais, comerciantes, provedores de pagamento e plataformas digitais que utilizarão agentes de IA para transações.

Componentes técnicos dos padrões

Os padrões em desenvolvimento abrangem três componentes. Primeiro, mecanismos de autorização de usuário altamente resistentes a phishing e outras tentativas de invasão. Eles impedirão que agentes mal-intencionados emitam instruções fraudulentas para agentes de IA.

Segundo, ferramentas criptográficas que permitirão aos serviços digitais confirmar definitivamente que um agente de IA está executando de forma legítima e precisa as instruções de uma pessoa autenticada. A prova criptográfica será central para verificar a intenção do usuário, mesmo quando a transação for mediada por IA.

O terceiro componente foca em frameworks de preservação de privacidade. Esses frameworks permitirão que usuários, comerciantes e outros provedores de serviços validem transações iniciadas por agentes. Informações sensíveis serão divulgadas apenas às partes relevantes.

Ferramentas de código aberto contribuídas

O Google contribuiu com o Agent Payments Protocol (AP2). A Mastercard desenvolveu o framework Verifiable Intent em colaboração com o Google. Ambas as ferramentas foram disponibilizadas como código aberto para acelerar a implementação dos padrões de segurança.

O Agent Payments Protocol (AP2) do Google fornecerá um mecanismo para verificação criptográfica da intenção do usuário em transações iniciadas por agentes. O framework Verifiable Intent da Mastercard, co-desenvolvido com o Google para funcionar com o AP2, oferecerá um meio seguro para usuários autorizarem e controlarem as ações de seus agentes.

Aplicação prática dos padrões

Um cenário ilustra a aplicação dos padrões. Um usuário instrui um agente de IA a comprar um par de tênis quando voltarem ao estoque, desde que o preço não exceda US$ 100. Sem um framework robusto, verificar esta transação seria problemático se o agente agisse incorretamente ou fraudulentamente.

O trabalho da Aliança FIDO visa fornecer a autenticação e transparência necessárias. Quando os tênis ficarem disponíveis, o consumidor receberá o item correto pelo preço pretendido. A transação será respaldada por um rastro auditável de autorização.

Este nível de garantia é fundamental para fomentar confiança em ferramentas alimentadas por IA. Os padrões abordarão preocupações sobre sequestro de agentes e comportamento fraudulento. Eles estabelecerão mecanismos claros de transparência e responsabilidade para resolução de disputas. Isso construirá a confiança necessária para a adoção generalizada de IA agentic no comércio.

Cronograma acelerado de desenvolvimento

O desenvolvimento de padrões técnicos abrangentes entre indústrias é um processo meticuloso. Frequentemente abrange vários anos. O ritmo sem precedentes de desenvolvimento e adoção de IA agêntica determina um cronograma condensado para esta iniciativa.

Representantes da Aliança FIDO, Google e Mastercard enfatizaram a urgência. Eles reconheceram que a tecnologia está evoluindo “muito, muito rápido”, declarou Pablo Fourez, diretor digital da Mastercard. Para acelerar este trabalho, Google e Mastercard estão contribuindo ativamente com ferramentas de código aberto para a iniciativa.

A velocidade sem precedentes no desenvolvimento da IA agêntica exige uma resposta rápida na criação de padrões de segurança. O alto custo de suportar consumidores e comerciantes quando agentes maliciosos exploram vulnerabilidades torna a adoção rápida de tecnologia de IA segura uma necessidade comercial.

Assine a newsletter do Giz Brasil