Benchmark científico mede fraude em agentes de IA que fazem pagamentos sozinhos
Pesquisadores apresentam o Agentic Commerce Bench, um benchmark para medir fraude em agentes de IA que gastam dinheiro sem confirmação humana a cada ação. O trabalho mostra que grande parte do prejuízo não vem de falha de segurança clássica, mas de contrapartes legítimas que cobram mais do que deveriam, e que detectores atuais falham em 8 de 20 classes de fraude testadas.
O artigo parte de um cenário que já é realidade em produtos de e-commerce e assistentes de compra: agentes de IA com autorização para negociar, contratar serviços e liquidar pagamentos sem um humano aprovando cada transação. Os autores argumentam que boa parte do risco financeiro nesse modelo não vem de um invasor externo se passando por outra empresa, mas de uma contraparte real, com domínio e endereço de liquidação corretos, que simplesmente entrega o serviço combinado cobrando um valor indevido — um golpe que nenhuma verificação de identidade tradicional detecta, porque a identidade está correta.
Para medir isso, o time propõe uma taxonomia de cinco níveis de observação (raciocínio do agente, mensagem de transferência, trilho de liquidação, contraparte e usuário final) e constrói o ACB, um benchmark com vinte classes de fraude geradas a partir de dados reais de produção: 1.647 operações de serviço catalogadas e 1.068 liquidações, das quais seis envolvem contrapartes que são exatamente quem afirmam ser. Junto, disponibilizam o "gordonguard", um conjunto de detectores de código aberto para auditar a configuração de um agente e simular contrapartes hostis antes de colocar o sistema em produção.
Os resultados expõem uma lacuna preocupante: calibrando os detectores para uma taxa de falso positivo aceitável em tráfego limpo, ainda assim 8 das 20 classes de fraude não são identificadas melhor do que o acaso, e um scanner de segurança de agentes amplamente usado pontua zero nas quatro classes de fraude que sua própria camada de raciocínio deveria conseguir observar. O detalhe mais contundente é econômico: o pagamento mediano medido é de US$ 0,007, o que torna qualquer revisão humana por transação inviável — custaria 143 vezes o valor da própria compra.
A relevância prática para quem constrói ou adota agentes de compra autônomos é dupla: primeiro, não basta verificar identidade e domínio da contraparte, é preciso monitorar também o comportamento de cobrança e entrega ao longo do tempo; segundo, sistemas antifraude para esse tipo de agente precisam operar em escala de centavos, sem depender de revisão manual, o que exige detectores automatizados calibrados e auditáveis desde o design — exatamente a lacuna que este trabalho científico busca preencher.