Estudo mede até onde LLMs conseguem automatizar a criação de sites de phishing funcionais
O framework acadêmico PhishGen testou 14 modelos de linguagem — comerciais, open source e 'sem censura' — na geração de páginas de phishing completas, comparando o resultado contra 64 kits de phishing reais usados por criminosos. O achado central é contraintuitivo: modelos comerciais de ponta como GPT-4.1 produzem páginas de coleta de credenciais funcionais com taxa de sucesso (86-94%) maior do que os modelos 'sem censura' geralmente apontados como maior ameaça (abaixo de 45%).
O estudo ataca uma lacuna real na literatura sobre risco de phishing gerado por IA: até agora, a maioria das avaliações media apenas se o LLM 'topava' gerar o código de uma página falsa, sem testar se essa página de fato funcionava como um kit de phishing operacional — ou seja, se renderizava fielmente a marca copiada e se completava todo o fluxo de captura e envio de credenciais da vítima para o atacante.
Por dentro, a metodologia combina geração em massa (14 modelos, 7 combinações de modalidade de prompt, 12 estratégias para contornar as proteções dos modelos) com avaliação em múltiplas camadas: similaridade visual automatizada, teste com usuários reais (não só métricas) e execução de ponta a ponta para verificar se a página efetivamente captura e transmite a credencial digitada. O resultado mostra uma separação clara entre 'gerar algo que parece um site' e 'gerar um kit de phishing que funciona': 96% dos prompts com contorno de proteção produzem uma página que renderiza, mas só 39% completam o pipeline inteiro de roubo de credencial — a maior causa de falha foi erro de salvamento/envio dos dados capturados.
A implicação prática para quem trabalha com detecção é dupla. Primeiro, o estudo encontra que páginas de phishing geradas por LLM deixam uma 'assinatura' própria do gerador, diferente da assinatura dos kits tradicionais — e os detectores atuais, baseados em similaridade visual com kits conhecidos, não captam esse padrão novo, o que sugere a necessidade de detectores híbridos que combinem assinatura comportamental (como e para onde os dados são enviados) com similaridade visual. Segundo, embora os kits de phishing tradicionais ainda sejam mais 'completos' por amostra, o fato de três LLMs comerciais superarem a taxa de sucesso média dos kits reais mostra que a barreira técnica para montar uma campanha de phishing está caindo rapidamente, o que deve acelerar o volume de páginas falsas novas e de baixo custo de produção circulando.
Para equipes de defesa antifraude, o recado é monitorar não apenas listas de kits conhecidos, mas padrões de infraestrutura e de exfiltração de dados que fogem da assinatura visual clássica — já que é exatamente esse tipo de página 'gerada na hora' que tende a escapar de detectores baseados só em clonagem de marca.