Deepfakes e Dark LLMs: cinco formas como criminosos já usam IA para aplicar golpes
A Group-IB mapeou cinco formas concretas pelas quais criminosos usam IA generativa para escalar fraude: deepfakes para suplantação de identidade, centrais de golpe com voz sintética, "dark LLMs" sem censura vendidos por assinatura, ferramentas de spam com personalização automática e kits de malware com módulos de IA embutidos. O levantamento estima US$ 350 milhões em perdas só com deepfakes no segundo trimestre de 2025, evidenciando que a IA já reduziu a barreira técnica para golpes sofisticados.
A Group-IB consolidou tendências observadas por seus analistas de inteligência de ameaças sobre o uso ofensivo de IA generativa em fraude, cobrindo desde deepfakes em tempo real até assinaturas de "dark LLMs" vendidas na dark web.
O relatório descreve cinco vetores concretos. Primeiro, deepfakes em vídeo permitem suplantar executivos em videochamadas para autorizar transferências, ou até simular um cliente durante verificação de identidade (KYC) por biometria facial. Segundo, centrais de golpe combinam texto-para-voz e vozes sintéticas para gerar chamadas em massa que soam humanas, escalando para um golpista real apenas quando a vítima demonstra interesse, o que otimiza o tempo do criminoso. Terceiro, "dark LLMs" são modelos sem as barreiras éticas dos produtos comerciais, vendidos por US$ 30 a US$ 200 por mês, usados para redigir e-mails de phishing convincentes, gerar código malicioso e roteiros de engenharia social sob medida. Quarto, ferramentas de "spam-as-a-service" usam IA para personalizar iscas de phishing em massa a partir de dados vazados, variando a mensagem dinamicamente para driblar filtros antispam. Quinto, kits de malware já incorporam módulos de IA para reconhecimento de alvo, geração de exploit e ofuscação de código, reduzindo a barreira técnica para atacantes menos experientes.
O efeito líquido descrito pelo relatório é a democratização do golpe sofisticado: tarefas que antes exigiam uma equipe com múltiplas habilidades — redator convincente, dublador, desenvolvedor de malware — agora podem ser compradas como serviço ou geradas por um único operador com acesso a um dark LLM. Isso tende a aumentar tanto o volume quanto a qualidade média das fraudes em curto prazo, especialmente golpes que dependem de convencer a vítima por voz ou vídeo.
Na prática, a defesa mais eficaz contra suplantação por deepfake em chamadas é adotar uma segunda forma de verificação combinada — um retorno de ligação para número já conhecido ou uma palavra-código combinada previamente — antes de autorizar qualquer transação sensível. Equipes de atendimento e familiares de pessoas mais vulneráveis devem ser treinados para desconfiar de urgência emocional em ligações de "familiar" ou "executivo", já que a voz isolada deixou de ser prova confiável de identidade. Bancos e fintechs devem reforçar processos de KYC com detecção de vivacidade (liveness) resistente a deepfake, em vez de depender apenas de reconhecimento facial estático.