Kaspersky adiciona detecção de e-mails de BEC gerados por IA ao Secure Mail Gateway
A Kaspersky lançou no Secure Mail Gateway (KSMG 3.1) uma camada de detecção voltada especificamente para e-mails de Business Email Compromise redigidos por modelos de linguagem, combinando análise estatística do padrão de escrita típico de LLMs com reconhecimento de frases-chave associadas a golpes de BEC. A cobertura multilíngue (oito idiomas, incluindo português) responde ao fato de que textos gerados por IA eliminam os erros gramaticais que antes serviam como pista para funcionários identificarem e-mails fraudulentos. É um movimento defensivo direto contra a profissionalização do BEC assistido por IA.
Durante anos, um dos sinais mais confiáveis para identificar um e-mail de BEC — aquele em que o golpista se passa por um executivo ou fornecedor para induzir uma transferência financeira ou mudança de dados bancários — era a qualidade duvidosa do texto: erros de gramática, tradução literal, formalidade estranha. Com a adoção de LLMs por grupos de fraude, esse sinal praticamente desapareceu: o texto gerado por IA é gramaticalmente correto, tem tom apropriado ao contexto corporativo e pode ser produzido em qualquer idioma sem que o atacante o domine de fato. A resposta da Kaspersky nesse anúncio é atacar exatamente essa lacuna.
A técnica combina duas camadas. A primeira é estatística: modelos de linguagem tendem a escolher, em cada ponto da frase, a palavra de maior probabilidade segundo sua distribuição de treinamento, o que produz um padrão de previsibilidade lexical mensurável e diferente da escrita humana espontânea — mesmo quando o texto está gramaticalmente perfeito. A segunda camada é mais tradicional: extração de frases-chave e padrões textuais historicamente associados a golpes de BEC (urgência, pedido de sigilo, mudança de dados de pagamento, autoridade hierárquica simulada), que continuam presentes independentemente de quem — humano ou IA — escreveu o texto.
O ponto prático para quem administra segurança de e-mail corporativo é que esse tipo de detecção precisa operar como camada complementar, não substituta, de controles já consolidados contra BEC: verificação fora de banda de qualquer pedido de mudança de dados bancários ou pagamento (telefone, canal já validado — nunca respondendo o próprio e-mail suspeito), políticas de dupla aprovação para transferências acima de determinado valor, e autenticação de domínio (SPF/DKIM/DMARC) para reduzir spoofing do remetente. Ferramentas de detecção de texto gerado por IA ajudam a pegar a nova geração de BEC bem escrito, mas o golpe em si — engenharia social explorando confiança hierárquica — não muda; o controle de processo continua sendo a defesa mais robusta.
Vale notar que a arma de detecção baseada em "padrão estatístico de LLM" tem prazo de validade previsível: à medida que atacantes passam a editar manualmente ou usar prompts para variar o estilo do texto gerado, o sinal de previsibilidade lexical se degrada. Isso reforça que a camada de frases-chave e contexto (pedido de pagamento, urgência, mudança de dados bancários) deve permanecer como linha de defesa principal, com a detecção de IA funcionando como sinal adicional de risco, não como veredito único.