Alerta: "slop squatting" direciona usuarios de IA a paginas de phishing
Pesquisadores descrevem o "slop squatting", tecnica em que criminosos monitoram alucinacoes de LLMs (dominios ou pacotes inexistentes sugeridos por assistentes de IA) e registram esses enderecos para hospedar paginas de phishing. Como varios usuarios recebem a mesma resposta fabricada para perguntas parecidas, um unico dominio malicioso pode capturar um volume relevante de vitimas que confiam cegamente na sugestao da IA.
O termo "slop squatting", cunhado pelo pesquisador Seth Michael Larson, descreve uma tecnica em que criminosos exploram as alucinacoes de modelos de linguagem para distribuir phishing em escala. Quando um LLM erra e inventa um dominio, pacote ou URL que parece plausivel mas nao existe, atacantes atentos monitoram esses padroes de alucinacao e correm para registrar o endereco fabricado antes que alguem legitimo o faca.
O golpe funciona por dentro explorando um efeito de escala: como muitos usuarios fazem perguntas parecidas a assistentes de IA, o mesmo modelo tende a alucinar a mesma resposta errada repetidamente para pessoas diferentes. Isso significa que um unico dominio malicioso registrado apos uma alucinacao recorrente pode captar um fluxo constante de vitimas que colam o link sugerido pela IA direto no navegador, sem passar pelos filtros mentais de ceticismo que normalmente se aplicam a um resultado de busca desconhecido. E uma variacao digital do typosquatting, mas em vez de explorar erros de digitacao do usuario, explora erros de geracao do proprio modelo.
O risco cresce a medida que assistentes de IA passam a ser usados nao so para perguntas informais, mas para tarefas com maior peso pratico, como pedir o site de um banco, de um orgao publico ou de um pacote de software a instalar. Nesse caso, a superficie de ataque deixa de ser so uma pagina de phishing tradicional e pode incluir pacotes de codigo maliciosos publicados sob nomes alucinados, atingindo tambem desenvolvedores.
Como reconhecer e prevenir: nunca tratar um dominio, comando de instalacao ou link sugerido por um assistente de IA como verificado por definicao, o mesmo ceticismo aplicado a um resultado de busca desconhecido deve valer aqui. Vale conferir o dominio digitando-o manualmente em fontes oficiais (site do banco, documentacao oficial do pacote) em vez de clicar direto na sugestao, e organizacoes que publicam software devem monitorar registros de dominios e nomes de pacotes semelhantes aos seus para identificar tentativas de squatting precocemente.