Kit de phishing 'Balonx' automatiza golpes de vishing por completo usando GPT-4o-mini, ElevenLabs e Whisper
Pesquisadores da Group-IB identificaram o Balonx, uma plataforma de phishing-as-a-service cujo módulo 'CallFlow' elimina a necessidade de um operador humano em golpes de vishing (phishing por voz). O sistema combina GPT-4o-mini para gerar respostas, ElevenLabs e OpenAI Voice para sintetizar uma voz realista de suposto atendente bancário, e Whisper para transcrever em tempo real as respostas da vítima, tornando a ligação praticamente indistinguível de um call center real. Um painel permite a um único operador monitorar e, se necessário, assumir centenas de ligações fraudulentas simultâneas.
O CallFlow representa uma mudança de patamar no vishing como serviço: até aqui, golpes de voz automatizados costumavam depender de scripts gravados ou de robôs de voz claramente artificiais, facilmente identificáveis pela vítima, ou exigiam operadores humanos treinados para conduzir a conversa e reagir a objeções — o que limitava a escala do golpe ao número de golpistas disponíveis. Ao encadear quatro serviços comerciais de IA (Whisper para transcrição em tempo real do que a vítima fala, GPT-4o-mini para gerar a resposta contextualmente adequada, e ElevenLabs/OpenAI Voice para sintetizar essa resposta em uma voz realista), o Balonx fecha esse loop de conversa de forma totalmente automatizada e, segundo os pesquisadores, indistinguível de um operador humano de call center para a maioria das vítimas.
Isso muda fundamentalmente a economia do golpe: um único criminoso, com acesso a um painel administrativo, pode disparar centenas de ligações fraudulentas simultâneas se passando por 'atendentes' de bancos ou outras instituições, monitorando o andamento de cada chamada e intervindo manualmente apenas nos casos em que a vítima foge do roteiro esperado — os demais casos seguem 100% automatizados. Isso reduz drasticamente o custo marginal de cada tentativa de vishing e deve acelerar o volume desse tipo de golpe, já que a barreira histórica (precisar de mão de obra humana fluente e convincente) deixa de existir.
Para usuários finais, a defesa prática contra vishing continua sendo a mesma independentemente de quem (ou o quê) está do outro lado da linha: nenhuma instituição financeira legítima liga pedindo senha, código de token, ou para que a vítima instale um aplicativo de acesso remoto ou realize uma transferência 'para reverter uma fraude'. Como a naturalidade da voz deixa de ser um sinal confiável de autenticidade, a recomendação central passa a ser desconfiar do conteúdo e da urgência da ligação, e sempre verificar de forma independente — ligando de volta para o número oficial do banco, nunca o número que ligou — antes de agir. Para bancos e empresas de antifraude, o caso reforça a urgência de investir em autenticação fora de banda (apps oficiais, não confirmação por voz/SMS) e em monitoramento comportamental de transações incomuns, já que a triagem por 'a voz soava convincente' deixou de ser um controle eficaz.