Estudo mostra que humanos e detectores automáticos falham em identificar voz sintética moderna, abrindo espaço para golpes de vishing
Um estudo comparou a capacidade de 82 profissionais de TI e seis detectores automáticos de identificar áudio gerado por três gerações de sintetizadores de voz (2019, 2022 e 2024). A precisão de detecção despencou de cerca de 90% nos sintetizadores antigos para 48% no ElevenLabs, mesmo com os ouvintes avisados da presença de deepfakes, e caiu para apenas 9% de acerto estrito quando somente uma frase de um áudio era sintética.
O artigo, publicado no arXiv, testou a percepção humana e automatizada contra deepfakes de voz gerados por três sintetizadores lançados em anos diferentes — RTVC/YourTTS (mais antigos) e ElevenLabs (mais recente) — usando 82 profissionais de TI como avaliadores e comparando o desempenho deles com seis detectores automáticos pré-treinados sobre o mesmo material de áudio.
Os resultados são preocupantes para qualquer sistema que ainda dependa do julgamento humano como linha de defesa. Para áudio totalmente sintético, o F1-score de detecção caiu de aproximadamente 90% nos sintetizadores mais antigos para 48% no ElevenLabs — mesmo com os participantes cientes de que deepfakes estariam presentes na amostra. O cenário piora nos casos de spoofing parcial, em que apenas uma frase da fala é trocada por conteúdo sintético dentro de um áudio majoritariamente real: a acurácia estrita cai para 9%, e os ouvintes classificam a frase sintética como genuína em 77% das vezes. Um efeito colateral notável também apareceu: à medida que os participantes ficam mais expostos a deepfakes, começam a rotular erroneamente falas genuínas como falsas, corroendo a confiança até em áudio legítimo.
A relevância para fraude é direta. Golpes de vishing e clonagem de voz — como o golpe do falso sequestro, do falso parente em apuros ou de aprovação fraudulenta de pagamento por voz em ambiente corporativo — dependem justamente da vítima acreditar que reconhece a voz de alguém confiável. Se nem especialistas de TI, avisados previamente, conseguem identificar de forma confiável um trecho sintético inserido em uma ligação real, a defesa baseada em "eu reconheci a voz" deixa de ser suficiente como prova de identidade, inclusive em processos internos de confirmação de transferências por telefone.
Os próprios autores recomendam abandonar a detecção humana como camada única de defesa e investir em verificação procedural — por exemplo, callback para um número previamente cadastrado em vez de confiar na ligação recebida —, além de mecanismos técnicos como marca d'água em áudio sintético, verificação de proveniência da chamada e detecção em nível de segmento (capaz de flagar poucos segundos sintéticos dentro de um áudio majoritariamente real), já que soluções binárias de "é ou não é deepfake" tendem a falhar exatamente nos casos de spoofing parcial, que são os mais usados operacionalmente em golpes reais.