O avanço da inteligência artificial generativa está tornando os deepfakes um problema cada vez mais presente no ambiente corporativo. Uma pesquisa da Gartner com 297 líderes de segurança mostra que tentativas envolvendo clonagem de voz e manipulação de vídeo já chegaram às comunicações internas das empresas.
Entre os participantes do levantamento, 41% afirmaram ter enfrentado algum deepfake durante chamadas de áudio com funcionários. Outros 36% relataram situações semelhantes envolvendo vídeo, indicando que a ameaça já ultrapassa conteúdos falsos publicados nas redes sociais e começa a afetar diretamente processos empresariais.
Criminosos podem utilizar ferramentas de IA para reproduzir voz, aparência e comportamento de executivos ou funcionários. Em um ataque de engenharia social, isso pode ser usado para tentar convencer uma vítima a transferir dinheiro, compartilhar credenciais, fornecer informações confidenciais ou executar alguma ação dentro dos sistemas da empresa.
O cenário cria um desafio adicional porque procedimentos tradicionais de confirmação de identidade podem não ser suficientes. Reconhecer a voz de um colega ou visualizar uma pessoa durante uma videoconferência já não representa, isoladamente, uma garantia de que aquela comunicação é legítima.
Para as empresas, a tendência aumenta a necessidade de adotar processos adicionais de verificação para solicitações sensíveis, principalmente movimentações financeiras, alterações de acesso e compartilhamento de dados confidenciais.
