Por Leandro Roosevelt
Os agentes mal-intencionados ou cibercriminosos costumam ser criativos, sofisticados e ágeis. Com o uso de técnicas requintadas como deepfakes, fraudadores estão explorando brechas emocionais e tecnológicas para extorquir, roubar e chantagear vítimas. Em 2024, os golpes envolvendo vídeos e imagens falsos movimentaram bilhões, expondo um lado sombrio da Inteligência Artificial Generativa (GenIA).
Deepfakes são conteúdos manipulados com o uso de inteligência artificial que recriam, com impressionante fidelidade, rostos, vozes e movimentos humanos. Cibercriminosos têm usado esses recursos para criar avatares falsos e perfis enganosos — muitas vezes se passando por celebridades ou pessoas comuns — a fim de estabelecer conexões próximas com suas vítimas.
Entre as estratégias mais comuns está a manipulação de voz e imagem em tempo real, o que permite ao fraudador participar de chamadas de vídeo, enviar mensagens personalizadas e conquistar a confiança de maneira quase perfeita. A linha entre o verdadeiro e o falso, já tênue – e torna-se cada vez mais imperceptível.
Leia também: IBM z17: Banco Mercantil integra IA diretamente ao core bancário
De acordo com dados do FBI, apenas em 2024, os golpes românticos com deepfakes geraram prejuízos de cerca de US$ 650 milhões. No Brasil, histórias de vítimas são cada vez mais frequentes. Em um caso recente, um perfil falso se passando por Johnny Depp envolveu uma vítima em uma relação online que resultou na perda de mais de R$ 400 mil. Outros nomes usados em fraudes incluem Arnold Schwarzenegger e Elon Musk, explorando a credibilidade e o carisma dessas figuras públicas para aplicar golpes.
Apesar do uso malicioso da IA, a tecnologia também oferece ferramentas poderosas para combater crimes digitais. Soluções como reconhecimento biométrico e autenticação multifator são capazes de identificar perfis falsos com base em detalhes faciais minuciosos — como piscadas, microexpressões e movimentos oculares.
Além disso, o monitoramento contínuo da identidade digital, que analisa padrões de interação com a tela, localização geográfica e frequência de acesso, pode sinalizar comportamentos suspeitos antes que o golpe se concretize.
Redes sociais, aplicativos de namoro e plataformas com forte engajamento emocional precisam investir em autenticação de identidade digital. A criação de ambientes mais seguros passa pelo uso estratégico da tecnologia e pela conscientização dos usuários — especialmente os menos familiarizados com o mundo digital, os quais são os mais vulneráveis nesse tipo de abordagem.
A batalha contra os deepfakes não é apenas tecnológica — é também ética, social e educacional. Enquanto a IA segue revolucionando a maneira como nos conectamos, ela também desafia nossos filtros de confiança. Saber reconhecer um rosto já não é suficiente. Em tempos de vídeos mentirosos com rostos verdadeiros, a verdade precisa de novos aliados — e a tecnologia, usada com responsabilidade, pode (e deve) estar entre eles.
Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!
