Os deepfakes deixaram de ser uma curiosidade tecnológica ou um problema limitado à desinformação política. Hoje, imagens, vídeos e vozes manipuladas por inteligência artificial podem ser usados para humilhar, extorquir, enganar, fraudar, destruir reputações ou exercer pressão psicológica sobre vítimas concretas.
A discussão ganhou nova urgência na União Europeia. Bruxelas anunciou este mês um acordo provisório para proibir sistemas de inteligência artificial capazes de gerar conteúdos sexuais explícitos ou íntimos sem consentimento, incluindo deepfakes sexuais e material de abuso sexual de menores gerado por IA. A Comissão Europeia indica que estas proibições deverão aplicar-se a partir de 2 de dezembro de 2026, juntamente com novas obrigações de marcação de conteúdos gerados por IA.
O problema, porém, já chegou à vida real de menores, idosos, trabalhadores, vítimas de violência e pessoas com menor literacia digital ou em situação de fragilidade emocional, económica ou profissional. A UNICEF alertou este ano que imagens sexualizadas de crianças criadas ou manipuladas com recurso a IA devem ser tratadas como material de abuso sexual infantil, sublinhando que “deepfake abuse is abuse” e que não há nada de falso no dano causado às vítimas.
A ameaça já não é apenas sexual ou reputacional. A Europol avisou, no relatório europeu sobre crime organizado, que a clonagem de voz e os deepfakes em vídeo estão a abrir caminho a novas formas de fraude, extorsão e roubo de identidade. O Fórum Económico Mundial assinalou também que os casos de fraude com deepfakes aumentaram 1.740% na América do Norte entre 2022 e 2023, com perdas superiores a 200 milhões de dólares, cerca de 185 milhões de euros, apenas no primeiro trimestre de 2025.
É neste contexto que Elsa Veloso, especialista em proteção de dados, privacidade e compliance da DPO Consulting, falou em exclusivo à ‘Executive Digest’ para defender que a sociedade deve deixar de olhar para os deepfakes como simples “conteúdo falso”. Quando uma imagem, vídeo ou voz manipulada é usada para humilhar, ameaçar, manipular ou extorquir alguém, argumenta, já estamos perante abuso, violência digital e, em muitos casos, crime.
Em entrevista, Elsa Veloso alerta para o impacto humano da inteligência artificial sobre pessoas vulneráveis, para a responsabilidade das plataformas, empresas, escolas e instituições, e para a necessidade de criar mecanismos rápidos de prevenção, denúncia e resposta.
“Uma imagem falsa pode destruir psicologicamente uma vítima”
Os deepfakes deixaram de ser apenas uma ameaça tecnológica e passaram a ser uma arma contra pessoas concretas? Estamos preparados para o impacto humano desta nova forma de violência digital?
Claramente que é importante criar consciência e alertas fortes sobre como os deepfakes deixaram de ser uma questão meramente tecnológica para constituírem uma ameaça a cada um de nós, à nossa sociedade e aos valores comuns partilhados.
Hoje são usados contra pessoas concretas, com impactos muito reais na sua vida, reputação, saúde mental e segurança. Uma imagem falsa pode ser usada para humilhar, ameaçar, extorquir ou destruir psicologicamente uma vítima.
O que mais preocupa é a normalização desta violência digital. Muitas pessoas continuam a olhar para um deepfake como “conteúdo falso”, quando na verdade pode representar apropriação da identidade, exposição pública, manipulação emocional e perda de controlo sobre a própria imagem.
Ainda não estamos preparados para o impacto humano desta realidade. A tecnologia evoluiu mais depressa do que a capacidade de resposta das instituições, das plataformas e da própria sociedade. A sociedade tem imperiosamente de agir.
“A culpa nunca é da vítima”
Quando uma imagem falsa consegue destruir reputações, extorquir dinheiro ou humilhar uma vítima, ainda faz sentido falar de “conteúdo gerado por IA” ou devemos falar de crime, abuso e violência?
Quando uma imagem falsa é usada para humilhar, extorquir, ameaçar ou manipular alguém, já não estamos apenas perante “conteúdo gerado por IA”. Estamos perante abuso, violência digital e, em muitos casos, crime.
A linguagem é importante. Chamar a estes conteúdos apenas “imagens falsas” pode minimizar o dano causado. Para a vítima, o impacto não é virtual: a vergonha, o medo, a ansiedade, a exposição pública e a perda de controlo são profundamente reais.
A culpa nunca é da vítima. A responsabilidade pertence a quem cria, partilha, ameaça, manipula ou lucra com a humilhação alheia. A sociedade tem de saber proteger as suas vítimas, tem de proteger os seus, tem de se proteger ativamente.
“Cada hora conta para a vítima”
A União Europeia discute proibir modelos de IA que permitam criar deepfakes sexuais sem consentimento. Chegámos tarde a uma ameaça que já entrou na vida de menores, idosos e pessoas vulneráveis?
A discussão europeia é importante, mas chega num momento em que o problema já entrou na vida real de muitas pessoas. Os deepfakes sexuais não consentidos já circulam há muito tempo em plataformas sociais, fóruns, canais de Telegram, Discord e Reddit, aplicações de IA generativa e até apps aparentemente inofensivas disponíveis em lojas oficiais.
O problema deixou de estar limitado à dark web ou a contextos marginais. Tornou-se mais banalizado, automatizado e acessível a qualquer pessoa com um smartphone.
A União Europeia tem instrumentos relevantes, como o AI Act, o Digital Services Act e o RGPD, mas o grande desafio está na execução. Ter leis não significa, por si só, garantir proteção efetiva. Nestas situações, cada hora conta para a vítima.
“A fraude já não chega apenas por mensagens ou links suspeitos”
Os deepfakes começaram por ser vistos como manipulação de imagem ou desinformação política, mas hoje surgem em fraudes, chantagens e abusos de confiança. Quais são os usos mais preocupantes que já se conseguem antecipar?
Os usos mais preocupantes passam pelos deepfakes sexuais não consentidos, pela chantagem, pela extorsão, pela fraude financeira e pela manipulação emocional.
Há também uma dimensão crescente ligada aos deepfakes de voz e vídeo. Hoje já é possível recriar a voz de um filho, de um familiar, de um CEO ou de um colega de trabalho de forma extremamente convincente. Isto abre caminho a burlas muito difíceis de identificar, sobretudo quando envolvem pedidos urgentes, pressão emocional ou transferências financeiras inesperadas.
Estamos perante uma alteração profunda do paradigma da fraude. Já não se trata apenas de desconfiar de mensagens escritas ou links suspeitos, mas de questionar também vídeos, áudios e chamadas aparentemente credíveis.
“A vulnerabilidade está no contexto humano”
Porque é que menores, idosos, vítimas de violência, pessoas com menor literacia digital ou em situação de fragilidade emocional, económica ou profissional estão mais expostos a este tipo de manipulação?
Estas pessoas estão mais expostas porque podem ter menos capacidade para identificar sinais de manipulação, menos recursos para reagir rapidamente ou maior vulnerabilidade emocional perante situações de pressão.
Os menores, por exemplo, vivem num ambiente de exposição constante e muitas vezes não têm consciência da permanência digital. Os idosos podem ser mais vulneráveis a burlas que usam vozes ou imagens familiares. Já pessoas em situação de fragilidade emocional, económica ou profissional podem ser mais facilmente manipuladas por ameaças, chantagem ou pedidos urgentes.
A vulnerabilidade não está apenas na tecnologia, mas no contexto humano em que ela é usada.
“A internet não esquece facilmente”
Que danos podem resultar da circulação de um deepfake — não apenas do ponto de vista jurídico ou reputacional, mas também psicológico, familiar, profissional e social?
Os danos podem ser profundos e prolongados. Para além do impacto jurídico e reputacional, podem surgir ansiedade, depressão, vergonha, perda de autoestima, isolamento, ataques de pânico e sensação de perda de controlo sobre a própria identidade.
No plano familiar e social, a vítima pode sentir-se julgada, exposta ou desacreditada, mesmo sabendo que o conteúdo é falso. No plano profissional, pode haver perda de confiança, danos na imagem pública, dificuldades de progressão ou receio de exposição futura.
A internet não esquece facilmente. Uma imagem criada ou partilhada hoje pode reaparecer anos depois, fora de contexto, e continuar a causar dano.
“Plataformas e lojas de aplicações não podem assumir neutralidade tecnológica”
Que responsabilidade devem ter plataformas digitais, empresas, escolas e instituições quando conteúdos falsos gerados por IA são usados para humilhar, extorquir ou manipular pessoas?
As plataformas digitais e as lojas de aplicações não podem continuar a assumir uma posição de neutralidade tecnológica. Se conhecem o risco, se têm capacidade técnica para agir e se beneficiam da distribuição destas ferramentas, têm deveres acrescidos de prevenção.
Devem existir mecanismos rápidos de denúncia e remoção, restrições reforçadas para menores, deteção de abuso, suspensão de aplicações reincidentes e cooperação direta com autoridades.
As escolas e instituições também têm um papel essencial na literacia digital e na prevenção. É preciso falar destes temas sem moralismo, mas com clareza, sobretudo junto dos jovens. A resposta não pode ser apenas punitiva: tem de ser educativa, preventiva e centrada na proteção das vítimas.
“Os deepfakes já são um risco real para empresas”
No caso das empresas, que medidas concretas devem ser adotadas já: políticas internas, canais de denúncia, planos de resposta, formação em literacia digital ou regras específicas para lidar com conteúdos gerados por IA?
As empresas devem começar por reconhecer que os deepfakes já são um risco real de segurança, reputação, fraude e proteção de pessoas.
Devem adotar políticas internas sobre utilização de IA e conteúdos gerados artificialmente, criar canais de denúncia seguros, definir planos de resposta rápida para incidentes, formar colaboradores em literacia digital e sensibilizar equipas para burlas com recurso a voz, vídeo ou imagem manipulada.
Também é importante estabelecer procedimentos claros para preservar prova digital, comunicar com plataformas, apoiar vítimas e envolver equipas jurídicas, de comunicação, recursos humanos e segurança da informação.
A prevenção não pode depender apenas da tecnologia. Depende também de preparação interna, cultura de alerta e capacidade de resposta rápida.
É cada vez mais necessário um modelo de governo simples, rápido e eficaz.
