O Daesh, também conhecido como Estado Islâmico, e outras organizações extremistas estão a recorrer cada vez mais à inteligência artificial (IA) para produzir conteúdos falsos altamente realistas, reforçar campanhas de propaganda e recrutar novos membros. O alerta é feito por especialistas em segurança nacional e agências de informações, que sublinham que estas tecnologias permitem a grupos pouco estruturados amplificar a sua influência a uma escala sem precedentes.
Desde que ferramentas de IA generativa, como o ChatGPT, se tornaram amplamente acessíveis, grupos militantes começaram quase de imediato a experimentar estas tecnologias. Nos anos seguintes, passaram a utilizá-las para criar imagens e vídeos falsos convincentes, incluindo deepfakes, explorando o funcionamento dos algoritmos das redes sociais para disseminar mensagens extremistas, confundir adversários e mobilizar apoiantes.
Num fórum pró-Daesh, um utilizador incentivou recentemente outros simpatizantes a integrarem a inteligência artificial nas suas operações, argumentando que “uma das melhores coisas da IA é a facilidade de utilização”. Na mesma mensagem, escreveu que algumas agências de informações receiam que a IA facilite o recrutamento e apelou aos apoiantes para transformarem “os pesadelos” dessas agências em realidade.
Especialistas recordam que o Daesh, que chegou a controlar vastas áreas do Iraque e da Síria e hoje funciona como uma rede descentralizada de grupos que partilham uma ideologia violenta, percebeu cedo o potencial das redes sociais para o recrutamento e a desinformação. Para organizações pouco financiadas — ou mesmo para indivíduos isolados com acesso à internet — a IA permite agora produzir propaganda em massa com custos mínimos. John Laliberte, antigo investigador da Agência de Segurança Nacional dos Estados Unidos, sublinha que “a IA torna muito mais fácil fazer coisas que antes exigiam grandes recursos”, permitindo que até pequenos grupos causem impacto significativo.
Investigadores documentaram vários exemplos recentes desse uso. Durante a guerra entre Israel e o Hamas, circularam imagens falsas geradas por IA que mostravam bebés feridos ou abandonados em cenários de destruição, alimentando indignação, polarização e campanhas de recrutamento tanto por grupos extremistas no Médio Oriente como por organizações antissemitas noutros países. Após o ataque reivindicado por um afiliado do Daesh que matou quase 140 pessoas numa sala de concertos na Rússia, vídeos de propaganda criados com recurso a IA espalharam-se rapidamente por fóruns e redes sociais, procurando captar novos apoiantes.
Segundo investigadores do SITE Intelligence Group, o Daesh tem ainda recorrido à IA para criar gravações áudio falsas dos seus próprios líderes a recitar textos religiosos e para traduzir rapidamente mensagens para várias línguas, aumentando o alcance global da sua propaganda. Apesar disso, especialistas como Marcus Fowler, antigo agente da CIA, consideram que os usos mais sofisticados da IA por estes grupos continuam a ser “aspiracionais”, ficando ainda aquém das capacidades demonstradas por Estados como a China, a Rússia ou o Irão.
Ainda assim, os riscos são considerados elevados e em crescimento. Além da propaganda, a IA já está a ser utilizada por atores maliciosos em campanhas de phishing com áudio e vídeo sintéticos, na criação de código malicioso e na automatização de ciberataques. Mais preocupante é a possibilidade de grupos extremistas tentarem usar a IA para facilitar a produção de armas biológicas ou químicas, compensando a falta de conhecimento técnico — um risco incluído na mais recente avaliação de ameaças do Departamento de Segurança Interna dos Estados Unidos.
Perante este cenário, legisladores norte-americanos defendem uma resposta urgente. O senador Mark Warner alertou que, desde a divulgação pública do ChatGPT no final de 2022, era evidente que a experimentação com IA se estenderia também a atores extremistas, criminosos e serviços de espionagem estrangeiros. No Congresso, foi revelado que o Daesh e a Al-Qaida já organizaram workshops para ensinar apoiantes a usar inteligência artificial, enquanto legislação recentemente aprovada obriga as autoridades a avaliarem anualmente os riscos associados ao uso da IA por estes grupos. Para os responsáveis políticos, acompanhar esta evolução é essencial, porque, como sublinhou um dos promotores da iniciativa, “as políticas e capacidades têm de acompanhar as ameaças de amanhã”.
