A inteligência artificial (IA) generativa está a transformar profundamente a forma como as empresas operam, acelerando a deteção de ameaças, automatizando fluxos de trabalho e permitindo operações em grande escala. Contudo, esta evolução também traz novos riscos: cibercriminosos estão a usar IA para lançar ataques mais sofisticados, ultrapassando os mecanismos de defesa tradicionais.
O Digital Threats Report 2025, da Microsoft, revela que ciberatacantes provenientes da Rússia, China, Irão e Coreia do Norte duplicaram o uso de IA para realizar ciberataques e espalhar desinformação. Atualmente, a IA é utilizada para traduzir e-mails de phishing com fluência em inglês, gerar vídeos deepfake de executivos e automatizar malware que se adapta em tempo real para evitar deteção.
Segundo o relatório, 66% das empresas estão a desenvolver ou a planear desenvolver aplicações personalizadas de IA generativa, enquanto 88% admitem estar preocupadas com ataques de prompt injection. Além disso, 80% dos líderes empresariais identificam a fuga de dados sensíveis via IA como uma das principais ameaças. Estes números destacam a urgência de reforçar estratégias de segurança e adotar medidas específicas para ambientes de IA.
A Microsoft alerta que a integração da IA generativa nos fluxos de trabalho empresariais traz desafios estruturais, sobretudo porque a maioria das aplicações assenta em cloud, tornando-se vulneráveis a ataques que exploram fragilidades na infraestrutura, nos modelos ou nas aplicações. A dependência de grandes volumes de dados aumenta também o risco de fuga de informação e dificulta a implementação de políticas de governação eficazes.
O estudo identificou cinco ciberameaças da IA generativa que estão a redefinir estratégias empresariais:
- Ataques de envenenamento (Poisoning attacks) – Manipulação ou corrupção de dados de treino para comprometer a precisão e fiabilidade do modelo.
- Ataques de evasão (Evasion attacks) – Modificação impercetível de dados de entrada para contornar sistemas de segurança.
- Extração funcional (Functional extraction) – Interrogação repetida de modelos para recriar versões equivalentes e preparar ataques ao sistema original.
- Ataques de inversão (Inversion attacks) – Inferência de parâmetros ou arquitetura do modelo para reconstruir dados de treino ou obter informações sensíveis.
- Ataques de Prompt Injection – Uso de prompts maliciosos para manipular o modelo e levá-lo a executar ações não intencionadas ou prejudiciais.
Diante destes riscos, a Microsoft sublinha a importância de uma defesa proativa em ambientes multicloud e IA, com soluções como a Cloud-Native Application Protection Platform (CNAPP) e o Microsoft Defender for Cloud, que oferecem proteção end-to-end, monitorizando vulnerabilidades, detetando ameaças específicas de IA e permitindo uma resposta rápida em tempo real.
À medida que a IA generativa se torna cada vez mais crítica, os líderes de segurança são desafiados a evoluir as suas estratégias, unificando segurança e governação ao longo do ciclo de vida das aplicações de cloud e IA, garantindo proteção dos ativos e conformidade com regulamentações em constante atualização.
