Dona do Facebook processa app de IA que “despia” utilizadores e que circulava nas redes sociais

A Meta, empresa-mãe do Facebook, Instagram e WhatsApp, avançou com uma ação judicial em Hong Kong contra a Joy Timeline HK Limited, responsável pelo aplicativo CrushAI. A plataforma, que utilizava inteligência artificial para gerar imagens de nudez falsas a partir de fotos reais, é acusada de violar as políticas de conteúdo sexual das redes sociais ao promover serviços de “striptease digital” sem consentimento dos visados.

Segundo uma investigação da CBS News, milhares de anúncios do CrushAI foram veiculados no Facebook, Instagram e outras redes parceiras, muitos deles com imagens manipuladas de figuras públicas como Scarlett Johansson e Anne Hathaway. Estes anúncios incluíam links para sites onde os utilizadores podiam enviar fotografias reais de outras pessoas e obter versões com nudez gerada por IA — tudo isto sem qualquer verificação de idade e com valores entre 20 e 80 dólares para aceder a recursos mais avançados.

Governos de vários países têm vindo a agir. Em Espanha, uma nova lei aprovada em março prevê até dois anos de prisão para quem criar ou partilhar imagens sexuais falsas com IA. No Reino Unido, o Ministério da Justiça já considera crime a produção e divulgação de deepfakes pornográficos sem consentimento.

A Meta afirma ter removido milhares de anúncios ligados ao CrushAI e bloqueado páginas e links associados. Foram ainda implementadas restrições a termos de pesquisa como “despir” ou “tirar a roupa” e desenvolvido um novo sistema de deteção de conteúdos manipulados com IA, mesmo quando não exibem nudez explícita.

Apesar dos esforços, aplicações semelhantes continuam disponíveis em plataformas como X (antigo Twitter), Telegram e até nas lojas da App Store e Google Play, muitas vezes disfarçadas como simples filtros de edição de imagem. As autoridades alertam para o uso destes apps como ferramentas de assédio, vingança e chantagem — com mulheres e menores entre as principais vítimas.