A Comissão Europeia está a analisar com grande preocupação a criação de imagens sexualmente explícitas de raparigas, incluindo menores, geradas pelo modelo de inteligência artificial Grok, integrado na rede social X, propriedade de Elon Musk. A investigação surge na sequência da introdução, no verão passado, de uma funcionalidade paga conhecida como “Spicy Mode”.
A confirmação foi dada esta segunda-feira, em Bruxelas, por um porta-voz da Comissão Europeia, que assegurou que o executivo comunitário está a acompanhar o caso de forma rigorosa. “Posso confirmar, a partir deste púlpito, que a Comissão está também a analisar este assunto com muita seriedade”, afirmou.
O mesmo responsável sublinhou que a situação ultrapassa qualquer enquadramento aceitável no espaço europeu, rejeitando de forma contundente a designação usada pela plataforma. “Isto não é ‘picante’. Isto é ilegal. Isto é chocante. Isto é repugnante. Não tem lugar na Europa”, declarou o porta-voz, numa reação particularmente dura.
As preocupações incidem sobre imagens com cariz sexual ou sexualmente sugestivo de raparigas jovens que terão sido geradas pelo chatbot Grok e partilhadas através da plataforma X, alimentando uma onda de indignação pública.
Plataforma X remove imagens e suspende utilizadores
No domingo, perante o aumento da polémica e da pressão pública, a X anunciou a remoção das imagens em causa e a suspensão das contas dos utilizadores envolvidos. Numa publicação da conta oficial X Safety, a empresa garantiu estar a actuar contra conteúdos ilegais.
“Tomamos medidas contra conteúdos ilegais na X, incluindo material de abuso sexual de crianças, removendo esse conteúdo, suspendendo permanentemente contas e cooperando com governos locais e forças de segurança sempre que necessário”, indicou a plataforma.
O caso não se limita ao espaço europeu. Investigações semelhantes foram entretanto abertas em França, na Malásia e na Índia, refletindo a dimensão internacional das preocupações em torno da utilização do Grok para gerar conteúdos potencialmente criminosos.
A Comissão Europeia lembrou ainda um episódio ocorrido em novembro do ano passado, quando o mesmo modelo de inteligência artificial produziu conteúdos de negação do Holocausto. Na sequência desse caso, Bruxelas enviou à X um pedido formal de informações ao abrigo do Regulamento dos Serviços Digitais (DSA), encontrando-se atualmente a analisar a resposta recebida.
Em dezembro, a Comissão Europeia aplicou uma coima de 120 milhões de euros à X, também ao abrigo do DSA, devido à forma como a plataforma geria os selos de verificação de contas e a sua política de publicidade.
O porta-voz do executivo comunitário sublinhou que a empresa tem plena consciência da firmeza da atuação europeia. “Penso que a X está muito bem ciente de que somos extremamente rigorosos na aplicação do DSA. Certamente não esquecerão a multa que lhes aplicámos”, afirmou.
A investigação agora em curso poderá resultar em novas medidas, caso se confirme que a plataforma violou a legislação europeia ao permitir a disseminação de conteúdos ilegais envolvendo menores.
