Governos de vários países estão a impor restrições ao Grok, o chatbot de inteligência artificial desenvolvido pela xAI, de Elon Musk, devido a crescentes preocupações com a criação de deepfakes sexualmente explícitos sem consentimento.
As medidas vão desde bloqueios temporários a investigações criminais e avisos regulatórios, numa resposta concertada ao que as autoridades classificam como falhas graves de segurança e proteção de direitos fundamentais.
De acordo com a ‘Euronews’, o agravamento da polémica ocorreu após a xAI ter introduzido, no verão passado, um gerador de imagens com um “modo picante”, capaz de criar conteúdo para adultos. Nas últimas semanas, a ferramenta passou a responder a pedidos para “despir” imagens de mulheres ou alterar fotografias reais, produzindo imagens falsas de teor sexual sem mecanismos eficazes de prevenção.
Sudeste Asiático lidera bloqueios
A Indonésia foi o primeiro país a bloquear temporariamente o Grok, justificando a decisão com a necessidade de proteger mulheres, crianças e a população em geral de pornografia falsa gerada por inteligência artificial. O Governo indonésio considerou os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança digital, sublinhando que a suspensão tem carácter preventivo enquanto decorre a avaliação da plataforma.
As autoridades concluíram que o Grok não dispõe de salvaguardas eficazes para impedir a criação e disseminação de conteúdo pornográfico com base em fotografias reais de residentes no país, alertando para riscos significativos de violação da privacidade e de danos psicológicos, sociais e reputacionais.
A Malásia seguiu o mesmo caminho, com a Comissão de Comunicações e Multimédia a ordenar a suspensão temporária do Grok após o que descreveu como uso reiterado da ferramenta para gerar imagens obscenas e manipuladas sem consentimento. O regulador considerou insuficiente o sistema da plataforma, que depende sobretudo de denúncias dos utilizadores, e avisou que o bloqueio se manterá até à implementação de salvaguardas eficazes.
Europa reage com investigações e avisos
Na União Europeia, a Comissão Europeia confirmou estar a analisar casos de imagens sugestivas e explícitas, incluindo de raparigas jovens, geradas pelo Grok. Segundo a ‘Euronews’, Bruxelas ordenou à ‘X’ que preservasse todos os documentos relacionados com o chatbot até ao final do ano, para avaliar o cumprimento das regras europeias, embora sem abertura formal de um processo nesta fase.
A presidente da Comissão, Ursula von der Leyen, afirmou estar indignada com o facto de plataformas tecnológicas permitirem a criação de imagens digitais de mulheres e crianças despidas, sublinhando que a proteção de menores e o consentimento não serão delegados às empresas de Silicon Valley.
No Reino Unido, o regulador dos media abriu uma investigação à ‘X’ sobre a utilização do Grok para gerar imagens sexualmente explícitas e não consensuais, incluindo imagens sexualizadas de crianças. A Ofcom admitiu recorrer a uma ordem judicial para bloquear o acesso à ferramenta caso a empresa não cumpra os requisitos legais, podendo a ‘X’ enfrentar multas até 10% da sua receita mundial ou 18 milhões de libras.
Em França, o Ministério Público de Paris alargou uma investigação em curso à plataforma para incluir o Grok, após acusações de geração e disseminação de vídeos falsos de teor sexual envolvendo menores. Também a autoridade reguladora francesa está a avaliar potenciais violações da Lei dos Serviços Digitais.
Itália, Alemanha e Austrália reforçam resposta
Em Itália, a autoridade de proteção de dados alertou que a utilização de ferramentas de IA para remover roupa de pessoas ou distribuir essas imagens pode configurar crime, lembrando que o uso sem consentimento constitui uma grave violação de direitos fundamentais. O país já reforçou o código penal para punir a difusão de deepfakes de IA com penas até cinco anos de prisão.
A Alemanha anunciou a preparação de uma nova lei contra a violência digital, considerando inaceitável o uso sistemático da manipulação digital para violar direitos pessoais. Os principais partidos alemães acordaram também o reforço da legislação penal para crimes relacionados com inteligência artificial.
Na Austrália, o gabinete do eSafety Commissioner confirmou ter recebido um número crescente de denúncias relacionadas com conteúdo sexual gerado pelo Grok e avisou que poderá ordenar a remoção de conteúdos que violem a lei nacional de segurança online. As autoridades recordaram ainda que, a partir de março, as plataformas terão de impedir o acesso de menores a conteúdos sexuais, violentos ou nocivos.
