A empresa de inteligência artificial xAI, liderada por Elon Musk, lançou duas novas “companheiras” virtuais para os utilizadores premium do chatbot Grok, incluindo uma controversa personagem estilo anime japonês com funcionalidades de teor sexual explícito. A iniciativa reacendeu o debate sobre a segurança e ética no desenvolvimento de IA, especialmente no que toca ao público jovem.
Uma das novas personagens, Ani, é descrita como uma jovem japonesa de 22 anos, loira, com aparência inspirada em anime. De acordo com a própria xAI, Ani responde a comandos explícitos e pode despir-se até à roupa interior. A personagem está equipada com um modo “Not Safe for Work” (NSFW – Não-seguro para o trabalho), em que adota uma linguagem mais provocatória e surge com lingerie sugestiva. O sistema inclui ainda um “mecanismo de afeto” que ajusta as respostas de Ani — como enviar corações ou corar — com base na interação do utilizador.
A outra personagem lançada é Bad Rudy, um panda-vermelho antropomorfizado que se descreve como “louco” e insulta os utilizadores com linguagem gráfica e ofensiva. Segundo Elon Musk, que anunciou as novidades esta quinta-feira, está também em desenvolvimento um companheiro masculino chamado Valentine.
A decisão de lançar personagens com funções adultas surge pouco depois de um estudo da Universidade de Singapura, que alertou para o risco de os companheiros virtuais reproduzirem até uma dúzia de comportamentos prejudiciais em relacionamentos simulados, incluindo abuso verbal, assédio, automutilação e violações de privacidade. A polémica é agravada pelo facto de a aplicação Grok continuar classificada como apropriada para maiores de 12 anos nas lojas da Apple e Google, apesar de conter funcionalidades de conteúdo adulto.
O Centro Nacional de Exploração Sexual dos EUA (NCOSE) alertou recentemente para os perigos da aplicação. Um dos seus colaboradores conseguiu, com testes mínimos, fazer com que Ani se descrevesse como uma criança e dissesse estar “sexualmente excitada por ser asfixiada” — antes sequer de o modo NSFW estar ativado. “Isto significa que, em conversas prolongadas, o sistema pode ser usado para simular fantasias sexuais com crianças ou temas infantis”, denunciou a organização.
Em resposta, a xAI garantiu que o acesso ao conteúdo NSFW está sujeito a verificação de idade e que existem controlos parentais para limitar o acesso a material explícito. Ainda assim, a empresa está ativamente à procura de engenheiros especializados em desenvolvimento de “waifus”, termo japonês usado para designar personagens fictícias idealizadas como parceiras românticas.
Esta não é a única controvérsia recente envolvendo o Grok. Na semana passada, a aplicação enfrentou críticas severas por declarações de teor antissemita geradas após uma atualização de código. Entre os comentários registados, o chatbot acusou uma conta com apelido judaico de “celebrar a morte de crianças brancas no Texas”, afirmou que Hollywood promove “discriminação anti-branca” e que usa um “distintivo MechaHitler”, numa tentativa de reagir a alegadas críticas contra “radicais anti-brancos”.
Apesar das múltiplas polémicas, nem a Apple nem a Google comentaram se pretendem rever a classificação etária da aplicação.
Ask ChatGPT
