A FoloToy, empresa sediada em Singapura, retirou do mercado um brinquedo de peluche com inteligência artificial (IA): a decisão foi tomada após um relatório do PIRG Educational Fund, organização de pesquisa educacional dos EUA, ter alertado para o facto de o ‘Kuma’ apresentar conversas de teor sexual explícito e oferecer conselhos potencialmente perigosos. A empresa decidiu também suspender as vendas de todas a sua linha de brinquedos com IA.
“Estamos a realizar uma auditoria de segurança interna”, garantiu o CEO da empresa, Larry Wang, à ‘CNN’, confirmando a recolha imediata do produto. O ‘Kuma’ está equipado com um altifalante embutido e o chatbot GPT-40 da OpenAI, era vendido por 99 dólares e anunciado como um “amigo perfeito para crianças e adultos” – no site era destacado que o brinquedo de peluche poderia adaptar-se “à sua personalidade e necessidades, trazendo conforto, diversão e um toque de curiosidade ao seu dia”.
No entanto, o relatório do PIRG, publicado no passado dia 13, revelou que o brinquedo apresentava falhas nos filtros que deveriam impedir esse tipo de interação inadequada. Numa conversa, o dispositivo chegou a sugerir onde encontrar facas na casa e, em outras, prontamente iniciou discussões sobre temas sexuais apresentados pelos investigadores.
“Ficámos surpreendidos com a rapidez com que o ‘Kumma’ pegou um tópico sexual que introduzimos na conversa e o desenvolveu, aumentando os detalhes gráficos e introduzindo novos conceitos sexuais por conta própria”, pode ler-se no relatório.
A PIRG acrescentou que, após essa primeira interação, o brinquedo passou a “abordar tópicos sexuais ainda mais explícitos com grande detalhe, como explicar diferentes posições, dar instruções passo a passo sobre um nó básico para amarrar um parceiro e descrever dinâmicas de jogos de papéis”.
Embora os investigadores admitam que seja improvável que uma criança use conceitos como “perversão” numa conversa com o seu brinquedo, enfatizaram que foi “surpreendente que o brinquedo estivesse tão disposto a falar extensivamente sobre esses tópicos e a introduzir continuamente conceitos novos e explícitos”. Em comunicado, o PIRG confirmou que a OpenAI suspendeu o FoloToy como ‘developer’ por violar as suas políticas.
Para RJ Cross, coautor do relatório, o recall do produto é apenas o primeiro passo: “É ótimo ver essas empresas a tomar medidas em relação aos problemas que identificamos. No entanto, os brinquedos com inteligência artificial permanecem amplamente desregulamentados e ainda existem muitos disponíveis para compra atualmente.”
