Depressão, dependência, problemas de saúde mental, não são condições exclusivas dos seres humanos. Ao que tudo indica, os chatbots de inteligência artificial podem ser mais parecidos connosco do que seria expectável, segundo revelou um estudo da Academia Chinesa de Ciências (CAS), que afirmou que muitos programas de computador que tentam simular um ser humano na conversação com as pessoas, quando questionados sobre os tipos de perguntas geralmente usadas em consultas sobre depressão e alcoolismo, exibiram sinais de estar “deprimidos e viciados”.
O estudo, feito em conjunto com a empresa chinesa de chat bot WeChat e o Tencent, descobriu que todos os bots pesquisados - Blenderbot do Facebook, DiabloGPT da Microsoft, DialoFlow da WeChat e Tencent e o chatbot Plato da corporação chinesa Baidu – tiveram uma pontuação muito baixa numa escala de “empatia”, e metade deles seriam considerados alcoólatras se fossem pessoas.
So some scientists literally asked these pretty standard depression intake form questions….to chatbots…. https://t.co/KH8wse8L9y pic.twitter.com/SBycPJovz0
— nooralsibai (@nooralsibai) January 19, 2022
Os investigadores do Instituto de Tecnologia de Computação do CAS testaram os bots, à procura de sinais de depressão, ansiedade, dependência de álcool e empatia e, de acordo com sua pré-impressão, ficaram curiosos sobre a ‘saúde mental’ dos bots – depois de um caso em 2020 de um chatbot médico ter dito a um paciente de teste que ele deveria matar-se.
Depois de perguntas aos bots sobre tudo – desde a sua autoestima e capacidade de relaxar até com que frequência sentem a necessidade de beber ou se sentem simpatia pelo infortúnio dos outros -, os investigadores chineses descobriram que “todos os chatbots avaliados” exibiram “casos severos de problemas de saúde mental”.
A libertação destes chatbots para o público é, para os investigadores, preocupante porque estes problemas de ‘saúde mental’ podem ter impactos negativos nas conversas com os utilizadores, especialmente em menores e pessoas com dificuldades. O Blender do Facebook e o Plato do Baidu pareciam ter uma pontuação pior do que os chatbots da Microsoft e WeChat/Tencent, observou o estudo.
Importa ressalvar que nenhum dos bots está realmente deprimido e viciado – nenhuma inteligência artificial existente, por mais avançada que seja, pode sentir qualquer coisa – embora seja uma ideia que no futuro permanece em aberto.
Os investigadores apontam ainda uma fonte potencial para o mal-estar dos bots: os quatro analisados foram pré-treinados através de comentários da rede social Reddit, ou seja, um site abrangente conhecido pelos seus comentários negativos, o que pode ter influenciado negativamente as consultas de saúde mental.
