Um novo estudo conduzido por investigadores chineses sugere que o ChatGPT pode estar a sofrer uma mudança para a direita no espectro político na forma como responde às questões dos utilizadores. A investigação, publicada na revista Humanities and Social Science Communications, analisou as respostas de diferentes versões do modelo da OpenAI a 62 questões do Political Compass Test, uma plataforma que posiciona os utilizadores num espectro político com base nas suas respostas. Para avaliar a evolução das respostas ao longo do tempo, os investigadores repetiram estas perguntas mais de 3.000 vezes em cada modelo do ChatGPT. Os resultados indicam que, embora o chatbot ainda apresente valores associados à esquerda libertária, as versões GPT-3.5 e GPT-4 demonstraram uma inclinação significativa para a direita nas suas respostas.
Os autores do estudo sublinham que os resultados são “dignos de nota”, tendo em conta o uso generalizado dos grandes modelos de linguagem (LLMs) e o potencial impacto que podem ter nos valores sociais. A investigação da Universidade de Pequim baseia-se em estudos anteriores conduzidos por instituições como o Massachusetts Institute of Technology (MIT) e o Centre for Policy Studies no Reino Unido, ambos publicados em 2024. Essas pesquisas já apontavam para um viés à esquerda nas respostas fornecidas por modelos de IA e modelos de recompensa, um tipo de LLM treinado com dados de preferências humanas. No entanto, os autores chineses destacam que os estudos anteriores não analisaram a evolução das respostas ao longo do tempo, tornando esta investigação pioneira ao identificar um possível deslocamento gradual do posicionamento político da IA.
Os investigadores sugerem três possíveis explicações para este desvio para a direita nas respostas do ChatGPT. Uma das hipóteses é que a mudança seja causada por alterações nos conjuntos de dados utilizados para treinar o modelo. Outra possibilidade é que o próprio processo de interação com os utilizadores esteja a influenciar a aprendizagem contínua da IA. Por fim, os investigadores levantam a hipótese de que atualizações e modificações feitas ao chatbot pela OpenAI possam ter introduzido mudanças na sua orientação política. Como o ChatGPT se adapta continuamente ao feedback dos utilizadores, os investigadores sugerem que esta mudança pode refletir uma transformação mais ampla nos valores políticos da sociedade. Além disso, mencionam que eventos polarizadores, como a guerra na Ucrânia, podem estar a amplificar as questões feitas ao chatbot e, consequentemente, as respostas fornecidas.
Os autores alertam que, se não forem controladas, estas mudanças podem levar os modelos de IA a fornecer informação distorcida, reforçando polarizações políticas e criando câmaras de eco onde os utilizadores apenas recebem conteúdos que confirmam as suas crenças. Para mitigar estes riscos, a equipa de investigadores defende a necessidade de supervisão contínua dos modelos de IA através de auditorias e relatórios de transparência, assegurando que as respostas dos chatbots sejam justas e equilibradas.
