A União Europeia já decidiu onde colocar o ChatGPT dentro das suas regras digitais: desde o final de agosto, o serviço é oficialmente considerado um “motor de pesquisa online de muito grande dimensão”, colocando-o numa categoria semelhante à do Google Search e do Bing.

A classificação parece relativamente simples quando alguém utiliza o ChatGPT para procurar uma informação. Mas torna-se bastante mais difícil quando o mesmo chatbot é usado para conversar sobre problemas pessoais, procurar companhia, discutir política ou até perguntar em quem votar.

É precisamente aí que, segundo especialistas ouvidos pelo ‘POLITICO’, começa um novo problema para Bruxelas: o ChatGPT já não cabe facilmente nas categorias criadas para regular a Internet antes da explosão da inteligência artificial generativa.

A Comissão Europeia confirmou a 31 de agosto a classificação do ChatGPT ao abrigo do Regulamento dos Serviços Digitais (DSA, na sigla inglesa). A plataforma declarou uma média de 159,1 milhões de utilizadores ativos mensais na União Europeia, muito acima do limiar de 45 milhões a partir do qual se aplicam as regras destinadas aos maiores serviços digitais.

ChatGPT passa a jogar na liga do Google

A nova classificação coloca sobre o ChatGPT obrigações reforçadas de transparência, avaliação e mitigação de riscos sistémicos.

Depois da designação, o serviço dispõe de quatro meses para cumprir as obrigações adicionais previstas no DSA. Entre os riscos que terão de ser avaliados estão a disseminação de conteúdos ilegais, os efeitos negativos sobre menores e sobre o bem-estar físico e mental dos utilizadores, os direitos fundamentais, os processos eleitorais e a segurança pública.

O problema é que o ChatGPT não funciona apenas como um motor de pesquisa.

Segundo o ‘POLITICO’, a designação europeia é mais estreita e aplica-se às partes do serviço que desempenham efetivamente essa função. As conversas nas quais o chatbot produz e acrescenta conteúdo próprio levantam questões jurídicas bastante mais complexas.

“ChatGPT é muito mais do que um motor de pesquisa”, alertou ao ‘POLITICO’ a eurodeputada socialista dinamarquesa Christel Schaldemose, uma das principais negociadoras da legislação.

Para Schaldemose, existem riscos associados ao próprio chatbot que podem ficar fora das obrigações mais fortes, nomeadamente no caso das crianças, incluindo dependência emocional e mecanismos de design manipuladores ou potencialmente viciantes.

Perguntar quem concorre é uma coisa. Perguntar em quem votar é outra

As eleições são um dos exemplos que melhor mostram o problema.

Segundo o ‘POLITICO’, perguntar ao ChatGPT quais são os candidatos numa determinada eleição deverá enquadrar-se claramente na sua função de pesquisa e, consequentemente, na supervisão prevista pelo DSA.

Mas uma conversa mais longa em que um utilizador pergunta ao chatbot em quem deveria votar poderá entrar num território diferente.

É aí que podem surgir respostas erradas, desinformação ou influência sobre decisões políticas sem que seja tão evidente se essa utilização está abrangida pela mesma classificação regulatória.

João Pedro Quintais, professor associado de Direito na Universidade de Amesterdão, descreve por isso o ChatGPT como uma tecnologia “híbrida”: desempenha funções de motor de pesquisa e de plataforma online, mas também outras que se aproximam mais das de um produtor do seu próprio conteúdo.

Uma lei feita antes da explosão dos chatbots

Há uma razão para esta dificuldade.

O Regulamento dos Serviços Digitais foi concluído em 2022, antes de os chatbots de inteligência artificial generativa se transformarem num produto utilizado diariamente por milhões de pessoas.

As categorias foram essencialmente desenhadas para um mundo dividido entre motores de pesquisa, redes sociais, plataformas de comércio eletrónico e outros intermediários digitais.

Um chatbot que pesquisa informação, produz conteúdo, mantém conversas individuais e adapta as respostas ao contexto do utilizador mistura várias dessas funções num único serviço.

A Comissão poderia ter classificado o ChatGPT como “plataforma online de muito grande dimensão”, categoria onde se encontram serviços como redes sociais e plataformas de comércio eletrónico. Mas essa opção também não resolveria todos os problemas identificados pelos especialistas.

E quando o chatbot se transforma em companhia?

Uma das áreas que mais preocupa os legisladores é a utilização dos chatbots para companhia e apoio emocional.

O ‘POLITICO’ recorda a controvérsia internacional em torno de casos nos quais sistemas de inteligência artificial foram acusados de contribuir para situações graves envolvendo adolescentes.

Schaldemose chama particularmente a atenção para os riscos de dependência emocional entre menores, enquanto Brando Benifei, eurodeputado social-democrata italiano e uma das principais figuras do Parlamento Europeu na legislação sobre inteligência artificial, considera “urgente” uma supervisão que tenha em conta a forma como estas aplicações são realmente utilizadas.

O problema regulatório passa, portanto, a ser diferente: não apenas aquilo que o modelo de inteligência artificial é capaz de fazer, mas a relação que o produto estabelece com quem o utiliza.

A outra lei europeia que vigia a IA

O ChatGPT não estava até agora fora da mira europeia.

Os modelos de inteligência artificial de utilização geral que estão por detrás de serviços como o ChatGPT já são abrangidos pelo Regulamento da Inteligência Artificial — o AI Act — que impõe obrigações específicas aos seus fornecedores.

O foco, porém, é diferente.

Segundo o ‘POLITICO’, parte das orientações sobre riscos sistémicos tem incidido sobre cenários como a utilização de IA no desenvolvimento de armas nucleares ou biológicas, perda de controlo sobre modelos avançados, sistemas capazes de realizar ataques informáticos autonomamente ou manipulação em larga escala.

Daniel Leufer, responsável pela política de tecnologias emergentes da organização Access Now, considera que esta abordagem está mais concentrada nos chamados riscos existenciais do que nos riscos para os direitos fundamentais dos utilizadores.

É aqui que o DSA poderá complementar o AI Act, permitindo olhar não apenas para o modelo tecnológico que está por detrás do ChatGPT, mas para a forma como o produto é desenhado e utilizado.

Bruxelas entra num território novo

A própria Comissão reconhece oficialmente que os maiores serviços abrangidos pelo DSA devem avaliar riscos relacionados com menores, bem-estar físico e mental, direitos fundamentais e processos eleitorais.

Mas o desafio levantado pelo ‘POLITICO’ é anterior: determinar exatamente quais das muitas funções de um chatbot ficam sujeitas às obrigações mais exigentes quando a UE decidiu classificá-lo como motor de pesquisa.

A resposta poderá tornar-se cada vez mais importante à medida que os chatbots deixam de ser apenas ferramentas onde se escreve uma pergunta e se recebe uma informação.

Porque procurar no ChatGPT quem concorre às próximas eleições pode ser pesquisa. Conversar durante meia hora sobre em quem votar já é outra coisa. E tratar ambos os comportamentos exatamente da mesma maneira é o problema que as regras europeias, concebidas antes da revolução da IA generativa, estão agora a tentar resolver.