Pode um juiz recorrer ao ChatGPT ou a outra ferramenta de inteligência artificial (IA) para preparar uma decisão judicial?
Luís Filipe Pires de Sousa responde que sim, mas traça uma fronteira clara sobre aquilo que não pode ser entregue à máquina. “A Justiça tem uma área de reserva humana que não pode ser contaminada pela IA”, afirma o juiz conselheiro do Supremo Tribunal de Justiça (STJ) à ‘Executive Digest’. E deixa uma imagem difícil de ignorar: “A IA tem a inteligência emocional de um psicopata, ou seja, não tem sentimentos.”
Antes de qualquer resposta, Luís Filipe Pires de Sousa faz questão de estabelecer uma ressalva: fala à ‘Executive Digest’ “expressando posição pessoal e não institucional”.
É a partir dessa posição pessoal que responde a uma pergunta que deixou de pertencer ao futuro. ChatGPT, Gemini e outras ferramentas de IA generativa já conseguem pesquisar legislação e jurisprudência, resumir milhares de páginas, organizar argumentos e produzir textos juridicamente articulados. Mas quanto desse trabalho pode um juiz entregar a uma máquina sem começar a entregar-lhe também uma parte da função de julgar?
Para Luís Filipe Pires de Sousa, a tecnologia pode substituir tarefas que durante décadas consumiram muitas horas aos magistrados.
“Quando iniciei a minha carreira, tal como os demais colegas, fazia manualmente a pesquisa de jurisprudência, de legislação e de doutrina em suporte de papel. Atualmente, a IA pode efetuar essas tarefas em meio digital com precisão e rapidez, libertando o juiz para os atos essenciais da função: apreciar a prova, fixar os factos e determinar o enquadramento jurídico que justifica a solução do caso.”
É quando chega a esses “atos essenciais” que surge a fronteira.
“Cada caso tem um contexto factual único, rebelde a análises estatísticas, sendo a função do juiz insubstituível. A IA tem a inteligência emocional de um psicopata, ou seja, não tem sentimentos. A IA nunca poderá emular um cérebro humano.”
Um juiz não pode decidir através de resumos
Imagine-se um processo com milhares de páginas, dezenas de documentos e vários depoimentos. Um juiz lê integralmente os autos e constrói a sua convicção. Outro começa por pedir a uma IA que resuma toda a informação, identifique aquilo que considera decisivo e lhe permita chegar mais depressa ao essencial.
Para Luís Filipe Pires de Sousa, há aqui um atalho que um juiz não pode seguir. “A avaliação da prova não pode ser feita por atalhos, com recurso a resumos de documentos e/ou de depoimentos. Um juiz que assim procedesse estaria a demitir-se de uma efetiva apreciação e valoração da prova.”
A razão está precisamente naquilo que um resumo tende a deixar para trás. “Os resumos alijam os detalhes e é normalmente nestes (e na sua conjugação) que se firmam convicções.”
Mas a mesma tecnologia pode ser utilizada sem atravessar essa fronteira.
“A IA pode ser utilizada para, em poucos segundos, saber que testemunhas e que documentos relataram o que terá ocorrido no dia x. Já saber se esse relato ou menção releva, e em que termos, é função que cabe ao juiz, sendo indelegável.”
A diferença pode parecer estreita, mas é central na posição que o magistrado vai traçando: uma coisa é encontrar informação; outra é atribuir-lhe relevância para decidir.
E se a IA estiver certa?
As chamadas “alucinações” — respostas falsas apresentadas pela IA como se fossem verdadeiras — tornaram-se um dos riscos mais conhecidos destas ferramentas. Mas o problema mais interessante pode começar precisamente quando a máquina não falha.
E se uma IA conseguir apresentar uma solução juridicamente sólida, fundamentada e consistente? Se o juiz puder verificá-la e concluir que está correta, porque não adotá-la?
Luís Filipe Pires de Sousa responde olhando para aquilo que entende que a tecnologia não consegue fazer.
“A IA trabalha sobre dados estatísticos, replicando o passado que lhe foi facultado. Não inova, não preenche lacunas, não tem emoções, nomeadamente empatia, não pondera as consequências da decisão para as partes e para a sociedade.”
E prossegue:
“Não tem capacidade para enfrentar situações jurídicas novas porque trabalha só com base em estatísticas. Pode contribuir para apurar o estado da arte quanto a uma questão jurídica, mas não para a evolução da aplicação do direito.”
Há depois uma questão que, para o juiz conselheiro, não depende sequer de quão boa se torne a resposta produzida pela máquina.
“A decisão é sempre do juiz e este é que a assume e responde por ela.”
Se um juiz usar IA, deve dizer que o fez?
A responsabilidade permanece no magistrado. Mas a utilização da ferramenta deve ser conhecida pelas partes?
Luís Filipe Pires de Sousa entende que, quando a IA intervém na preparação de uma decisão, existe um dever de transparência.
“Quando um juiz utiliza IA generativa para recolher informação jurídica ou noutra função no âmbito da preparação de uma decisão, tem de fazer referência expressa a essa utilização. É o chamado princípio da transparência, que vale a nível nacional e internacional.”
Nem todas as utilizações são, contudo, iguais.
“O que se discute é qual o âmbito de utilização que despoleta esse dever de revelação. Se a IA for apenas utilizada como motor de busca de jurisprudência e de legislação, creio que não fará sentido essa revelação.”
E se for a própria IA a colocar perante o juiz um enquadramento jurídico que nenhuma das partes discutiu?
O magistrado considera o cenário “pouco plausível” enquanto verdadeira inovação, entendendo que corresponderia antes à recuperação de uma abordagem já existente que as partes não tinham seguido. Ainda assim, a resposta é clara quanto ao procedimento.
“De acordo com o princípio da transparência, teria que ser sinalizada a origem do novo enquadramento legal e teria de ser conferido às partes um contraditório específico, solução que já existe atualmente quando o Tribunal segue um enquadramento jurídico não discutido pelas partes anteriormente no processo.”
E se a IA inventar um acórdão e o juiz não perceber?
Aqui, a discussão deixa de ser teórica.
Uma IA pode fabricar uma referência, atribuir a um tribunal um acórdão inexistente ou apresentar como verdadeira uma conclusão que não encontra suporte na fonte citada. Se o juiz não detetar o erro e esse conteúdo chegar à decisão, deve existir uma consequência processual específica por ter sido utilizada inteligência artificial?
Luís Filipe Pires de Sousa considera que a lei já tem resposta. “Efetivamente, mesmo nestes cenários patológicos, a responsabilidade é sempre do juiz.”
Um erro provocado pela utilização da IA não cria, na sua perspetiva, a necessidade de uma nova categoria processual.
“Poderá ocorrer um erro de julgamento de direito, vício que poderá conduzir — consoante as circunstâncias — à revogação da decisão. A criação de um vício processual ad hoc é desnecessária (a lei já dá a solução) e criaria mais entropias no processo.”
A ferramenta pode mudar. A responsabilidade, na posição do magistrado, não muda com ela.
Há informação que nunca deve entrar num ChatGPT aberto
Antes mesmo de discutir se a resposta de uma IA é certa ou errada, existe outro problema: aquilo que foi necessário entregar-lhe para a produzir.
Um processo judicial pode conter dados pessoais, informação médica, depoimentos ou elementos protegidos por sigilos profissionais e processuais.
Nesses casos, Luís Filipe Pires de Sousa não deixa margem para uma utilização em sistemas abertos.
“O juiz está vinculado à proteção de dados, à proteção de sigilos profissionais e processuais, o que impede uma utilização da IA como a referida em meio aberto.”
É também por isso que destaca o desenvolvimento de soluções próprias para a magistratura.
“Nesse sentido, o Conselho Superior da Magistratura — e bem — está a criar ferramentas próprias e fechadas que respeitem esse enquadramento.”
A questão deixa então de ser simplesmente se os juízes vão utilizar inteligência artificial. Passa também por saber que inteligência artificial podem utilizar e em que ambiente o podem fazer.
“A IA fica à porta do Tribunal”
Há, contudo, uma força difícil de ignorar: tempo.
Num sistema judicial pressionado pela duração dos processos, a possibilidade de uma ferramenta executar em segundos tarefas que demorariam horas pode tornar a IA particularmente atraente. E é precisamente aí que surge o risco colocado ao magistrado: começar por delegar pequenas tarefas em nome da eficiência e acabar, progressivamente, por aproximar a máquina do núcleo da decisão.
Luís Filipe Pires de Sousa não rejeita a primeira parte dessa equação. “Não devemos descurar as potencialidades da IA como assessora técnica em múltiplas tarefas.”
A segunda tem, para si, um limite. “Mas a IA fica à porta do Tribunal quando se trata de valorar a prova, fixar os factos, encontrar o enquadramento jurídico mais pertinente e decidir o caso.”
É a formulação mais clara da linha que atravessa toda a entrevista:
“A Justiça tem uma área de reserva humana que não pode ser contaminada pela IA.”
E se, daqui a dez anos, a máquina decidir melhor do que o juiz?
Resta levar o problema ao limite.
Imagine-se que, daqui a dez anos, um sistema consegue ler integralmente um processo, analisar a prova, confrontar jurisprudência e apresentar uma decisão que, submetida a testes independentes, se revela mais consistente e menos vezes revogada do que a decisão média de um juiz.
A máquina já não seria apenas mais rápida. Nesse cenário hipotético, seria também mais eficaz.
Ainda assim, Luís Filipe Pires de Sousa não lhe entregaria a última decisão. “A IA replica dados e enviesamentos, cristaliza análises, não tem dúvidas, não é capaz de formular o pensamento crítico. Terá sempre que haver uma fronteira ou linha vermelha para a sua utilização na área da Justiça.”
E é para explicar o que permanece do outro lado dessa linha que recupera as palavras do atual presidente do Supremo Tribunal de Justiça, que diz subscrever:
“Quando o homem se demitir de julgar o seu semelhante, a sociedade estará muito perto do seu fim.”
