O estado norte-americano da Florida processou hoje judicialmente a OpenAI e o seu presidente executivo, Sam Altman, por alegadamente ocultarem riscos graves na comercialização do ChatGPT, como dar instruções a crianças com tendências suicidas ou ajudar a planear crimes.
O procurador-geral da Florida, James Uthmeier, afirmou em conferência de imprensa que o estado é o primeiro a processar a OpenAI e Altman, por suprimirem alertas internos de segurança e enganarem os utilizadores sobre os perigos do ChatGPT, “permitindo que um produto perigoso chegasse a milhões” de pessoas.
A ação judicial faz referência a dois tiroteios em que os alegados atiradores terão feito perguntas ao ChatGPT enquanto planeavam os seus crimes.
A OpenAI contrapôs em comunicado que os seus modelos incentivaram repetidamente os indivíduos a procurar apoio no mundo real, incluindo de profissionais de saúde mental, e disse ter cooperado com as autoridades policiais em ambos os casos.
“O ChatGPT é uma ferramenta de utilização geral utilizada por centenas de milhões de pessoas todos os dias para fins legítimos”, afirmou a OpenAI em comunicado.
“Trabalhamos continuamente para reforçar as nossas medidas de segurança para detetar intenções maliciosas, limitar o uso indevido e responder adequadamente quando surgem riscos de segurança”, adiantou.
Em abril, Uthmeier abriu uma investigação criminal contra a OpenAI para determinar se o ChatGPT deu conselhos a um atirador que matou duas pessoas e feriu outras seis no ano passado na Universidade Estadual da Florida.
Noutro caso, os procuradores afirmaram que o homem acusado de matar dois estudantes de doutoramento da Universidade do Sul da Florida perguntou ao ChatGPT, dias antes deles desaparecerem, o que aconteceria se um corpo humano fosse colocado num saco e atirado para um contentor do lixo.
O processo da Florida alega que a OpenAI e Altman deram prioridade à velocidade de lançamento no mercado e ao lucro comercial em detrimento da segurança dos utilizadores e ignoraram os repetidos alertas de especialistas dentro e fora da empresa.
O processo alega que a empresa lançou um produto que facilita e incentiva os danos, incluindo a automutilação e a violência, ao mesmo tempo que assegurava falsamente aos utilizadores que era seguro.
A queixa alega ainda que o ChatGPT recolhe dados de menores sem supervisão parental adequada, além de causar dependência comportamental e danos cognitivos.
