Quando os próprios engenheiros abandonam o carro, talvez seja altura de olhar para o velocímetro
A história repete-se. Mais um investigador de topo da indústria da Inteligência Artificial abandona o seu cargo e deixa um aviso inquietante. Desta vez foi Jacob Coxon, investigador que trabalhou tanto na Anthropic como na OpenAI, que se demitiu denunciando aquilo que considera ser uma corrida irresponsável ao desenvolvimento de sistemas cada vez mais poderosos. A sua frase ecoou pelo mundo: “As pessoas que estão a construir esta tecnologia acreditam genuinamente que ela pode matar-nos a todos até ao final da década.”
É fácil descartar declarações como esta como alarmismo ou uma estratégia mediática. Mas torna-se mais difícil fazê-lo quando o alerta surge de alguém que esteve no centro do desenvolvimento destas tecnologias, e ainda mais quando este não é um caso isolado.
Nos últimos anos, vários investigadores e dirigentes ligados à OpenAI, à Google DeepMind e a outras empresas líderes abandonaram funções por divergências relacionadas com segurança, governação e ritmo de desenvolvimento da IA. O que impressiona não é apenas o número de saídas. É a consistência da mensagem. Diferentes pessoas, diferentes empresas, diferentes momentos. E, no entanto, a mesma preocupação: estamos a acelerar demasiado depressa sem sabermos verdadeiramente como controlar aquilo que estamos a construir.
A metáfora mais adequada talvez seja simples. Estamos a desenvolver um carro de Fórmula 1 apenas com acelerador. Cada nova geração de modelos é mais rápida, mais poderosa e mais autónoma. As empresas competem ferozmente para chegar primeiro à meta. Os investidores despejam milhares de milhões no sector. Os mercados recompensam quem avança mais rápido. Mas ninguém parece particularmente interessado em saber se os travões funcionam.
A questão não é se a Inteligência Artificial traz benefícios. Traz. E muitos. Desde avanços na medicina à investigação científica, passando pela educação, produtividade ou descoberta de novos materiais, o potencial é extraordinário. O problema surge quando a velocidade do progresso tecnológico ultrapassa a nossa capacidade de compreender os seus riscos.
O mais curioso, e preocupante, é que esta preocupação já não vem apenas de académicos externos ou de críticos da tecnologia. Ela vem dos próprios laboratórios que a estão a construir. Algumas das pessoas mais qualificadas do mundo para avaliar os riscos da IA são precisamente aquelas que começam a demonstrar desconforto com a direção seguida pela indústria.
Os líderes das maiores empresas tecnológicas afirmam frequentemente que a segurança é uma prioridade. No entanto, as evidências apontam para uma realidade mais complexa. Quando existe uma corrida empresarial, geopolítica e financeira desta dimensão, a pressão para lançar produtos rapidamente tende inevitavelmente a sobrepor-se à prudência. A história da tecnologia demonstra-o repetidamente.
Nenhuma empresa quer ser ultrapassada pela concorrência. Nenhuma quer perder a próxima grande oportunidade de mercado. E é precisamente por isso que não podemos confiar exclusivamente na autorregulação.
Seria impensável colocar um novo medicamento no mercado sem anos de testes clínicos e validação independente. Seria impensável certificar uma aeronave comercial sem mecanismos rigorosos de segurança. Porque aceitamos então que sistemas de Inteligência Artificial potencialmente capazes de tomar decisões autónomas, manipular informação à escala global ou controlar infraestruturas críticas evoluam sem supervisão equivalente?
O verdadeiro debate não é entre ser a favor ou contra a Inteligência Artificial. Esse é um falso dilema. O desafio é garantir que continuamos a ser nós a decidir.
A questão central é a da agência humana. Como garantir que os humanos mantêm sempre a última palavra? Como assegurar que existem mecanismos eficazes para desligar, limitar ou travar sistemas que se comportem de forma inesperada? Como evitar que interesses comerciais de curto prazo se sobreponham ao interesse coletivo?
O facto de ainda não existirem respostas robustas para estas perguntas deveria preocupar-nos mais do que a velocidade dos avanços tecnológicos.
O avanço de sistemas de inteligência artificial tão poderosos e a suas aplicações em áreas tão críticas da economia e sociedade não deveria ficar apenas nas mãos das big tech. Governos, reguladores e cidadãos têm de ser envolvidos no debate e na decisão.
A Europa tem procurado liderar através da regulamentação, nomeadamente com o AI Act. Mas a velocidade da legislação dificilmente acompanha a velocidade da inovação. Enquanto os reguladores discutem quadros legais, os laboratórios avançam para sistemas cada vez mais capazes, aproximando-se do que alguns denominam Inteligência Artificial Geral.
Talvez os cenários mais catastróficos nunca se concretizem. Talvez os receios de extinção humana se revelem exagerados. Esperemos sinceramente que assim seja. Mas ignorar os avisos daqueles que estão dentro do sistema seria uma imprudência histórica.
Quando um piloto abandona um carro em movimento, seria insensato não perguntar porquê o fez.
E quando são vários os pilotos a fazer precisamente o mesmo, talvez tenha chegado o momento de verificar se o carro tem realmente travões.
