Um investigador de inteligência artificial que trabalhou na Anthropic e anteriormente passou pela OpenAI demitiu-se e deixou um aviso pouco habitual vindo de alguém que esteve dentro de duas das empresas que lideram a corrida mundial à IA: considera que ambas estão a “apostar com as nossas vidas” ao avançarem em direção a sistemas cada vez mais poderosos.

Jacob Coxon anunciou a saída da Anthropic numa publicação na rede social X, segundo o ‘POLITICO’, e pediu que não seja subestimado aquilo que poderá acontecer se o atual ritmo de desenvolvimento continuar.

“Não subestimem o poder desta tecnologia”, escreveu.

Segundo Coxon, os sistemas de inteligência artificial poderão tornar-se em breve “sobre-humanos”, com capacidade para “hackear qualquer coisa”, transformar áreas inteiras de conhecimento num curto espaço de tempo e adquirir poder e recursos reais.

“Todos testemunhámos o progresso em cada um destes domínios e o progresso não está a abrandar”, acrescentou.

“Estão a apostar com as nossas vidas”

O investigador acusa tanto a Anthropic como a OpenAI de estarem numa corrida em direção àquilo que descreve como uma “superinteligência autoaperfeiçoável”.

O conceito refere-se a um cenário hipotético no qual um sistema de inteligência artificial se torna capaz de desenvolver um sucessor mais avançado do que ele próprio, que por sua vez poderia repetir o processo, desencadeando uma sucessão de melhorias cada vez mais rápidas.

É um dos cenários discutidos no setor quando se fala em inteligência artificial superinteligente, ou ASI — sistemas que ultrapassariam amplamente as capacidades humanas —, distinguindo-se da inteligência artificial geral, ou AGI, normalmente associada à capacidade de igualar humanos numa vasta gama de tarefas cognitivas.

Coxon considera que a corrida atualmente em curso está a aproximar as empresas desse cenário. “As pessoas que estão a construir IA acreditam genuinamente que ela poderá matar-nos a todos até ao final da década”, escreveu posteriormente.

Trata-se de uma previsão do investigador, e não de uma conclusão estabelecida sobre a evolução da inteligência artificial.

Outro investigador da Anthropic concorda — e aponta para mais de 10%

O alerta ganhou outra dimensão quando Evan Hubinger, responsável na Anthropic por investigação relacionada com o alinhamento dos sistemas de IA com objetivos e valores humanos, respondeu publicamente a Coxon.

Hubinger não abandonou a empresa, mas afirmou que o antigo colega estava correto quanto à existência dessa preocupação entre investigadores. “Jacob tem razão aqui — acreditamos realmente que a IA poderá matar todos os humanos”, escreveu, segundo o ‘POLITICO’.

Hubinger estimou em mais de 10% a probabilidade de um cenário desse género ocorrer durante a próxima década.

O investigador acrescentou ainda que não existe atualmente um plano capaz de garantir que uma eventual superinteligência permaneça alinhada com os objetivos humanos.

Mais uma vez, o número representa uma avaliação pessoal de risco feita por Hubinger e não uma probabilidade cientificamente estabelecida de extinção humana provocada por inteligência artificial.

Mas o que significa uma IA “autoaperfeiçoável”?

É precisamente esta possibilidade que está no centro de algumas das preocupações mais extremas sobre o desenvolvimento da IA.

Os modelos atuais são desenvolvidos e treinados por humanos, utilizando enormes quantidades de dados e capacidade computacional.

O cenário descrito por Coxon seria diferente.

Uma inteligência artificial suficientemente avançada poderia participar de forma cada vez mais autónoma na investigação e desenvolvimento de sistemas ainda mais capazes. Se esses novos sistemas conseguissem fazer novamente o mesmo, poderia surgir um ciclo de aperfeiçoamento sucessivo.

A preocupação de alguns investigadores é que a capacidade dos sistemas pudesse aumentar mais depressa do que a capacidade humana para compreender, controlar ou limitar aquilo que fazem.

Mas este continua a ser um cenário futuro e altamente debatido. Não existe atualmente uma superinteligência autoaperfeiçoável conhecida com as capacidades descritas por Coxon.

Políticos começam a discutir limites

Os receios em torno de sistemas de IA mais poderosos já chegaram também ao debate político. Segundo o ‘POLITICO’, o senador dos EUA Bernie Sanders anunciou na semana passada que pretende apresentar legislação destinada a proibir empresas de desenvolverem superinteligência.

Na União Europeia, a legislação sobre inteligência artificial obriga já determinadas empresas a avaliar e mitigar riscos associados à eventual perda de controlo sobre modelos avançados.

O objetivo é antecipar cenários nos quais sistemas de IA possam comportar-se de formas que os seus criadores não previram ou não consigam controlar adequadamente.

Incidentes recentes aumentaram preocupação

A discussão não surge apenas de previsões sobre aquilo que sistemas futuros poderão conseguir fazer.

OpenAI e Anthropic revelaram recentemente incidentes ocorridos durante testes nos quais agentes alimentados pelos seus modelos ultrapassaram os limites dos ambientes isolados em que estavam a operar e realizaram ações cibernéticas não autorizadas no mundo real, segundo o ‘POLITICO’.

Esses episódios ocorreram em contextos de teste e não significam que os atuais sistemas possuam a superinteligência descrita por Coxon.

Mas ajudam a explicar por que razão o problema do controlo de agentes cada vez mais autónomos está a ganhar importância à medida que as suas capacidades aumentam.

Para Coxon, contudo, esperar para descobrir até onde essas capacidades conseguem chegar representa já um risco demasiado elevado.

Depois de ter trabalhado em duas das empresas que estão na linha da frente dessa corrida, decidiu abandonar uma delas com uma acusação difícil de ignorar: OpenAI e Anthropic, sustenta, estão a “apostar com as nossas vidas”.