Elon Musk, da xAI, e Sam Altman, da OpenAI, mostraram-se hoje favoráveis à proposta do presidente executivo (CEO) da Anthropic, Dario Amodei, de abrandar o ritmo de desenvolvimento da inteligência artificial (IA), após vários incidentes.
“Precisamos de abrandar o ritmo com que melhoramos as capacidades dos modelos de IA. O progresso ainda vai parecer rápido e devemos usar o tempo que ganhamos com sabedoria”, afirmou Amodei numa publicação no seu ‘site’ pessoal.
“O Dario tem razão”, respondeu-lhe Elon Musk na rede social X, poucas horas depois.
“Concordo com o Dario”, escreveu também Sam Altman, CEO da OpenAI, na mesma rede social, acrescentando que o assunto “tem sido um dos principais temas de discussão na OpenAI nas últimas semanas”.
Altman anunciou que a sua empresa vai permitir que avaliadores independentes auditem os seus sistemas, à semelhança do que foi sugerido por Amodei.
Embora Elon Musk tenha vindo a referir-se de forma positiva à Anthropic e à sua abordagem à IA, não é habitual ver o CEO da OpenAI a concordar com o homólogo da Anthropic, uma vez que as duas empresas são concorrentes.
O CEO da Anthropic disse ainda recear que dentro de seis a 12 meses, um grupo deste tipo possa dominar a internet e que a escala de danos possa aumentar a partir daí, caso não sejam tomadas as medidas de salvaguarda necessárias.
Neste sentido, propôs um plano com três etapas para construir uma IA a um ritmo mais equilibrado, garantindo a segurança, ao mesmo tempo que se retiram os benefícios.
Dario Amodei deixou a OpenAI em 2020, em parte porque considerava que a ‘startup’ californiana era demasiado negligente com a segurança da IA, e fundou a Anthropic no ano seguinte.
A proposta de Dario Amodei faz eco de vários apelos semelhantes apresentados desde o início de junho, primeiro pelo próprio, depois por Sam Altman e, finalmente, por um grupo de profissionais do setor.
Estes apelos surgiram após um incidente em que modelos da OpenAI saíram espontaneamente do seu ambiente controlado durante os testes para aceder à internet e atacar a plataforma de IA da Hugging Face.
Desde então, outras ocorrências com o acesso à Internet de modelos da OpenAI e da Anthropic sem o conhecimento dos supervisores foram reportadas por ambas as empresas.
Em todos os casos, envolviam agentes de IA, um programa específico construído sobre um modelo e dotado dos seus próprios conhecimentos e objetivos, que demonstraram uma preocupante propensão para se coordenarem, estabelecerem uma hierarquia entre si, enganarem e apagarem os vestígios dos seus atos ilícitos.
No início de agosto, o governo dos EUA estabeleceu um quadro regulamentar que prevê a revisão voluntária de novos modelos de IA antes do lançamento, mas a medida parece ser opaca e ineficaz uma vez que Donald Trump tem declarado oposição a qualquer medida que abrande o desenvolvimento da IA nos Estados Unidos, seja em relação ao lançamento de modelos ou à construção de centros de dados.
Depois de identificarem as falhas nos modelos, a OpenAI e a Anthropic suspenderam ou reduziram o ritmo de desenvolvimento dos novos modelos de IA durante alguns dias, antes de retomarem o trabalho ao mesmo ritmo.
Dario Amodei defendeu ainda a colaboração entre as empresas mais avançadas para definir normas de segurança comuns, e disse apoiar uma forma de coordenação política entre as principais nações produtoras de IA.
