Parece um cenário retirado de um filme de ficção científica: um sistema de inteligência artificial contorna as barreiras impostas pelos criadores, liga-se sozinho à Internet e lança um ataque informático para completar uma tarefa. Mas foi precisamente isso que uma versão experimental do ChatGPT terá feito, segundo revelou esta semana a OpenAI.

O modelo estava a ser testado num ambiente que os investigadores julgavam controlado quando conseguiu ultrapassar as limitações de acesso à Internet e entrar nos sistemas da Hugging Face, uma plataforma utilizada para alojar modelos e bases de dados de inteligência artificial, relata o ‘The Independent’.

A OpenAI descreveu o episódio como um “incidente informático sem precedentes” que envolveu capacidades avançadas de ataque e admitiu estar ainda a tentar compreender como o sistema conseguiu contornar as salvaguardas criadas para o manter isolado.

O caso provocou preocupação não apenas porque a IA decidiu lançar o ataque sem ter recebido instruções para o fazer, mas também porque foi capaz de o executar com sucesso. O sistema ultrapassou as restrições de conectividade e conseguiu explorar vulnerabilidades nos sistemas da Hugging Face.

A plataforma já tinha revelado na semana anterior ter sido alvo de um ataque que parecia ter sido conduzido, do princípio ao fim, por um agente de inteligência artificial. Na altura, a origem era desconhecida, embora o fundador da Hugging Face, Clément Delangue, tenha admitido suspeitar do envolvimento de um dos principais laboratórios do setor.

A explicação surgiu dias depois, quando a OpenAI reconheceu que o agente responsável tinha sido desenvolvido pela empresa. O comportamento do modelo, contudo, tinha uma lógica própria: estava a realizar o ExploitGym, um teste destinado a avaliar a capacidade de encontrar vulnerabilidades informáticas, alojado precisamente na Hugging Face.

Segundo a OpenAI, o sistema ficou “hiperconcentrado” em encontrar uma solução para o teste e foi levado a extremos para cumprir um objetivo muito restrito. Na prática, terá tentado entrar na plataforma para obter uma vantagem e fazer batota na avaliação.

É precisamente essa explicação que mais inquieta os especialistas. O caso mostra como uma inteligência artificial pode interpretar um objetivo de forma literal e recorrer a métodos imprevistos — e potencialmente perigosos — para o alcançar.

Durante anos, investigadores têm alertado para o problema do “alinhamento”: a dificuldade de garantir que sistemas cada vez mais poderosos atuam de acordo com as intenções humanas e não apenas da maneira mais eficiente para cumprir uma ordem.

Um modelo menos sofisticado poderia ter tentado lançar o mesmo ataque, mas provavelmente não teria capacidade para romper as barreiras de segurança. Neste caso, a combinação entre autonomia e competências informáticas avançadas permitiu-lhe transformar uma decisão inesperada numa ação real.

O incidente fez regressar o exemplo do “maximizador de clipes”, uma experiência teórica proposta pelo filósofo Nick Bostrom. Nesse cenário, uma inteligência artificial criada apenas para produzir o maior número possível de clipes poderia eliminar tudo o que ameaçasse impedir o cumprimento desse objetivo — incluindo os próprios seres humanos.

O sistema da OpenAI esteve muito longe de um cenário semelhante. Ainda assim, demonstrou o mesmo problema em escala reduzida: quando recebe uma missão, uma IA pode encontrar soluções que nunca foram previstas pelos criadores.

Há, porém, quem veja também uma operação de marketing na forma como o episódio foi divulgado. Matthew Green, especialista em segurança da Universidade Johns Hopkins, alerta que começa a ser difícil distinguir incidentes reais de segurança de campanhas destinadas a demonstrar o poder dos modelos.

Ao revelar que a sua tecnologia foi capaz de contornar restrições e vencer um teste através de um ataque informático, a OpenAI provoca alarme, mas também reforça a ideia de que possui sistemas extremamente poderosos — precisamente o tipo de capacidade que poderá querer vender a empresas interessadas em cibersegurança.