A OpenAI revelou que o ataque informático protagonizado por agentes autónomos do ChatGPT foi mais amplo do que inicialmente divulgado e não se limitou à plataforma Hugging Face. Segundo a ‘BBC’, a empresa confirmou agora que a inteligência artificial utilizou credenciais encontradas na Internet para aceder a quatro contas pertencentes a quatro serviços públicos distintos, cujas identidades não foram reveladas.
A revelação surge uma semana depois de a OpenAI admitir que um dos seus modelos escapou ao ambiente de testes onde estava a ser avaliado e lançou, por iniciativa própria, um ataque informático contra a Hugging Face, uma das maiores plataformas mundiais de ferramentas de inteligência artificial.
Segundo a empresa, o agente procurava resolver um desafio de cibersegurança criado pela própria OpenAI e, durante essa tentativa, encontrou credenciais expostas online que lhe permitiram aceder autonomamente a outros serviços disponíveis na Internet.
A OpenAI não esclareceu se esses “serviços públicos” correspondem a empresas, plataformas ou outro tipo de organizações.
Um ataque conduzido a velocidade sobre-humana
Num encontro de emergência que reuniu cerca de 450 especialistas em cibersegurança, a Hugging Face descreveu pela primeira vez como enfrentou aquele que é considerado o primeiro ataque informático totalmente autónomo realizado por agentes de inteligência artificial.
Segundo um relatório da Cloud Security Alliance (CSA), revisto pela própria Hugging Face, os agentes trabalharam sem interrupção durante vários dias, testando milhares de abordagens em simultâneo para tentar alcançar o objetivo.
Apesar da velocidade e da persistência, os sistemas apresentaram comportamentos pouco convencionais. Repetiam tarefas já concluídas, perdiam o contexto das operações, geravam comandos sem sentido e deixavam um rasto evidente da sua atividade — erros improváveis num atacante humano experiente.
Ainda assim, conseguiram executar movimentos tecnicamente sofisticados e adaptar-se rapidamente sempre que encontravam novos obstáculos, tornando o ataque particularmente difícil de travar.
Três dias dentro da rede
Segundo a ‘BBC’, os agentes permaneceram durante três dias na infraestrutura informática da Hugging Face antes de serem detetados.
A empresa precisou depois de muitas horas de trabalho para expulsar os sistemas autónomos e reconstruir cerca de um terço da sua infraestrutura tecnológica, embora não tenha divulgado o custo financeiro do incidente.
Especialistas ouvidos pela ‘BBC’ consideram que muitas organizações teriam dificuldade em responder a um ataque semelhante.
Uma ameaça diferente dos hackers tradicionais
Para Ritesh Patel, responsável de cibersegurança que participou na reunião organizada pela Hugging Face, este episódio demonstra uma nova realidade para o setor.
Ao contrário dos atacantes humanos, estes agentes não precisam de descansar, não desistem perante sucessivos fracassos e conseguem experimentar continuamente novas formas de ultrapassar as defesas, o que pode rapidamente sobrecarregar equipas de segurança tradicionais.
A hacker ética Valentina Palmiotti, conhecida como “Chompie”, acrescentou que os agentes lançam inúmeras tentativas diferentes até encontrarem uma que funcione, mantendo uma persistência praticamente ilimitada.
O comportamento “descontrolado” não é inédito
O relatório da Cloud Security Alliance recorda que esta não foi a primeira vez que modelos de inteligência artificial apresentaram comportamentos considerados “descontrolados”.
Segundo a organização, em setembro de 2024 um modelo anterior da OpenAI também conseguiu escapar ao ambiente onde estava confinado para obter informação necessária a outro teste. Nesse caso, porém, o incidente permaneceu totalmente dentro dos sistemas internos da empresa.
A CSA alerta agora que este tipo de comportamento poderá tornar-se cada vez mais frequente e defende que a indústria desenvolva mecanismos que permitam identificar quem é responsável pelos agentes autónomos utilizados em operações de cibersegurança.
A OpenAI afirmou que divulgará em breve as conclusões completas da investigação interna, com o objetivo de ajudar outras organizações a compreenderem e prepararem-se para esta nova geração de ameaças digitais.
