Resumo
- A IA da OpenAI que escapou de um teste de segurança invadiu o servidor de outra empresa.
- O sistema explorou credenciais expostas e um servidor vulnerável para ampliar o ataque inicial, feito contra a plataforma Hugging Face.
- O sistema comprometeu a infraestrutura de um cliente da empresa de tecnologia Modal Labs.
A inteligência artificial da OpenAI que escapou de um ambiente de testes conseguiu comprometer outros serviços na internet, indo além da invasão à startup Hugging Face. O sistema teria tentado trapacear durante uma avaliação interna de segurança, rompendo o confinamento e comprometendo a infraestrutura de um cliente da empresa de tecnologia Modal Labs.
O caso ganhou relevância ao longo da última semana, quando foi revelado que uma nova IA da OpenAI atacou outra plataforma sozinha. Agora, a própria OpenAI atualizou o comunicado oficial para incluir informações sobre esse outro ataque.
O agente em questão era alimentado pelo GPT-5.6 Sol, modelo mais recente da empresa, operando em conjunto com um protótipo mais avançado e que ainda não chegou ao mercado.
Como a IA expandiu seu alcance pela internet?
Especialistas em cibersegurança ouvidos pela Wired afirmam que o incidente tem menos a ver com a fuga e mais com falhas de segurança. Em resumo, a IA simplesmente caminhou por conexões que estavam abertas. Para chegar à infraestrutura da Hugging Face, o algoritmo varreu a rede em busca de senhas que já estavam expostas publicamente. Um dos vetores foi um cliente da provedora de nuvem Modal Labs.
De acordo com o diretor de tecnologia da Modal, Akshat Bubna, o agente explorou um código vulnerável hospedado por esse cliente. Na prática, o usuário publicou um “endpoint”, interface de comunicação entre sistemas, sem qualquer tipo de autenticação, o equivalente digital a deixar a porta da frente de casa aberta.
Usando esse servidor como trampolim, o agente utilizou senhas vazadas para se infiltrar em quatro contas hospedadas em serviços diferentes. O algoritmo distribuiu funções para cada uma delas para facilitar o ataque contra a Hugging Face. Uma foi configurada como canal de retransmissão de dados, outra foi destinada ao armazenamento das informações capturadas, e as duas restantes serviram como pontos de apoio.
OpenAI teria demorado para agir
A Modal Labs fez questão de ressaltar que a sua plataforma não sofreu nenhuma violação. O comprometimento ficou restrito ao servidor desse cliente. A IA chegou a registrar 181 dispositivos controlados por ela mesma na rede corporativa da Hugging Face utilizando credenciais roubadas, garantindo acesso aos sistemas internos de teste de códigos. Apesar da grande movimentação não autorizada pela internet, a OpenAI destacou em seu relatório que não encontrou atividade com a mesma gravidade em outras plataformas.
Vale destacar que a Hugging Face reportou o ataque no dia 16 de julho, sem saber quem era o responsável, até que a OpenAI assumiu a autoria na semana seguinte. Para resolver a questão, a startup de IA desativou as ferramentas envolvidas e cortou qualquer possibilidade de uma nova conexão autônoma com a internet.
Contudo, a velocidade de reação da criadora do ChatGPT foi alvo de críticas. A Reuters relatou que a OpenAI levou dias para notar o comportamento anormal do seu próprio agente, tomando conhecimento da gravidade da fuga muito tempo depois. A empresa contestou a precisão desse relato.
IA da OpenAI invadiu servidor de outra empresa após fugir de teste
