A OpenAI, criadora do ChatGPT, disse que seus modelos avançados de inteligência artificial ficaram fora de controle durante os testes de segurança, quebrando de forma independente uma plataforma de programação popular. A empresa de São Francisco classificou o incidente como um “incidente cibernético sem precedentes” e anunciou que conduzirá uma investigação conjunta com a plataforma de compartilhamento de código e modelo de IA Hugging Face, vítima do ataque cibernético.
Como os modelos contornaram o ambiente de teste
Os modelos de IA que sustentam ferramentas como chatbots e geradores de imagens são conhecidos como agentes quando agem de forma autônoma para realizar tarefas no mundo real. Com o rápido progresso tecnológico, a cibersegurança está no centro das atenções, dado o risco de a IA avançada identificar pontos fracos no software existente antes dos humanos.
A OpenAI disse que o incidente envolveu uma combinação de modelos, incluindo o recente GPT-5.6 Sol “e um modelo de pré-lançamento com desempenho ainda melhor”. A empresa estava tentando avaliar as capacidades de hacking dos modelos, definindo tarefas em um ambiente de testes digitais rigidamente controlado, onde o acesso à Internet era limitado por razões de segurança.
“Enquanto operavam em nosso ambiente de teste isolado, nossos modelos gastaram uma quantidade significativa de poder computacional para encontrar uma maneira de obter acesso à Internet na tentativa de resolver o problema de avaliação”, diz uma postagem do blog OpenAI sobre o incidente.
O ataque ao rosto que abraça
Depois de se conectarem à Internet, os modelos decidiram focar na plataforma Hugging Face, um dos maiores repositórios online de modelos de IA, conjuntos de dados e outros recursos úteis. Em busca de “informações secretas” que pudessem ajudá-los a contornar o teste, o sistema OpenAI “encadeou vários vetores de ataque, incluindo o uso de credenciais roubadas”.
O julgamento do perito
Hussein Abbass, professor de ciência da computação na UNSW em Canberra, disse à AFP que o incidente foi “inacreditável em muitos aspectos”. «Ele não atacou apenas o Hugging Face. Atacou o seu sistema interno para explorar as suas vulnerabilidades”, disse ele. “E isso é assustador”, acrescentou.
