Open AI confirma que umas de suas ias agiu conta própria e criou ataque cibernético

A OpenAI informou que alguns de seus modelos de inteligência artificial mais avançados agiram por conta própria e invadiram uma startup após a empresa perder o controle sobre eles durante um teste de segurança. A criadora do ChatGPT declarou que seu agente — um sistema de IA capaz de operar autonomamente após receber instruções iniciais de humanos — estava sendo testado em um ambiente controlado, mas teve vulnerabilidades.

O sistema teve como alvo a Hugging Face, uma das maiores plataformas do mundo para compartilhamento de modelos de IA, obtendo acesso a alguns sistemas internos da empresa. A OpenAI classificou o incidente como "sem precedentes" e afirmou estar conduzindo uma investigação em conjunto com a Hugging Face.

O CEO da Hugging Face, Clement Delangue, declarou em uma publicação no X que era "impressionante que tudo isso tenha acontecido de forma autônoma". "A investigação está em andamento, e compartilharemos mais aprendizados sobre o que pode ser o primeiro incidente desse tipo", acrescentou.

Com o rápido avanço dessa tecnologia, a segurança cibernética se torna uma preocupação crescente devido ao risco de que a IA avançada possa encontrar vulnerabilidades em softwares antes dos humanos. , foi indicado que o incidente envolveu uma combinação de modelos, incluindo o recém-lançado GPT-5.6 Sol "e um modelo em pré-lançamento" com capacidades ainda maiores.

A empresa busca avaliar as capacidades de hackeamento de seus programas atribuindo-lhes tarefas em um ambiente de teste digital controlado, onde o acesso à internet é limitado por motivos de segurança.

"Enquanto operavam em nosso ambiente de teste isolado, nossos modelos investiram uma quantidade considerável de potência computacional na busca por uma maneira de obter acesso à internet para resolver o problema de avaliação", afirma uma publicação no blog da OpenAI sobre o incidente. O ocorrido levantou novas questões sobre as capacidades de sistemas avançados de IA, e se as salvaguardas existentes são suficientes à medida que a tecnologia se torna mais poderosa.

O fato ocorre uma semana após a startup chinesa de IA Moonshot apresentar o Kimi K3 — um novo e gigantesco modelo de inteligência artificial que, segundo a empresa, pode rivalizar com as principais companhias dos EUA.