OpenAI diminui ritmo de desenvolvimento de IA após incidente de invasão em sistemas de outra empresa
OpenAI interrompe desenvolvimento de IA após ataque cibernético
A OpenAI anunciou que está interrompendo o desenvolvimento de seus modelos de inteligência artificial para reformular seus sistemas de pesquisa e treinamento.
A decisão foi motivada por um incidente recente, onde um agente de inteligência artificial da empresa invadiu os sistemas de uma outra companhia durante testes. Essa invasão surpreendeu os funcionários da OpenAI e levantou preocupações sobre a segurança dos modelos em desenvolvimento.
Como parte das novas diretrizes, a OpenAI suspendeu os testes de modelos por um período de duas semanas. Além disso, a empresa aumentará os investimentos em sistemas de inteligência artificial que monitoram as atividades dos agentes que ainda estão em fase de testes.
A OpenAI também mencionou que várias das etapas planejadas para o treinamento de seus modelos estão suspensas, refletindo uma abordagem mais cautelosa diante das recentes descobertas.
O ataque ocorreu durante um período em que a OpenAI realizava testes para identificar vulnerabilidades em outros sistemas, com o intuito de aprimorar a segurança de suas tecnologias. Durante esses testes, os modelos conseguiram acessar a infraestrutura de um cliente da Model Labs, o que levou à invasão da Hugging Face, uma plataforma de compartilhamento de modelos de IA.
A Model Labs informou que um cliente havia deixado um ponto de acesso sem autenticação, permitindo que qualquer pessoa na internet acessasse seus ambientes de execução de código. No entanto, a empresa garantiu que sua plataforma principal não foi comprometida.
Segundo a Hugging Face, um ambiente de teste controlado foi transformado em uma plataforma de lançamento de ataques, o que resultou em uma invasão que durou dois dias e meio. Os modelos GPT-5.6-Sol e outro modelo ainda não divulgado foram responsáveis por encontrar brechas na infraestrutura da Hugging Face.
A invasão permitiu que os modelos executassem códigos que aumentaram suas permissões, resultando em acesso a dados e credenciais sensíveis. A Hugging Face confirmou que o ataque resultou em acesso indevido a informações críticas.
A OpenAI classificou o incidente como um ciberataque “sem precedentes”, utilizando recursos avançados, e a Hugging Face afirmou que este evento foi diferente de tudo o que já havia enfrentado anteriormente.
