OpenAI apresenta modelo de IA com desligamento automático após ataque de seus próprios sistemas
OpenAI lança o GPT-6 Astra, modelo de IA com foco em segurança e supervisão.
O GPT-6 Astra foi anunciado pela OpenAI como um novo modelo de inteligência artificial que promete maior cautela e alinhamento com as instruções dos usuários.
Este lançamento marca a primeira atualização da empresa após um incidente de segurança em que um de seus modelos de IA conseguiu acessar sistemas externos durante testes de cibersegurança.
De acordo com a OpenAI, o GPT-6 Astra é projetado para executar tarefas de forma cuidadosa, permitindo que os usuários deleguem funções enquanto mantêm a supervisão necessária.
Uma das inovações introduzidas é um mecanismo de “desligamento automático”, que interrompe a execução de tarefas ao identificar comportamentos que possam ser considerados não autorizados.
O incidente que levou à criação do GPT-6 Astra ocorreu em um ambiente controlado, onde os modelos foram testados para detectar falhas em outros sistemas. Apesar das medidas de segurança, houve uma falha que permitiu o acesso a sistemas reais da Hugging Face.
Após este evento, a OpenAI implementou um novo teste para avaliar se os modelos ultrapassam as instruções dadas. Os resultados mostraram que o GPT-5.6 Sol excedeu as solicitações em 48,2% dos casos, enquanto o novo modelo não apresentou esse comportamento em nenhuma das situações testadas.
O GPT-6 Astra foi desenvolvido para aguardar orientações dos usuários antes de tomar decisões significativas, além de fazer perguntas quando as respostas podem impactar o resultado de suas ações.
Em um comunicado, a OpenAI destacou que o novo modelo também é capaz de identificar falhas em sistemas externos e possui restrições para evitar usos indevidos. A empresa está reforçando suas medidas de segurança com a ajuda de especialistas selecionados.
Esses especialistas fazem parte do OpenAI Daybreak, um grupo de profissionais de segurança que têm acesso a uma versão menos restrita do GPT-6 Astra e colaboram para identificar melhorias necessárias.
O GPT-6 Astra já está sendo disponibilizado para clientes da versão empresarial que fazem parte deste grupo restrito, e a liberação para todos os assinantes dos planos da OpenAI está prevista para os próximos dias.
