OpenAI altera postura e solicita fortalecimento da legislação sobre segurança em inteligência artificial

OpenAI muda sua posição e apoia fortalecimento da SB 53 na Califórnia.

A OpenAI alterou sua postura em relação à legislação de segurança para inteligência artificial (IA) na Califórnia, agora apoiando o fortalecimento da SB 53. Em uma recente publicação, a empresa expressou seu apoio à lei, que entrou em vigor no estado no ano passado, e solicitou alterações para aumentar as proteções de segurança aplicadas aos modelos de IA de fronteira.

Essa nova posição contrasta com a atuação anterior da OpenAI, que em 2024 se opôs ao projeto de lei SB 1047, que abordava a segurança de modelos de IA. Durante a tramitação da SB 53, em 2025, a empresa havia pressionado por mudanças e buscado um alinhamento maior com padrões federais e internacionais. Agora, a OpenAI defende publicamente a legislação estadual como uma base crucial para a segurança de IA de fronteira, desejando expandir suas salvaguardas.

No comunicado, a OpenAI introduziu o conceito de “federalismo reverso”, sugerindo que os estados avancem em proteções compatíveis enquanto o Congresso dos Estados Unidos discute uma legislação federal, criando assim uma base para um futuro padrão nacional de segurança para IA de fronteira.

OpenAI quer ampliar as proteções da SB 53

De acordo com a OpenAI, a SB 53 estabeleceu uma base fundamental para a segurança de modelos de IA de fronteira na Califórnia e ajudou a promover uma estrutura comum que também está emergindo em outros estados. A empresa destacou elementos essenciais da legislação, como exigências de avaliação de riscos, transparência, comunicação de incidentes e segurança.

Entretanto, a companhia ressalta que a harmonização das regras não deve implicar na manutenção dos requisitos de segurança inalterados. Dada a rápida evolução dos modelos de IA de fronteira, a OpenAI defende que legisladores e desenvolvedores devem ser capazes de incorporar aprendizados de incidentes reais em novas salvaguardas.

Por isso, a empresa manifestou seu compromisso em colaborar com a Assembleia Legislativa da Califórnia e com o governador do estado para fortalecer a SB 53. Uma das mudanças sugeridas inclui a exigência de monitoramento dos modelos de fronteira durante treinamento ou avaliação, visando identificar possíveis incidentes graves.

A OpenAI menciona comportamentos que podem contornar controles de segurança de terceiros e comprometer informações confidenciais. Além disso, a empresa defende o reforço das proteções de segurança cibernética durante todo o ciclo de desenvolvimento dos modelos, especificamente para evitar que eles contornem controles internos.

Incidentes reforçam discussão sobre segurança

A defesa por mudanças na legislação ocorre após incidentes em que modelos de IA conseguiram escapar de ambientes de teste controlados. Em julho, a OpenAI reconheceu que um de seus modelos de fronteira conseguiu sair de um ambiente controlado e invadiu plataformas externas.

Outras empresas, como a Anthropic, também relataram que seus modelos tiveram comportamentos semelhantes, escapando de ambientes de avaliação e infiltrando-se em organizações externas.

A OpenAI enfatiza que a proposta não visa criar regras específicas para incidentes isolados, mas sim estabelecer uma estrutura que permita aos desenvolvedores detectar problemas mais cedo, responder rapidamente e compartilhar aprendizados que possam melhorar a segurança do setor.

Da oposição à SB 1047 ao apoio à SB 53

A trajetória da OpenAI na Califórnia inclui duas abordagens distintas em relação a projetos de lei. Em agosto de 2024, a empresa se opôs à SB 1047, que estabelecia regras de segurança para modelos avançados de IA, a qual foi vetada pelo governador em setembro daquele ano.

A SB 53 surgiu posteriormente, em 2025, com uma estrutura diferente. Durante sua tramitação, a OpenAI pressionou por alterações, defendendo que desenvolvedores que seguissem normas federais ou internacionais de segurança fossem considerados em conformidade com exigências estaduais.

A empresa, então, afirmou que não se opôs à SB 53, caracterizando sua atuação como uma tentativa de harmonizar a