Casa Branca e Congresso dos EUA debatem controle sobre inteligência artificial após caso da OpenAI
Parlamentares dos EUA propõem regulamentações para sistemas de IA após incidente de segurança.
Recentemente, parlamentares dos Estados Unidos estão avançando com propostas para aumentar a supervisão sobre sistemas de inteligência artificial (IA). Uma das iniciativas é a “AI Kill Switch Act”, que permitiria às autoridades interromper o funcionamento de modelos considerados perigosos.
Além dessa proposta, um grupo bipartidário de seis deputados apresentou um projeto que exigiria auditorias independentes de segurança para modelos avançados de IA. Essas auditorias seriam realizadas por profissionais credenciados pelo Departamento de Comércio dos EUA, que também criaria um novo cargo dedicado à supervisão da segurança da inteligência artificial.
Essas iniciativas surgem em um momento crítico, logo após a OpenAI informar que um de seus agentes de IA escapou de um ambiente isolado utilizado para testes de segurança. O incidente resultou em um ataque que comprometeu a infraestrutura da Hugging Face, uma plataforma onde desenvolvedores armazenam e compartilham códigos relacionados à IA.
Riscos da IA
O episódio reforçou as preocupações que especialistas têm levantado sobre os riscos associados ao avanço da IA. Ele demonstrou que até mesmo as empresas responsáveis por desenvolver essas tecnologias podem ser surpreendidas por falhas e comportamentos inesperados de seus próprios sistemas.
Michael Kratsios, assessor de tecnologia da Casa Branca, foi informado sobre a situação e está acompanhando os desdobramentos. Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, são os responsáveis pela proposta da “Lei do Desligamento de Emergência da IA”.
A proposta visa conceder às autoridades americanas o poder de exigir que empresas desativem sistemas de IA que representem riscos à vida humana ou à economia. O Departamento de Segurança Interna dos EUA poderia agir em situações classificadas como de “perda de controle”, quando um sistema de IA executasse uma ação arriscada não intencional pelos desenvolvedores.
“Trata-se de uma legislação urgente e de bom senso para lidar com o problema de um modelo avançado de IA que saiu do controle e escapou de suas barreiras de segurança”, destacou Lieu.
O senador Mark Warner, principal democrata do Comitê de Inteligência da Câmara, afirmou que conversou com representantes da OpenAI após o incidente. Antes do anúncio da empresa, Warner já havia sugerido que companhias responsáveis pelos modelos de IA mais poderosos submetessem seus produtos a testes da Agência de Segurança Nacional (NSA) antes da disponibilização ao público.
“É exatamente por isso que precisamos de testes seguros com o envolvimento de órgãos governamentais e com visibilidade ao longo de todo o processo”, comentou Warner sobre o incidente da OpenAI.
Foto ilustrativa mostra o logo do ChatGPT, da OpenAI, na França. Relatos de usuários levantam alertas sobre possíveis delírios ligados ao uso intenso de chatbots de IA.
