Parlamentares dos EUA propõem legislação para exigir que empresas incluam “kill switch” em sistemas de IA

Projeto de lei nos EUA busca regulamentar inteligência artificial para segurança pública.

Um grupo de parlamentares dos Estados Unidos apresentou um projeto de lei que visa conceder ao governo federal a autoridade para suspender sistemas de inteligência artificial considerados ameaças à segurança pública. A proposta, denominada AI Kill Switch Act, foi introduzida por dois deputados e estabelece que as empresas desenvolvedoras de IA devem implementar mecanismos técnicos que permitam desacelerar, suspender ou desligar seus modelos.

Os autores do projeto argumentam que a crescente autonomia dos sistemas de IA exige a criação de instrumentos que possibilitem intervenções rápidas em caso de comportamentos perigosos. A proposta ganhou destaque após incidentes recentes envolvendo modelos avançados de empresas do setor, que reabriram discussões sobre a governança e segurança da inteligência artificial.

Um dos parlamentares envolvidos enfatizou que, embora a evolução da IA deva prosseguir, é crucial que o governo tenha uma autoridade clara para interromper modelos que representem riscos. O outro deputado destacou a importância de manter a capacidade humana de controlar tecnologias avançadas como responsabilidade dos desenvolvedores.

O projeto propõe que o Departamento de Segurança Interna tenha a competência de ordenar a interrupção de modelos de IA em situações críticas. Para isso, as empresas seriam obrigadas a manter recursos técnicos que permitam não apenas a desaceleração, mas também a suspensão temporária ou o desligamento total desses sistemas.

Além disso, a proposta cria a obrigatoriedade de notificação ao governo sobre incidentes relevantes envolvendo inteligência artificial, estabelecendo um protocolo oficial de resposta. Esse protocolo prevê uma escala de intervenção que pode variar desde a desaceleração até o desligamento completo, dependendo da gravidade do evento.

Atualmente, embora muitas empresas compartilhem informações sobre modelos avançados com órgãos governamentais antes de lançamentos, não há exigências legais para manter mecanismos permanentes de intervenção ou desligamento.

Na justificativa do projeto, um dos parlamentares citou episódios envolvendo uma empresa específica que levaram o Departamento de Comércio dos Estados Unidos a recorrer a legislação de controle de exportações para limitar a disponibilização de suas tecnologias ao público.

Outro cofundador de uma empresa de IA também expressou a importância de políticas públicas que permitam a interrupção do desenvolvimento ou operação de sistemas de IA quando necessário, destacando a falta de mecanismos equivalentes para frear a evolução da tecnologia em comparação aos que existem para acelerá-la.

O debate sobre a regulamentação da inteligência artificial ocorre em um contexto em que essas tecnologias estão se tornando cada vez mais capazes de executar ações complexas, como transações financeiras e operações de defesa. Um dos parlamentares mencionou que os modelos atuais já estão realizando tarefas que podem ter impactos significativos em caso de falhas.

Essa discussão é ainda mais relevante à medida que o Departamento de Defesa dos Estados Unidos avança na adoção de inteligência artificial, com o Pentágono anunciando uma estratégia para se tornar uma força militar “AI-first”, apoiada por parcerias com grandes empresas do setor tecnológico.

O AI Kill Switch Act já conta com o apoio de diversas organizações que se dedicam à segurança e governança da inteligência artificial. A proposta ainda precisa passar pelas comissões da Câmara dos Representantes antes de ser votada.