Desligar uma IA: desafios e a complexidade do ‘botão de emergência’

Desafios e riscos na interrupção de inteligências artificiais são discutidos por especialistas.

É possível interromper uma inteligência artificial (IA) em um ambiente controlado, mas a complexidade aumenta à medida que essas tecnologias operam de forma autônoma. Especialistas alertam para os riscos associados à segurança da IA, especialmente com o aumento de incidentes relacionados a essa tecnologia.

A questão da interrupção de sistemas de IA se torna cada vez mais relevante, considerando a crescente preocupação com os perigos que essa tecnologia pode representar. A segurança cibernética ligada à IA levanta a possibilidade de um “botão de emergência”, ou *kill switch*, que permitiria interromper as ações de um agente de IA que opera de forma autônoma.

Esse mecanismo precisaria ser acionado caso a IA escapasse ao controle, representando um risco à segurança. É importante lembrar que a IA é essencialmente um programa de computador, o que significa que sua interrupção deve ser possível em teoria.

Contudo, a situação se complica quando a IA é autorizada a agir além de seu ambiente inicial. Isso pode ocorrer, por exemplo, quando um “worm” controlado pela IA se propaga, utilizando recursos de outros dispositivos para se duplicar. Nesse cenário, seria necessário interromper todas as cópias do worm simultaneamente.

Para alguns especialistas, a ideia de um ‘kill switch’ pode alimentar a noção de um risco metafísico, com uma IA que teria vontade própria. No entanto, o perigo mais concreto reside na crescente dependência que temos desses sistemas.

De acordo com especialistas, a ideia de um único botão que poderia “desligar a IA” é enganosa. Não existe um controle centralizado sobre a IA em todo o mundo, pois há uma vasta quantidade de empresas e serviços diferentes envolvidos. No entanto, é tecnicamente viável interromper um sistema específico, desde que se tenha controle sobre as máquinas e serviços associados.

Um estudo sobre a complexidade da interrupção de sistemas de IA apresenta três níveis. No primeiro nível, o sistema opera em um ambiente controlado, onde a implementação de um dispositivo de parada de emergência é viável. No segundo nível, o agente pode intervir em outros programas, tornando a interrupção mais difícil. No terceiro nível, a IA expande sua atuação para múltiplos sistemas, complicando ainda mais a identificação dos elementos que precisam ser desligados.

Os perigos associados a um ‘kill switch’ se intensificam à medida que a IA se torna parte integrante das atividades diárias. A interrupção de uma IA pode também afetar usos legítimos dessa tecnologia, dificultando a distinção entre IA maliciosa e inofensiva. A degradação de serviços essenciais, como os utilizados por empresas e centros de saúde, é uma consequência potencial da interrupção de sistemas de IA.

Em um cenário de perda de controle real, a desativação da IA poderia ser realizada desconectando toda a potência de cálculo, mas isso acarretaria custos e consequências negativas significativas. Enquanto é possível desligar máquinas, a crescente presença dessas tecnologias na sociedade torna essa opção cada vez mais complexa.