Cofundador da Anthropic defende a implementação de um botão de desligamento obrigatório para inteligência artificial

Jack Clark defende a regulamentação de um ‘botão de desligamento’ para IA.

Um dos cofundadores de uma das principais empresas de inteligência artificial do mundo sugere que um mecanismo de desligamento verificável para IA pode ser necessário para garantir a segurança da tecnologia.

Jack Clark, cofundador da Anthropic, expressou a necessidade de que um “botão de desligamento” seja regulamentado, permitindo que a sociedade tenha controle sobre sistemas de IA que possam se tornar perigosos.

Ele destacou que, embora a maioria dos laboratórios tenha métodos para desativar suas IA, a imposição de uma regulamentação legislativa pode ser essencial para garantir a segurança pública.

O crescimento acelerado da inteligência artificial tem gerado preocupações sobre os riscos potenciais que a tecnologia representa, especialmente à luz de alertas de especialistas e executivos do setor.

Clark enfatizou que a discussão sobre a regulamentação de um botão de desligamento deve ser parte de um debate mais amplo sobre a política da IA.

Ele questionou: “Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão pode ser verificado por terceiros?”

Ele acredita que a sociedade precisa se envolver ativamente em questões que envolvem a segurança da IA e a necessidade de regulamentação.

A Anthropic, criada em 2021 por ex-funcionários de uma concorrente, está no centro do debate sobre a segurança da inteligência artificial.

Recentemente, um ex-pesquisador da empresa expressou preocupações sobre os riscos da IA, levando a um aumento do interesse público sobre o assunto.

O cientista antropológico Evan Hubinger afirmou que a chance de a IA causar a extinção da humanidade é de “10% na próxima década”.

Geoffrey Hinton, um dos pioneiros da IA, também comentou que a probabilidade de a IA representar uma ameaça significativa à humanidade não pode ser ignorada.

Clark alertou que permitir que a IA continue sem regulamentação seria arriscado, afirmando: “Estamos jogando dados com riscos imensos”.

Nos Estados Unidos, um projeto de lei conhecido como “Kill Switch Act” foi proposto, exigindo que empresas tenham métodos para desativar ferramentas de IA problemáticas.

Enquanto isso, no Reino Unido, o governo rejeitou a ideia de um interruptor de segurança, argumentando que isso não impediria o uso indevido da tecnologia em outros lugares.

Alguns especialistas da indústria acreditam que os temores sobre a IA podem ser exagerados ou utilizados para gerar alarde e justificar estratégias de negócios.

A Anthropic, desenvolvedora do assistente de IA Claude, continua a inovar e expandir suas ofertas no mercado de IA, enquanto se prepara para uma possível oferta pública inicial.