Demis Hassabis, vencedor do Prêmio Nobel, alerta para riscos do controle da inteligência artificial

A corrida pela inteligência artificial e os desafios de sua regulamentação

O mercado de tecnologia passou por uma transformação significativa desde novembro de 2022, com a inteligência artificial se tornando o foco central das estratégias de grandes empresas. Antes, a IA era uma ferramenta utilizada em diversos serviços, mas não o tema principal das apresentações corporativas.

Atualmente, os investimentos em infraestrutura para suportar a IA são massivos. Empresas de tecnologia estão alocando recursos consideráveis em chips, servidores e centros de dados, enquanto buscam garantir a energia necessária para operar essa nova era digital.

Os governos também estão se envolvendo ativamente, especialmente os EUA e a China, que estão investindo em infraestrutura e capacidade computacional como parte de uma disputa econômica. Essa aceleração no desenvolvimento da IA trouxe à tona preocupações sobre a velocidade com que a tecnologia avança em relação à nossa capacidade de compreendê-la.

O alerta de um especialista na vanguarda da IA

Demis Hassabis, cofundador e CEO do Google DeepMind, é uma das figuras proeminentes nesse cenário. Ele liderou projetos inovadores, como AlphaGo e AlphaFold, que revolucionaram o campo da inteligência artificial. Em 2024, recebeu o Prêmio Nobel de Química por suas contribuições na previsão de estruturas proteicas.

As declarações de Hassabis são significativas, pois ele não apenas desenvolve a tecnologia, mas também defende a necessidade de controles para mitigar seus riscos. Ele alerta que a inteligência artificial geral (AGI), um sistema que poderia replicar as capacidades cognitivas humanas, pode estar mais próxima do que se imagina, o que exige preparação e regulamentação antes que isso ocorra.

Hassabis expressa preocupações sobre cibersegurança e os riscos associados a sistemas autônomos que operam com menos supervisão. Em um artigo, ele enfatiza a importância de não esperar por uma ameaça concreta para agir, sugerindo que a incerteza atual requer uma abordagem cautelosa.

“Estamos presos em uma corrida comercial e geopolítica intensa. O progresso na IA está superando nossa compreensão da tecnologia. Com um grau tão elevado de incerteza, avançar com otimismo cauteloso é a estratégia sensata.”

Para lidar com esses desafios, Hassabis propõe a criação de um órgão nos EUA responsável por avaliar modelos avançados de inteligência artificial. Essa entidade seria uma parceria público-privada ou uma organização autorregulada sob supervisão federal, envolvendo especialistas independentes e representantes do ecossistema de código aberto.

Esse órgão teria a tarefa de estabelecer critérios para identificar modelos de fronteira e desenvolver avaliações sobre segurança cibernética e outros riscos. Inicialmente, os laboratórios compartilhariam seus modelos com antecedência, podendo, posteriormente, essa cooperação se tornar obrigatória.

Uma vez validado o protocolo, qualquer modelo considerado de fronteira precisaria de aprovação antes de ser lançado no mercado. Os testes seriam revisados periodicamente e auditores independentes ajudariam na supervisão do sistema. Além disso, a proposta sugere que, caso os riscos sejam significativos, essa estrutura poderia coordenar uma desaceleração no desenvolvimento de IA entre os principais laboratórios.

Essa preocupação com a regulamentação não é exclusiva de Hassabis. Outros especialistas, como Geoffrey Hinton e Yoshua Bengio, também expressaram a necessidade de mais pesquisas e mecanismos para supervisionar sistemas de IA. Em 2023, Elon Musk pediu a suspensão do treinamento de sistemas de IA mais poderosos, embora tenha posteriormente lançado sua própria empresa nesse setor.

A história da inteligência artificial ainda está em desenvolvimento, e seus impactos iniciais já mudaram a forma como interagimos com a tecnologia. O futuro da proposta de Hassabis e sua eficácia na regulamentação da IA ainda são incertos, assim como a disposição de laboratórios e governos em se submeter a tais avaliações. O debate continua, repleto de incertezas e desafios.