ONU propõe comissão para controle humano da inteligência artificial, mas Estados Unidos rejeitam a ideia

Nova comissão da ONU busca controle humano sobre a inteligência artificial em cúpula na Índia.

Uma nova comissão da ONU foi anunciada para discutir o “controle humano” da inteligência artificial (IA) durante uma reunião de cúpula em Nova Délhi, liderada pelo secretário-geral das Nações Unidas. Essa proposta, no entanto, foi rejeitada pelo governo dos Estados Unidos.

A crescente demanda por IA generativa tem impulsionado os lucros das empresas de tecnologia, mas também gerado preocupações sobre seu impacto social, no mercado de trabalho e na saúde do planeta. O secretário-geral, António Guterres, destacou a importância de abordar esses desafios com fatos e evidências, evitando exageros e medos infundados.

“Estamos entrando no desconhecido”, afirmou Guterres. “A mensagem é simples: menos exagero, menos medo. Mais fatos e evidências”.

Guterres também anunciou a criação de um Painel Científico Internacional Independente sobre Inteligência Artificial, composto por 40 especialistas, com o objetivo de avaliar o impacto da IA e sugerir estratégias de resposta, semelhante ao que o Painel Intergovernamental sobre Mudança Climática faz em relação ao aquecimento global.

O presidente brasileiro alertou que a falta de ação coletiva em relação à IA pode aprofundar desigualdades históricas. Ele enfatizou que os algoritmos não são meras aplicações matemáticas, mas parte de uma estrutura de poder complexa, onde o controle por poucos pode levar à dominação em vez de inovação.

“Quando poucos controlam os algoritmos e as infraestruturas digitais, não estamos falando de inovação, mas de dominação”, afirmou.

O novo órgão consultivo, criado em agosto, visa estabelecer uma governança científica que promova um progresso mais seguro e justo. Guterres defendeu que a compreensão dos limites e capacidades dos sistemas de IA é fundamental para implementar proteções mais eficazes.

O conselheiro de tecnologia da Casa Branca, Michael Kratsios, manifestou a rejeição dos Estados Unidos a uma governança global da IA, afirmando que isso poderia sufocar a inovação. Ele destacou o potencial da IA para promover o crescimento humano e gerar prosperidade.

“Rejeitamos totalmente a governança global da IA”, disse Kratsios. “Acreditamos que a adoção da IA não pode levar a um futuro mais promissor se estiver submetida a burocracias e ao controle centralizado”.

A cúpula em Nova Délhi, a primeira organizada em um país em desenvolvimento, busca impulsionar as ambições da Índia em tecnologia, com expectativas de atrair mais de 200 bilhões de dólares em investimentos nos próximos dois anos. A reunião abordou temas cruciais, como a proteção das crianças e a necessidade de acesso equitativo às ferramentas de IA.

Sam Altman, CEO da OpenAI, enfatizou a urgência de regulamentações sobre o uso da IA, defendendo que a democratização dessa tecnologia é fundamental para o progresso da humanidade.

Os debates na cúpula atraíram milhares de participantes, mas o histórico de declarações vagas em edições anteriores pode dificultar a obtenção de compromissos concretos. O primeiro-ministro indiano, Narendra Modi, destacou a importância de utilizar a IA para o bem comum mundial, afirmando que estamos entrando em uma era de colaboração entre humanos e sistemas de inteligência.

O próximo encontro global sobre política de IA está agendado para Genebra no primeiro semestre de 2027, com a expectativa de que novas diretrizes e compromissos sejam estabelecidos.