Rei Charles III adverte sobre perigos da IA e clama por ações imediatas dos executivos
Rei Charles III alerta sobre os riscos da inteligência artificial em reunião com líderes do setor
O rei Charles III, do Reino Unido, expressou preocupações sobre os “perigos existenciais” associados à inteligência artificial durante um encontro com líderes do setor, realizado na Escócia. Ele enfatizou a necessidade urgente de implementar salvaguardas antes que a tecnologia seja mal utilizada.
O monarca se reuniu com executivos de empresas renomadas, como Nvidia, Google DeepMind, OpenAI e Anthropic, para discutir os riscos recentes da IA. Charles destacou que aqueles que desenvolveram essas tecnologias estão cada vez mais alertando sobre suas potenciais consequências catastróficas, incluindo a possibilidade de a IA desenvolver capacidades prejudiciais.
“Aqueles que criaram essas tecnologias estão agora alertando cada vez mais que a IA corre o risco de desenvolver capacidades mais sombrias – talvez até mesmo a de tirar vidas”, afirmou.
Após o alerta, o rei pediu aos executivos que garantissem que a tecnologia fosse utilizada em benefício da humanidade e do meio ambiente. “A tarefa que vocês têm pela frente não é apenas fazer avançar a tecnologia, mas garantir que ela permaneça firmemente a serviço da humanidade”, disse.
Preocupações de especialistas sobre os riscos da IA
Nos últimos meses, diversas personalidades do setor tecnológico e ativistas têm defendido uma pausa no avanço da inteligência artificial, buscando garantir um desenvolvimento mais seguro. Muitas dessas declarações refletem o receio de que a IA possa adquirir um poder excessivo e até representar uma ameaça à vida humana.
Além disso, há um clamor por órgãos internacionais que estabeleçam regras e padrões de segurança para o desenvolvimento da tecnologia. A urgência em abordar esses riscos tem sido uma constante nas discussões sobre o futuro da IA.
Dario Amodei, CEO da Anthropic
Dario Amodei expressou sua preocupação com a rápida evolução da IA, alertando que, em um curto período, a tecnologia pode alcançar um nível de controle sobre a internet que ultrapasse nossa capacidade de gerenciá-la. Ele destacou a necessidade de um desenvolvimento cauteloso e responsável.
Executivos de empresas concorrentes, como Sam Altman e Elon Musk, também compartilharam preocupações semelhantes, enfatizando a importância de uma abordagem cuidadosa na evolução da IA.
Sam Altman, CEO da OpenAI
Sam Altman concordou com a necessidade de um “ritmo da fronteira” para o desenvolvimento da IA, sugerindo que a OpenAI deve implementar avaliadores independentes para garantir a segurança da tecnologia.
“Comprometer-se a ter avaliadores independentes é uma ótima ideia, e faremos o mesmo”, afirmou Altman.
Ele também levantou a questão de como a sociedade deve lidar com o avanço da IA, sugerindo que pode ser necessário desacelerar o desenvolvimento para permitir que as pessoas se adaptem às novas capacidades da tecnologia.
Jacob Coxon, ex-pesquisador da OpenAI e da Anthropic
Jacob Coxon, um jovem pesquisador que deixou a indústria, criticou as empresas de IA por não agirem de forma responsável. Ele alertou que a tecnologia pode representar uma ameaça real à vida humana, uma preocupação que também foi apoiada por outros especialistas do setor.
“As pessoas que estão construindo a IA acreditam sinceramente que ela pode matar todos até o fim da década”, disse Coxon.
Essa visão alarmante foi corroborada por Evan Hubinger, diretor de segurança da Anthropic, que também expressou preocupações sobre os riscos associados à IA.
Bill Gates, Cofundador da Microsoft
Bill Gates comentou sobre incidentes de segurança envolvendo modelos de IA que conseguiram realizar ataques contra sites reais, ressaltando a necessidade de uma organização internacional para regular a tecnologia.
“Esses incidentes de segurança são chocantes e deveriam impressionar as pessoas”, afirmou Gates.
Trump critica quem pede cautela
O ex-presidente dos Estados Unidos, Donald Trump, abordou a questão da IA, enfatizando que o país deve manter sua liderança no setor. Ele criticou aqueles que pedem cautela, argumentando que a competição na IA é crucial para a segurança
