Bill Gates expressa preocupação com a IA e alerta para potencial de causar 1 bilhão de mortes
Bill Gates alerta sobre os riscos da inteligência artificial e a necessidade de regulamentação.
O discurso sobre os potenciais perigos da inteligência artificial (IA) tem ganhado destaque nas últimas semanas, especialmente após um tuíte viral de um ex-engenheiro da Anthropic. Especialistas, incluindo Bill Gates, têm se manifestado sobre a possibilidade de a IA representar uma ameaça à humanidade.
Em uma recente entrevista, Gates abordou a preocupação de que sistemas de IA possam causar danos em escala sem precedentes. Ele enfatizou a necessidade de mecanismos de supervisão e o papel fundamental que os governos devem desempenhar na regulação dessa tecnologia. Essas ideias foram previamente discutidas em um ensaio que ele publicou, onde alertava sobre os riscos associados ao avanço da IA e a importância de se preparar para suas consequências.
1 bilhão de mortes
O termo “extinção” voltou a ser debatido, com algumas estimativas sugerindo uma probabilidade de 10% de que a IA possa levar à extinção da humanidade na próxima década.
Embora Gates não forneça uma porcentagem específica, ele expressa sua preocupação de que a IA possa ser utilizada de maneira catastrófica, afirmando que “a IA é, sem dúvida, poderosa o suficiente para provocar acontecimentos que causem 1 bilhão de mortes”. Sua principal inquietação reside no uso indevido da tecnologia por indivíduos mal-intencionados, ressaltando que “nunca existiu uma arma tão poderosa quanto a combinação de pessoas com más intenções utilizando as ferramentas de IA mais avançadas”.
A noção de que a IA possa ter um botão de desligamento em caso de comportamento perigoso é uma ideia recorrente. No entanto, Gates argumenta que “não basta ter um interruptor de desligamento”. Para ele, a capacidade de desligar um sistema deve ser uma medida de emergência, e é crucial implementar mecanismos de controle e monitoramento antes que situações adversas ocorram.
A autorregulação não é suficiente
O debate sobre a regulamentação da IA tem se intensificado, com Dario Amodei, CEO da Anthropic, propondo que a melhor forma de desacelerar o desenvolvimento da IA seria através de uma regulamentação que afete todas as empresas do setor de maneira equitativa. Contudo, essa proposta foi interpretada por alguns como uma tentativa de captura regulatória, favorecendo as próprias empresas de IA.
Quando questionado sobre a necessidade de intervenção do governo dos Estados Unidos, Gates foi enfático: “Absolutamente”, afirmando que “ninguém pensa que a autorregulação seja suficiente”. Isso indica sua falta de confiança na capacidade das empresas de gerenciar os riscos associados à IA.
