Jensen Huang critica dilema entre velocidade e segurança da IA como falsa escolha
Debate sobre os riscos da inteligência artificial marca o Dreamforce 2023
O Dreamforce, conferência anual da Salesforce realizada em São Francisco, trouxe à tona um debate acalorado sobre as direções opostas que o setor de inteligência artificial (IA) pode tomar em relação aos seus riscos. Em um keynote que atraiu cerca de 12 mil participantes, Dario Amodei, CEO da Anthropic, defendeu a desaceleração do avanço dos modelos de IA, enquanto Jensen Huang, fundador e CEO da Nvidia, considerou essa dicotomia uma “falsa escolha”.
Durante a apresentação, Amodei fez referência ao ensaio “We Must Pace the Frontier”, publicado recentemente, e utilizou uma analogia da indústria automotiva para ilustrar seu ponto de vista. Ele argumentou que, em caso de incidentes de segurança, a resposta mais responsável é olhar para dentro da própria empresa antes de criticar a concorrência. Amodei enfatizou que a transparência e o investimento em segurança são essenciais para o progresso do setor.
O plano apresentado por Amodei consiste em três etapas: aumentar a transparência e os investimentos em segurança, estabelecer padrões comuns na indústria e buscar coordenação internacional, sem comprometer a competitividade dos Estados Unidos na corrida pela IA. Ele acredita que esse é o caminho para melhorar o setor como um todo.
A proposta de Amodei recebeu apoio de figuras influentes na indústria, como Sam Altman, CEO da OpenAI, Elon Musk, CEO da SpaceX, e Demis Hassabis, presidente do Google DeepMind. Essa confluência de opiniões surge em um momento em que pesquisadores da própria área alertam sobre os riscos potenciais da IA, que podem levar a danos catastróficos.
Em resposta ao mesmo debate, Huang, da Nvidia, argumentou que é possível avançar em ambas as frentes: inovação e responsabilidade. Ele incentivou as desenvolvedoras a agir com rapidez, mas também a parar e garantir a segurança do produto caso sintam que a situação está fora de controle.
Em coletiva de imprensa, Marc Benioff, CEO da Salesforce, foi questionado sobre sua posição em relação às visões de Amodei e Huang. Ele preferiu não tomar partido, afirmando que a escolha entre cautela e confiança depende das circunstâncias enfrentadas pelas empresas. Benioff destacou a importância de que as empresas sejam responsabilizadas por suas decisões, independentemente da velocidade com que decidam operar.
A divergência de opiniões entre os executivos não impediu colaborações comerciais. No mesmo dia, Salesforce e Nvidia anunciaram um novo modelo de raciocínio para a plataforma Agentforce, enquanto a parceria entre Salesforce e Anthropic foi ampliada com o lançamento do Claudeforce, um recurso que permite acesso a dados da Salesforce via chatbot Claude.
Esse episódio evidencia uma disputa contínua que começou em 2025, quando Huang criticou a interpretação de Amodei sobre o impacto da IA no emprego. A Anthropic respondeu às alegações de Huang, reafirmando que Amodei não defendia que apenas a própria empresa deveria desenvolver IA de forma segura.
