Ex-executivo da Anthropic depõe em audiência com gigantes da IA

Nova York debate regulamentação da inteligência artificial com testemunhos de especialistas da área.

O ex-pesquisador da Anthropic, Jacob Coxon, testemunhará nesta segunda-feira (5) em uma audiência do Conselho Municipal de Nova York sobre inteligência artificial (IA). Ele se juntará a representantes de algumas das principais empresas do setor, como Anthropic, OpenAI, Google e Meta.

Coxon foi convidado pela presidente do Conselho Municipal, Julie Menin, que defende a inclusão de denunciantes de empresas de IA nas discussões sobre os riscos associados à tecnologia. Os legisladores de Nova York estão atualmente avaliando um conjunto de projetos de lei que visa estabelecer mecanismos de proteção relacionados ao uso de IA.

Recentemente, Coxon deixou a Anthropic e expressou preocupações sobre a corrida pelo desenvolvimento de sistemas de IA cada vez mais poderosos, alertando que empresas como Anthropic e OpenAI estão “apostando nossas vidas”. Ele confirmou sua participação na audiência.

• A sessão reunirá alguns dos críticos mais destacados da indústria de IA, além de representantes das empresas responsáveis pelo desenvolvimento desses sistemas;
• Além de Coxon, também devem testemunhar Alex Turner, ex-pesquisador do Google DeepMind, e Daniel Kokotajlo, diretor-executivo do AI Futures Project e ex-pesquisador da OpenAI;
• Fontes indicam que Anthropic, OpenAI, Google e Meta enviarão representantes das áreas de políticas públicas e segurança;
• Turner confirmou sua participação, enquanto um porta-voz do Google não comentou. Kokotajlo e representantes das demais empresas não responderam aos pedidos de comentário.

A audiência é parte de um esforço das autoridades de Nova York para aumentar a participação do município na regulamentação da IA. A indústria cresceu rapidamente na cidade, mas muitas regras sobre a tecnologia ainda estão sob a responsabilidade dos governos federal e estadual.

Uma das propostas em análise, patrocinada por Menin, sugere recompensas financeiras para denunciantes. De acordo com a proposta, indivíduos que reportarem violações por empresas de IA poderiam receber uma parte das multas ou penalidades recuperadas pelo governo.

Outros projetos em discussão incluem a possibilidade de ações legais por parte de pessoas afetadas por sistemas de IA e a exigência de validação independente de certos sistemas antes de sua implementação na cidade.

Anthropic, OpenAI e Google concordaram em participar da audiência após o gabinete de Menin sinalizar que poderia emitir intimações se as empresas não comparecessem. A Meta já havia se comprometido anteriormente a participar.

O Conselho Municipal também intimou a unidade de IA da SpaceX após a empresa não responder aos convites para a audiência.