EUA impõem bloqueio à IA do Claude e revelam motivos por trás da decisão

Anthropic restringe acesso a modelos de IA após ordem do governo dos EUA.

A Anthropic anunciou que restringiu o acesso a dois de seus modelos avançados de inteligência artificial, em resposta a uma ordem do governo dos Estados Unidos, que expressou preocupações de segurança nacional.

Em comunicado, a empresa informou que recebeu uma diretriz para bloquear os modelos Claude Fable 5 e Claude Mythos 5 para todos os cidadãos estrangeiros, independentemente de sua localização, incluindo funcionários estrangeiros da própria empresa.

O acesso está bloqueado temporariamente para todos os clientes, a fim de garantir conformidade com a ordem.

Esse bloqueio representa uma escalada significativa nas tensões entre a Anthropic e a administração atual. Negociações anteriores sobre o uso da tecnologia da empresa por militares e serviços de inteligência dos EUA não tiveram sucesso.

A restrição pode impactar os planos da Anthropic de realizar uma oferta pública inicial de ações, com uma avaliação estimada em cerca de US$ 1 trilhão. Investidores estão cada vez mais preocupados com os riscos regulatórios e a capacidade da empresa de manter sua liderança tecnológica.

Risco de ataques cibernéticos sofisticados

Os modelos Fable 5 e Mythos 5 são as versões mais recentes da linha Claude. Enquanto o Fable 5 é amplamente acessível ao público, o Mythos 5 é restrito a organizações previamente autorizadas.

O Fable 5 é uma versão limitada do Mythos 5, que a Anthropic decidiu manter fora do alcance do público devido a preocupações sobre suas “capacidades sem precedentes” para identificar vulnerabilidades de software, algumas das quais têm permanecido ocultas por décadas.

Essas capacidades têm sido utilizadas por autoridades dos EUA e empresas selecionadas para corrigir falhas de segurança. Contudo, há receios de que essa tecnologia possa se transformar em uma arma cibernética nas mãos erradas.

Especialistas afirmam que os modelos Mythos poderiam acelerar significativamente ataques sofisticados, especialmente em setores como o bancário, que dependem de sistemas tecnológicos complexos.

A Anthropic identificou um número limitado de falhas conhecidas, classificadas como “vulnerabilidades menores”. No entanto, a empresa argumenta que a retirada de seus produtos não é justificada e que uma regra ampla poderia impedir o lançamento de novos modelos de IA por todos os desenvolvedores do setor.

Conflito em ascensão

A relação entre a Anthropic e o governo dos EUA deteriorou-se ao longo deste ano, especialmente após a recusa da empresa em permitir o uso de seus modelos de IA para vigilância doméstica e sistemas de armas autônomos.

O modelo Claude é amplamente utilizado pelo Pentágono e é o único modelo operando em sistemas do Departamento de Defesa que lidam com informações confidenciais.

Como resultado, o Pentágono incluiu a Anthropic em uma lista de empresas consideradas um risco para cadeias de fornecimento, o que poderá restringir seus contratos federais.

Recentemente, uma ordem executiva foi assinada, exigindo que sistemas de IA avançados sejam avaliados quanto a riscos à segurança nacional antes de sua liberação pública.

Pentágono fala em “segurança nacional”

A diretora de informação do Pentágono afirmou que o Departamento de Defesa prioriza a segurança nacional, enfatizando que algumas questões são mais importantes do que questões comerciais.

A Anthropic, que apresentou um pedido confidencial para abertura de capital, está à frente de rivais na corrida para acessar os mercados públicos.

O CEO da Anthropic expressou apoio ao bloqueio governamental de softwares de IA potencialmente perigosos, mas destacou a necessidade de critérios claros e procedimentos transparentes, o que, segundo ele, não está sendo seguido atualmente.

A ordem do governo foi considerada “incomumente ampla”, podendo afetar funcionários da Anthropic em países aliados.

É importante notar que vários membros-chave da Anthropic, incluindo cofundadores e pesquisadores, nasceram fora dos Estados Unidos, e não está claro se eles são cidadãos americanos ou se correm o risco de perder acesso aos modelos de IA.