Suspeita de acesso chinês ao Mythos leva à decisão de bloqueio pela Casa Branca, afirma fonte
Governo dos EUA impõe restrições ao acesso de modelos de IA da Anthropic devido a preocupações com segurança nacional.
O recente bloqueio imposto pela administração americana aos modelos de inteligência artificial Mythos e Fable 5 da Anthropic gerou discussões sobre a segurança nacional e o acesso de potenciais adversários, como a China, a essas tecnologias avançadas.
No dia 13 de junho, a Casa Branca decidiu restringir o uso desses modelos exclusivamente a cidadãos americanos. Como resultado, a Anthropic optou por retirar os modelos do mercado global. Essa ação foi desencadeada após um alerta do CEO da Amazon sobre possíveis vulnerabilidades que poderiam ser exploradas.
O Mythos, lançado em abril, foi projetado com acesso limitado a um grupo específico de empresas, com o intuito de identificar e mitigar vulnerabilidades de segurança. A preocupação central é que, se o governo chinês obtivesse acesso a essa tecnologia, isso poderia representar um risco significativo à segurança dos Estados Unidos. Além disso, há temores de que a China pudesse tentar replicar o sistema por meio de técnicas de destilação, que envolvem a extração das capacidades do modelo para desenvolver uma versão concorrente.
Não se sabe ao certo como a administração americana tomou conhecimento do suposto acesso chinês, nem qual organização poderia ter viabilizado essa situação.
O conselheiro de IA da Casa Branca, David Sacks, comentou sobre o assunto, revelando que o governo foi alertado sobre a possibilidade de jailbreak do modelo Fable 5. Ao notificar a Anthropic, o CEO Dario Amodei teria minimizado a gravidade da falha e se recusado a implementar correções, priorizando a disponibilidade do modelo ao consumidor em detrimento da segurança.
Sacks afirmou que as restrições foram impostas com relutância e que a responsabilidade agora recai sobre a Anthropic para resolver as preocupações levantadas.
Em resposta, a Anthropic negou que a Casa Branca tenha mencionado o acesso chinês durante as discussões sobre o jailbreak. A empresa reafirmou sua política de proibição de acesso a seus produtos a partir da China, distanciando-se de qualquer implicação de que suas ações foram influenciadas por conflitos anteriores com o governo.
