Anthropic sinaliza ao governo Trump os perigos cibernéticos decorrentes de modelos avançados de IA
Anthropic alerta sobre riscos cibernéticos de modelos avançados de IA
A Anthropic intensificou seus alertas ao governo dos Estados Unidos sobre os riscos cibernéticos associados aos modelos mais avançados de inteligência artificial. A empresa argumenta que sistemas recentes demonstram capacidade suficiente para identificar vulnerabilidades de software e auxiliar na execução de ataques digitais em larga escala.
Esse tema ganhou destaque após os testes realizados com o modelo de segurança chamado Mythos. A companhia enfatiza que a evolução dos sistemas exige uma atenção crescente das autoridades, especialmente em áreas consideradas críticas para a segurança nacional.
Executivos da Anthropic têm defendido a implementação de mecanismos de avaliação e monitoramento mais rigorosos para modelos que realizam tarefas complexas relacionadas à segurança cibernética. Eles acreditam que a velocidade da evolução tecnológica requer atualizações frequentes nos parâmetros regulatórios.
O posicionamento da Anthropic ocorre em meio a divergências dentro da indústria de inteligência artificial. Enquanto algumas empresas defendem a imposição de regras mais rígidas para sistemas avançados, outras alertam que exigências excessivas podem comprometer a competitividade dos Estados Unidos em relação à China.
A Anthropic argumenta que a discussão não se limita à segurança futura, pois modelos atuais já demonstram habilidades que podem ser exploradas para acelerar a descoberta de falhas em softwares e sistemas corporativos. A empresa tem investido em avaliações específicas para medir o potencial de uso indevido de seus modelos, reforçando a necessidade de mecanismos de proteção mais robustos.
O debate ocorre em um contexto de crescimento acelerado dos investimentos em IA generativa e aumento das preocupações com ataques digitais apoiados por ferramentas automatizadas. Empresas de tecnologia, órgãos governamentais e especialistas em segurança discutem como equilibrar inovação e mitigação de riscos à medida que os modelos se tornam mais capazes.
A Anthropic defende a criação de estruturas que permitam acompanhar a evolução das capacidades dos sistemas sem impedir o desenvolvimento tecnológico, especialmente em áreas consideradas estratégicas para a economia e a segurança dos Estados Unidos.
