Moonshot restringe funcionalidades de seu modelo de IA avançado para prevenir ataques cibernéticos
Moonshot AI reduz capacidades de seu novo modelo para evitar abusos em cibersegurança.
A startup chinesa Moonshot AI anunciou a redução de algumas funcionalidades de seu modelo de inteligência artificial, o Kimi K3.1 Pro. Essa decisão surge em resposta a preocupações sobre o uso da IA para facilitar ataques cibernéticos.
Localizada em Pequim, a empresa classifica o K3.1 Pro como seu modelo aberto mais avançado até agora, permitindo que desenvolvedores externos executem e modifiquem a IA em seus próprios sistemas.
Para prevenir o uso indevido da ferramenta, a Moonshot excluiu dados relacionados a ciberataques do treinamento e dos ambientes de aprendizado por reforço utilizados no desenvolvimento do modelo. Essa estratégia visa proteger as habilidades gerais de programação, ao mesmo tempo em que limita os potenciais abusos.
Os efeitos dessa filtragem foram avaliados por meio de um benchmark interno de cibersegurança, onde o K3.1 Pro obteve 81,0% no teste, em comparação com 90,5% de uma versão anterior que não possuía as novas restrições. O teste consistia em identificar e explorar vulnerabilidades de software em um ambiente controlado.
A empresa ressalta que, embora a filtragem tenha reduzido o desempenho ofensivo do modelo, ele ainda superou seu antecessor em várias métricas. Contudo, os resultados não foram verificados de forma independente.
Moonshot AI reconhece que modelos abertos enfrentam desafios específicos de controle. Diferente de sistemas fechados, como os da OpenAI e Anthropic, a distribuição ampla dos arquivos diminui a capacidade do desenvolvedor original de restringir o acesso e monitorar o uso, tornando mais difícil a atualização das salvaguardas.
Por outro lado, a empresa argumenta que os modelos abertos podem melhorar a segurança digital, permitindo que mais organizações inspecionem e protejam seus próprios softwares, especialmente aqueles que são antigos e frequentemente negligenciados.
A preocupação com o uso de IA em ciberataques também levou a iniciativas regulatórias. Recentemente, a China propôs controles de exportação que proibiriam o envio de tecnologias de geração de malware baseadas em IA para o exterior, além de restringir ferramentas de descoberta de vulnerabilidades assistidas por inteligência artificial.
Essas medidas refletem o risco de que tais tecnologias possam ser utilizadas contra infraestrutura crítica, sistemas de defesa industrial e governamentais, ou para contornar proteções de segurança existentes.
