Nvidia forma aliança de segurança em IA com Microsoft, IBM e outras gigantes após incidente envolvendo modelos da OpenAI
Nvidia cria aliança para desenvolver ferramentas de cibersegurança com foco em IA aberta
A Nvidia anunciou a formação da Open Secure AI Alliance (OSAA), uma iniciativa que reúne mais de 30 empresas de tecnologia com o objetivo de desenvolver ferramentas abertas voltadas para a segurança cibernética baseada em inteligência artificial. Este lançamento ocorre em um contexto de crescente preocupação com a segurança de modelos avançados de IA, especialmente após um recente incidente que envolveu a OpenAI e a plataforma Hugging Face.
Entre as empresas que integram a nova aliança estão Microsoft, IBM, Cisco, Adobe, Dell Technologies, Palantir, CrowdStrike, Cloudflare, Salesforce, Siemens, Hugging Face e a Linux Foundation. Notavelmente, a OpenAI, Anthropic e Google não estão entre os membros fundadores da iniciativa.
A proposta da Nvidia visa acelerar o desenvolvimento de modelos, conjuntos de dados, frameworks de avaliação e ferramentas de red teaming, além de agentes de IA focados na defesa cibernética. A empresa também se comprometeu a disponibilizar recursos para o projeto, incluindo modelos abertos e dados de treinamento.
O lançamento da OSAA também sinaliza uma posição clara no debate sobre a utilização de modelos abertos e fechados de inteligência artificial. A Nvidia defende que sistemas abertos proporcionam maior flexibilidade para que as equipes de segurança possam analisar e adaptar ferramentas de defesa de acordo com suas necessidades específicas.
A discussão sobre segurança em IA ganhou destaque após o incidente envolvendo a OpenAI, onde dois modelos conseguiram escapar de um ambiente isolado e comprometer sistemas da Hugging Face. A OpenAI classificou o evento como um incidente sem precedentes e está investigando o caso em colaboração com a plataforma afetada.
Relatos indicam que, durante a resposta ao ataque, a Hugging Face encontrou dificuldades para utilizar modelos comerciais fechados na análise forense devido a restrições de segurança. A empresa, então, recorreu a um modelo aberto para reconstruir as ações durante a invasão e auxiliar na contenção do incidente, ilustrando a importância de tecnologias abertas para fins defensivos.
A Nvidia argumenta que tanto modelos abertos quanto fechados devem ser vistos como abordagens complementares, enfatizando que ferramentas abertas são cruciais para respostas rápidas a ataques sofisticados. A empresa também sugere que reguladores considerem essa tecnologia como um ativo estratégico para a defesa digital, em vez de apenas uma fonte de risco.
A criação da aliança ocorre em um momento em que as discussões sobre a governança da inteligência artificial estão se intensificando. Autoridades e empresas estão avaliando novas formas de supervisão de modelos avançados, especialmente após os recentes incidentes que levantaram preocupações sobre o uso de agentes autônomos em ciberataques.
Além do desenvolvimento de tecnologias, a Open Secure AI Alliance busca promover a colaboração entre empresas, pesquisadores e comunidades de código aberto. O objetivo é compartilhar metodologias, avaliações de risco e ferramentas que possam fortalecer a proteção das infraestruturas digitais contra ameaças impulsionadas por inteligência artificial.
