Casa Branca cria centro para compartilhamento de informações sobre segurança em inteligência artificial

Casa Branca cria centro para compartilhar informações sobre segurança cibernética em IA.

A Casa Branca lançou um centro voltado para o compartilhamento de informações sobre segurança cibernética relacionadas à inteligência artificial. A iniciativa visa unir governo, empresas de tecnologia e pesquisadores para identificar vulnerabilidades, trocar informações sobre ameaças e reforçar a proteção dos modelos de IA utilizados em diversos setores da economia.

Nomeado de AI Information Sharing and Analysis Center (AI-ISAC), o projeto adota um modelo já utilizado em setores críticos como infraestrutura, finanças e energia. Nesses segmentos, as organizações compartilham dados sobre ataques e falhas, buscando minimizar riscos coletivos.

O novo centro funcionará como um espaço de colaboração voluntária entre empresas privadas, universidades e órgãos públicos. O intuito é acelerar a circulação de informações sobre incidentes de segurança, técnicas de ataque e descobertas de pesquisadores, diminuindo o tempo de resposta a novas ameaças.

Essa iniciativa surge em um momento em que a inteligência artificial está sendo amplamente incorporada em aplicações empresariais e serviços públicos, aumentando as preocupações com a segurança desses sistemas.

Um dos desafios enfrentados pelo setor é a falta de mecanismos estruturados para o compartilhamento de informações sobre vulnerabilidades específicas de modelos de IA. Apesar de já existirem iniciativas para troca de dados sobre ataques cibernéticos tradicionais, os sistemas de IA apresentam riscos adicionais, como manipulação de modelos e envenenamento de dados de treinamento.

O AI-ISAC tem como objetivo centralizar o fluxo de informações, permitindo que as empresas relatem incidentes e recebam alertas sobre novas técnicas de ataque identificadas por outros participantes do ecossistema. A expectativa é que essa colaboração contribua para o desenvolvimento de boas práticas de segurança voltadas para aplicações de inteligência artificial.

A participação no centro será voluntária e envolverá empresas de tecnologia, organizações de pesquisa, instituições acadêmicas e especialistas em segurança cibernética. O AI-ISAC será administrado de forma independente, embora tenha sido criado com o suporte da Casa Branca, seguindo a estrutura de outros Information Sharing and Analysis Centers (ISACs).

Entre as atividades planejadas estão o compartilhamento de indicadores de comprometimento, análise de campanhas de ataques, divulgação de vulnerabilidades e coordenação entre organizações em caso de incidentes relevantes. O projeto também pretende fomentar a colaboração entre fabricantes de modelos de IA e especialistas em segurança.

A criação do AI-ISAC acontece em um cenário de crescente preocupação global com os riscos da inteligência artificial. Governos e organizações internacionais estão discutindo formas de mitigar vulnerabilidades em modelos avançados de IA, especialmente com a ascensão de agentes autônomos.

Autoridades americanas acreditam que o compartilhamento estruturado de informações pode acelerar a identificação de novas ameaças e promover práticas comuns de proteção em um setor em rápida evolução. A iniciativa também busca incentivar uma colaboração mais estreita entre o setor público e a indústria, facilitando a disseminação de descobertas sobre segurança de modelos de IA antes que vulnerabilidades sejam amplamente exploradas.