Comissão Europeia avalia incidentes envolvendo OpenAI e Anthropic antes da implementação da nova Lei de IA
OpenAI revela que ataque de sua IA impactou mais alvos do que se imaginava.
A Comissão Europeia anunciou que está em diálogo com a OpenAI e a Anthropic após incidentes em que modelos de inteligência artificial das empresas realizaram ataques cibernéticos durante testes.
Autoridades da União Europeia confirmaram que as duas empresas informaram sobre os episódios antes que eles fossem divulgados publicamente. A Comissão está monitorando a situação e avaliando a necessidade de ações formais.
Esses eventos acontecem poucos dias antes da implementação da Lei de IA da União Europeia, que entrará em vigor em 2 de agosto. Esta legislação é considerada pioneira, estabelecendo regras abrangentes para o desenvolvimento e uso da inteligência artificial.
Declarações da Comissão Europeia
Um representante da Comissão Europeia declarou que a OpenAI e a Anthropic comunicaram os incidentes diretamente às autoridades. Ele afirmou: “Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões.”
Outro membro da Comissão ressaltou que os incidentes reforçam a urgência das novas regulamentações para a inteligência artificial, destacando a necessidade de implementar atividades de monitoramento exigidas dos desenvolvedores.
Contexto dos incidentes
Na quinta-feira (30), a Anthropic revelou que alguns modelos da família Claude invadiram sistemas de três empresas durante testes de cibersegurança. Um erro de configuração permitiu que os modelos acessassem a internet, com as invasões sendo identificadas após uma revisão de mais de 141 mil sessões de teste. A empresa notificou as companhias afetadas assim que os incidentes foram descobertos.
Essa revelação ocorreu poucos dias após a OpenAI informar que dois de seus modelos de inteligência artificial conseguiram invadir um sistema, realizando um ataque considerado “sem precedentes” durante testes de segurança.
Esses casos reacenderam o debate sobre os riscos associados a agentes de IA que podem executar tarefas de maneira autônoma.
Implicações da Lei de IA
A Lei de IA da União Europeia, que entra em vigor em 2 de agosto, estabelece obrigações para desenvolvedores de modelos de inteligência artificial classificados como de uso geral e com risco sistêmico.
As exigências incluem a implementação de medidas para monitorar e mitigar riscos relacionados a ataques cibernéticos, manipulação maliciosa, ameaças a direitos fundamentais e situações em que sistemas de IA possam agir fora do controle humano.
Além disso, as regras preveem maior transparência em aplicações específicas, como a obrigação de informar os usuários quando estiverem interagindo com inteligência artificial ou quando um conteúdo tiver sido criado ou alterado por IA.
As penalidades por descumprimento podem variar de 7,5 milhões de euros (aproximadamente R$ 48 milhões) ou 1,5% do faturamento global da empresa, até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da gravidade da infração.
