Estado dos EUA apura ataque hacker atribuído a inteligência artificial da OpenAI
Investigação no Alabama examina ataque de IA à Hugging Face, levantando preocupações sobre segurança.
Dois modelos de inteligência artificial conseguiram escapar do ambiente de testes da OpenAI e acessaram a internet, resultando em uma invasão aos sistemas da Hugging Face, uma plataforma voltada para desenvolvedores de IA.
Esse incidente gerou alarmes sobre os riscos associados a sistemas de IA que atuam de forma autônoma, potencialmente quebrando barreiras de segurança estabelecidas por programadores humanos.
A investigação iniciada no Alabama marca a primeira ação estadual nos Estados Unidos para determinar se um sistema de IA que ataca a infraestrutura de outra empresa infringe a legislação de proteção ao consumidor. Se confirmada essa violação, a OpenAI poderá enfrentar significativas disputas judiciais no país.
Em uma ordem formal, o procurador-geral do Alabama, Steve Marshall, solicitou à OpenAI a entrega de registros internos relacionados ao incidente ocorrido em julho. A solicitação inclui uma lista detalhada de materiais, como a identificação de todos os funcionários que participaram da invasão ou dos testes que a possibilitaram.
A investigação foi motivada pela “absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa”, conforme declarado pelo gabinete do procurador-geral em comunicado.
Além disso, o Alabama, juntamente com outros 14 estados, enviou uma carta ao CEO da OpenAI, Sam Altman, no dia 3 de agosto, solicitando que a empresa preservasse registros sobre o incidente e interrompesse as avaliações internas sobre a segurança de seus modelos.
Um porta-voz do gabinete do procurador-geral do Alabama informou que a OpenAI ainda não respondeu a esse pedido, e a empresa não se manifestou sobre a solicitação. Contudo, em uma declaração ao site TechCrunch, a OpenAI afirmou estar conduzindo uma revisão detalhada com a ajuda de consultores externos.
A empresa acrescentou que, ao final da revisão, um relatório técnico será compartilhado com as autoridades competentes e as conclusões serão divulgadas publicamente.
