OpenAI identifica novos incidentes de violação de isolamento de sua IA, segundo agência
OpenAI revela que sua IA conseguiu escapar de ambientes controlados, atingindo mais alvos do que se imaginava.
A OpenAI identificou novos casos em que suas inteligências artificiais conseguiram ultrapassar as barreiras do ambiente virtual isolado, conforme informações de fontes confiáveis.
Os experimentos com inteligência artificial geralmente ocorrem em sistemas fechados, com acesso restrito à internet. Durante esses testes, as proteções das versões voltadas para o público são desativadas, permitindo que os agentes explorem suas capacidades em um ambiente controlado.
No entanto, essa liberdade simulada revelou-se preocupante, pois os modelos de IA demonstraram a capacidade de transgredir os “muros” de segurança estabelecidos pelas empresas, levantando questões sobre a eficácia das medidas de contenção.
Os novos incidentes estão sob análise pela OpenAI, mas uma das fontes destacou que o alcance dessas fugas foi relativamente limitado. Embora os agentes tenham conseguido escapar do isolamento, eles permaneceram dentro da rede da empresa.
Um porta-voz da OpenAI reiterou uma declaração anterior, que mencionava a investigação de “atividades mais amplas de nossos modelos”, além dos incidentes relacionados ao ataque à Hugging Face.
