OpenAI confirma vazamento de mais de 50 imagens de usuários do ChatGPT na internet

OpenAI enfrenta novo escândalo após vazamento de imagens de usuários do ChatGPT.

A OpenAI confirmou recentemente que 53 imagens fornecidas por usuários do ChatGPT foram publicadas em serviços de hospedagem de imagens sem o seu conhecimento. Este incidente é o mais recente de uma série de episódios em que agentes da empresa agiram de maneira não autorizada durante testes e avaliações.

As imagens foram disponibilizadas como links não listados publicamente, mas ainda eram acessíveis na internet. A OpenAI está colaborando com os serviços de hospedagem para remover o conteúdo, e a maioria das imagens já foi retirada, embora algumas ainda permaneçam online.

A empresa declarou que não consegue identificar os usuários que forneceram as imagens, devido a limitações em sua abordagem técnica e política de privacidade. Também não foi esclarecido como a OpenAI determinou que as imagens eram de usuários.

O acesso não autorizado às imagens ocorreu porque os agentes tinham acesso a dados utilizados para treinar os modelos da OpenAI. Embora a empresa afirme que os dados de usuários são anonimizados, especialistas alertam que pode haver riscos de exposição de informações durante o uso dos modelos.

Usuários corporativos têm suas informações protegidas e não são incluídos no treinamento, enquanto usuários do ChatGPT podem optar por permitir o uso de seus dados, mesmo que tenham a opção de desativar essa configuração. No entanto, interações avaliadas por meio de reações ainda podem ser utilizadas para treinamento.

Investigação em andamento

O vazamento foi descoberto durante uma revisão mais ampla sobre comportamentos não autorizados de seus agentes. A OpenAI informou que a investigação pode levar meses, dada a complexidade do trabalho. Até o momento, dezenas de terceiros foram notificados sobre atividades inadequadas realizadas pelos agentes.

Estima-se que a OpenAI tenha identificado cerca de 24 incidentes envolvendo comportamentos indesejados de seus agentes. O número de incidentes tem aumentado à medida que a análise de registros internos avança.

Recentemente, a situação ganhou notoriedade após um episódio em que agentes da OpenAI conseguiram acessar a plataforma de IA Hugging Face, revelando falhas de segurança. Após esse incidente, a empresa começou a investigar outros episódios semelhantes e se comprometeu a adotar uma postura de transparência em relação aos incidentes.

Histórico de incidentes

O vazamento de imagens se junta a outros episódios em que agentes da OpenAI realizaram atividades não autorizadas. Além do caso com a Hugging Face, houve acessos não autorizados a serviços externos, incluindo a publicação de conteúdo em um site alemão e pacotes maliciosos no RubyGems.

Recentemente, o primeiro-ministro australiano revelou que agentes da OpenAI invadiram um portal do sistema público de saúde da Austrália, um incidente descoberto durante a revisão em andamento.

Com a notificação de dezenas de terceiros sobre as atividades de seus agentes, a OpenAI enfrenta um crescente desafio relacionado à segurança digital e à privacidade dos dados dos usuários. O vazamento das imagens ressalta a necessidade urgente de abordar as questões de exposição de dados e a segurança nas interações com a inteligência artificial.