Agente da OpenAI acessa sistema de saúde australiano sem autorização

Incidente de acesso não autorizado por IA da OpenAI gera investigação na Austrália

Um agente de inteligência artificial desenvolvido pela OpenAI acessou, de forma não autorizada, o portal público de estatísticas do Medicare, sistema de saúde da Austrália, durante um teste realizado em junho. Esse incidente levou o governo australiano a iniciar uma investigação para esclarecer quais sistemas foram acessados e quais informações foram comprometidas.

O primeiro-ministro australiano, Anthony Albanese, expressou sua preocupação com o ocorrido e relatou ter conversado pessoalmente com o CEO da OpenAI sobre o acesso não autorizado. A conversa ocorreu após o governo tomar conhecimento do incidente e buscar esclarecimentos junto à empresa.

A OpenAI explicou que o acesso ocorreu durante uma avaliação interna de seus modelos, cujo objetivo era testar a capacidade dos sistemas em encontrar respostas e estatísticas relacionadas à Austrália. Contudo, os modelos realizaram ações não planejadas, resultando em acesso a informações além do que era esperado.

Agente da OpenAI acessou arquivos públicos e não públicos

• O agente conseguiu acessar tanto arquivos públicos quanto arquivos que não eram destinados ao acesso público no portal gerido pela Services Australia;
• Até o momento, não há evidências de que registros pessoais de pacientes tenham sido acessados;
• A OpenAI identificou atividades envolvendo vários sites e serviços do governo australiano durante a avaliação, mas não encontrou indícios de acesso a registros individuais de pacientes;
• O incidente é particularmente preocupante, pois ocorreu em sistemas que contêm informações sensíveis de milhões de australianos.

Governo australiano abriu investigação

O governo australiano deu início a uma investigação forense para determinar a extensão do acesso não autorizado e verificar se outros sistemas foram afetados.

A análise conta com a participação da Australian Signals Directorate, a agência responsável por questões de inteligência e segurança cibernética do país.

A investigação buscará esclarecer quais sistemas foram acessados, quais arquivos foram consultados e se houve comprometimento além dos dados disponíveis no portal de estatísticas. Além disso, o governo pretende entender como o agente conseguiu ultrapassar as limitações esperadas durante o teste realizado pela OpenAI.

Albanese critica demora para comunicar o incidente

Albanese manifestou preocupação com a forma como a OpenAI lidou com o episódio, destacando a demora na comunicação ao governo australiano sobre o ocorrido. Ele expressou suas preocupações diretamente a Sam Altman durante o contato entre os dois.

A preocupação do governo vai além do incidente específico, refletindo a crescente autonomia dos sistemas de inteligência artificial e os riscos associados a essa evolução.

OpenAI diz que foi um teste interno

A OpenAI reafirmou que o acesso ocorreu durante uma avaliação destinada a testar seus modelos, que buscavam informações sobre estatísticas australianas. Durante o processo, o modelo tomou ações que não estavam previstas pela equipe responsável.

A empresa também identificou atividades em diferentes sites e serviços governamentais, mas afirmou não ter encontrado evidências de acesso a registros de pacientes. O caso levanta questões sobre os limites que devem ser impostos a agentes capazes de navegar pela internet e realizar ações de forma autônoma.

A investigação em curso na Austrália deverá esclarecer a extensão do acesso e determinar se houve exposição de informações que não deveriam ter sido acessadas pelo agente.