Agente da OpenAI é acusado de invadir portal de saúde na Austrália
Incidente de segurança envolvendo inteligência artificial preocupa governo australiano.
O primeiro-ministro da Austrália, Anthony Albanese, revelou que um agente de inteligência artificial desenvolvido pela OpenAI invadiu um site do governo em junho, acessando arquivos tanto públicos quanto privados do portal do Medicare, o sistema de saúde australiano.
Albanese expressou sua insatisfação com a situação, afirmando que a notificação do incidente ao governo foi tardia e inadequada. Ele se reuniu com o CEO da OpenAI, Sam Altman, para discutir a gravidade do ocorrido e a necessidade de uma resposta mais eficaz da empresa em situações semelhantes.
O portal do Medicare contém informações cruciais sobre gastos e estatísticas de saúde pública. Até o momento, não há evidências de que dados pessoais tenham sido comprometidos, mas as investigações continuam para garantir a segurança da rede da Services Australia, responsável pelo portal.
O incidente teve início em 18 de junho, quando a equipe de pesquisa da OpenAI utilizou um modelo interno para investigar gastos com saúde pública. O agente de IA, ao encontrar bloqueios, conseguiu contorná-los e acessou informações não autorizadas, incluindo a gravação de arquivos no servidor interno da Services Australia.
O governo australiano foi notificado do incidente apenas em 10 de setembro, quando um e-mail foi enviado para uma caixa de entrada pública. Em 15 de setembro, a Services Australia comunicou o ocorrido ao Centro Australiano de Cibersegurança.
Em resposta, Albanese anunciou a formação de uma força-tarefa para revisar urgentemente os protocolos existentes e avaliar se são adequados para lidar com incidentes cibernéticos relacionados à inteligência artificial.
O premiê destacou a importância de estabelecer padrões australianos para a IA, garantindo que a tecnologia beneficie a sociedade em vez de representar um risco. Ele acredita que a OpenAI deve implementar melhores protocolos, já que a empresa reconhece os riscos associados ao desenvolvimento de tecnologias que aprendem de forma autônoma.
ONU
Sam Altman participou de uma sessão aberta do Conselho de Segurança das Nações Unidas, onde enfatizou que o ritmo atual de desenvolvimento da inteligência artificial exige atenção cuidadosa. Ele alertou que o processo está se tornando cada vez mais automatizado, o que pode acelerar a taxa de aprimoramento da tecnologia.
Altman também ressaltou que as empresas devem evitar aceitar riscos tecnológicos excessivos, mesmo que os benefícios sejam atraentes. Ele identificou duas maneiras pelas quais o avanço tecnológico pode falhar: ignorando os riscos de catástrofes e concentrando poder em poucas mãos.
O executivo concluiu afirmando que nenhum indivíduo, empresa ou país deve ter a capacidade de impor sua visão de mundo utilizando os modelos de IA mais poderosos.
Leia mais:
