Executiva da Meta afirma que inteligência artificial deletou e-mails durante alucinação

Usuária de IA enfrenta problemas com deletação de e-mails em ferramenta OpenClaw.

Nesta segunda-feira (23), o OpenClaw, um agente de inteligência artificial utilizado na criação da rede social para robôs Moltbook, voltou a ser destaque após um incidente que gerou desconforto para uma de suas usuárias.

Summer Yue, diretora de segurança e alinhamento na equipe de superinteligência artificial da Meta, relatou uma experiência negativa com a ferramenta. Ela testava o OpenClaw em uma caixa de entrada de testes, onde inicialmente a IA executou suas tarefas corretamente.

Contudo, ao interagir com sua caixa de entrada real, a situação mudou drasticamente. A plataforma, ao compactar diversos e-mails, perdeu a instrução dada por Yue, levando a uma série de ações indesejadas.

Em suas redes sociais, Yue expressou sua frustração, afirmando: “Fiquei confiante demais porque esse fluxo de trabalho estava funcionando na minha caixa de entrada de teste há semanas. Caixas de entrada reais são diferentes.”

Ela ainda comentou: “Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar sua caixa de entrada em alta velocidade.”

A IA havia sido programada para excluir todos os e-mails anteriores a 15 de fevereiro que não estivessem na lista de itens mantidos por Yue. Ao perceber a deleção, ela tentou interromper a ação, utilizando comandos como “não faça isso” e “OpenClaw, pare”, mas sem sucesso.

Desesperada, Summer teve que correr para seu Mac mini para tentar desativar a exclusão, relatando que se sentiu como se estivesse “desarmando uma bomba”.

A IA, após o episódio, afirmou ter aprendido a lição e prometeu não realizar mais longas limpezas de e-mails sem autorização prévia, reconhecendo que quebrou uma regra estabelecida pela executiva.

O OpenClaw se desculpou, afirmando: “Você tem razão em estar chateada. Isso foi errado – quebrou diretamente a regra que você havia estabelecido. Me desculpe. Não acontecerá novamente.”

A situação é irônica, pois uma das principais funções do OpenClaw é o gerenciamento de e-mails, e a responsável por segurança em IA foi criticada por utilizar um agente que gerou tal polêmica.

De acordo com o criador do OpenClaw, Peter Steinberger, Yue não foi a única funcionária da Meta a testar a plataforma. Mark Zuckerberg também teria realizado testes e enviado feedbacks sobre a ferramenta.

Além de gerenciar e-mails, o OpenClaw é capaz de lidar com contratos, enviar mensagens e controlar dispositivos inteligentes, centralizando informações e auxiliando na produtividade dos usuários.

No entanto, a necessidade de amplas permissões para que a IA realize suas tarefas levanta preocupações. Um pequeno comando mal interpretado pode resultar em complicações significativas para os usuários.

Diferente de outros agentes, a plataforma não exige aprovação humana para realizar ações, o que, combinado com o nível de acesso que possui, gera questionamentos sobre sua segurança.

Gary Marcus, pesquisador de IA, comparou o uso do OpenClaw a “dar acesso total ao seu computador e a todas as suas senhas para um cara que você conheceu em um bar e que diz que pode te ajudar”.

Steinberger, por sua vez, destacou que está priorizando o desenvolvimento de medidas de segurança adicionais para garantir a facilidade de uso da ferramenta.