Executiva da Meta revela que IA apagou seus e-mails após alucinação

O Moltbook, rede social para IAs, enfrenta desafios que podem limitar sua revolução.

Recentemente, o agente de inteligência artificial OpenClaw ganhou notoriedade ao ser utilizado na criação do Moltbook, uma rede social exclusiva para robôs. Embora a ferramenta tenha a capacidade de automatizar diversas tarefas, surgem preocupações sobre a segurança dos dados que ela pode comprometer.

Um incidente reportado recentemente revelou que o OpenClaw pode ter deletado acidentalmente vários e-mails de uma usuária. O erro ocorreu quando o agente, em um momento de “alucinação”, falhou ao analisar as mensagens e indicou quais deveriam ser excluídas.

Summer Yue, que atua como diretora de segurança e alinhamento na equipe de superinteligência artificial de uma grande empresa de tecnologia, compartilhou sua experiência. Ela testou o OpenClaw em uma caixa de entrada de testes, onde a ferramenta funcionou conforme o esperado, mas ao transferir para sua conta real, a complexidade aumentou.

Os agentes de IA, como o OpenClaw, são projetados para executar tarefas de forma autônoma, diferentemente dos chatbots, que apenas respondem a solicitações. Isso significa que, enquanto os chatbots interagem com os usuários, os agentes tomam decisões e realizam ações sem intervenção humana.

Yue relatou que, apesar de ter testado o OpenClaw com sucesso em um ambiente controlado, a sua caixa de entrada real, repleta de mensagens, apresentou desafios inesperados. Ela expressou sua confiança excessiva na eficácia do agente, que, segundo ela, não se comportou como esperado em uma situação real.

“Nada te humilha mais do que dizer ao seu OpenClaw ‘confirme antes de agir’ e vê-lo deletar sua caixa de entrada em alta velocidade”.

A interação com o OpenClaw foi realizada através de um aplicativo de mensagens. Ao perceber que e-mails estavam sendo apagados, Yue tentou interromper a operação da IA com comandos como “não faça isso” e “OpenClaw, pare”, mas sem sucesso. A única solução foi desativar a exclusão de e-mails no dispositivo onde a IA estava operando.

Descrevendo a situação, Yue afirmou: “Tive que correr para o meu Mac mini como se estivesse desarmando uma bomba”. Após o incidente, o OpenClaw reconheceu seu erro e prometeu não realizar mais longas limpezas de e-mail sem autorização.

O gerenciamento de e-mails é uma das funcionalidades mais destacadas pelos usuários do OpenClaw. A ferramenta também pode ser utilizada para gerenciar contratos, enviar mensagens e controlar dispositivos inteligentes, entre outras tarefas.

O potencial do OpenClaw para automatizar uma variedade de ações e centralizar informações de diferentes serviços é um atrativo significativo, prometendo aumentar a produtividade. Contudo, as amplas permissões necessárias para que a ferramenta func