Professor perde dois anos de trabalho no ChatGPT por confiar na inteligência artificial

Professor perde dois anos de pesquisa devido a configuração do ChatGPT

Marcel Bucher, professor de ciências vegetais na Universidade de Colônia, enfrentou uma perda devastadora em sua carreira acadêmica. Em um incidente que destaca os riscos do uso de inteligência artificial, uma simples alteração nas configurações do ChatGPT Plus resultou na exclusão permanente de sua estrutura de pesquisa e ensino.

Bucher utilizava a ferramenta como um assistente essencial em suas atividades, incluindo revisão de publicações, análise de provas e organização de pedidos de financiamento. Ele confiava na continuidade de seu espaço de trabalho até que decidiu testar uma opção de privacidade, o que desencadeou uma série de eventos catastróficos.

O clique fatal e a “página em branco”

O que ocorreu não foi um erro técnico, mas sim uma consequência direta de uma configuração de dados. Ao tentar verificar a acessibilidade total do modelo sem fornecer dados para o treinamento da IA, Bucher desativou o “consentimento de dados”.

• Com essa ação, o histórico de chats foi deletado instantaneamente.
• Pastas de projetos foram esvaziadas, levando ao desaparecimento de dois anos de trabalho estruturado. Não houve nenhum aviso ou opção de desfazer a ação.
• A OpenAI confirmou que os dados foram excluídos de forma permanente, tornando impossível a recuperação das informações perdidas.

O alerta: IA não segue padrões acadêmicos de segurança

A experiência de Bucher serve como um alerta crucial para pesquisadores e profissionais que utilizam IA generativa em suas atividades. Ela ressalta uma fragilidade significativa: ferramentas como o ChatGPT são ágeis e adaptáveis, mas não foram desenvolvidas com os padrões acadêmicos necessários de confiabilidade e responsabilidade.

“Se um único clique pode apagar irrevogavelmente anos de trabalho, o ChatGPT não pode ser considerado completamente seguro para uso profissional”, observa Bucher.

A ironia é que a OpenAI seguiu suas rigorosas políticas de privacidade ao interpretar a retirada do consentimento de dados como um pedido para excluir imediatamente as informações do usuário. Para a empresa, isso representou o cumprimento de um compromisso com a privacidade; para o professor, foi um desastre que comprometeu sua carreira.