ChatGPT alerta autoridades sobre plano de pai para assassinar filho

Pai é preso no Espírito Santo após revelar intenção de matar filho ao ChatGPT

Um homem foi detido no Espírito Santo após confessar sua intenção de matar o próprio filho em uma conversa com o ChatGPT. A prisão ocorreu no dia 19 de junho, um dia antes da data que ele havia escolhido para cometer o crime.

Durante as interações, o pai mencionou ter uma arma, uma corda e veneno, além de planejar atentados em locais públicos. A OpenAI, empresa responsável pelo ChatGPT, afirmou que seus sistemas visam a segurança das pessoas e que este caso exemplifica a importância dessas medidas de proteção.

Quando conversas que indicam um risco iminente são detectadas, a OpenAI pode notificar as autoridades competentes. A empresa utiliza tecnologia avançada para monitorar e classificar interações que possam representar ameaças à segurança.

O homem tentou contratar um pistoleiro, oferecendo R$ 50 mil para matar o filho, mas a proposta foi recusada ao ser revelada a idade da criança. Em mensagens, ele expressou sua vontade de ver outras pessoas sofrerem, levantando questões sobre a origem de tais impulsos violentos.

De acordo com especialistas, assistentes como o ChatGPT realizam monitoramento das conversas, com grande parte da revisão sendo feita por sistemas automatizados. No caso do pai, a gravidade da situação foi elevada devido à identificação de uma vítima específica, métodos e a proximidade da data do crime.

Como o ChatGPT detecta casos suspeitos

A OpenAI utiliza sistemas automatizados para analisar conversas, com modelos de inteligência artificial que categorizam conteúdos e realizam análises contextuais. Esses mecanismos incluem bancos de dados com registros de atividades previamente sinalizadas, como exploração sexual infantil, e listas de termos proibidos.

Se uma conversa é identificada como potencialmente perigosa, ela é encaminhada para moderadores humanos, que avaliam a situação e determinam se houve violação das políticas de uso. Dependendo da análise, a conta do usuário pode ser desativada e as autoridades notificadas.

Recentemente, a OpenAI declarou que está aprimorando seu sistema para rejeitar pedidos que facilitem atos de violência, ao mesmo tempo em que busca distinguir entre perguntas neutras e aquelas que podem indicar comportamentos problemáticos.

Comunicação com autoridades

Embora denúncias a autoridades sejam comuns em redes sociais, casos envolvendo assistentes como o ChatGPT ainda são raros no Brasil. Este foi apenas o terceiro caso desse tipo no país, conforme informações de autoridades locais. A expectativa é que o número de incidentes aumente à medida que mais pessoas utilizem esses sistemas para relatar suas intenções.

Especialistas ressaltam a necessidade de um canal direto entre as autoridades brasileiras e plataformas de inteligência artificial para agilizar investigações em situações de risco. A rapidez na comunicação é crucial, uma vez que a tecnologia pode acelerar a transição entre intenção e ação.

O professor destacou que a notificação do caso foi uma decisão acertada, uma vez que as interações com o ChatGPT não são confidenciais como as de um terapeuta ou advogado. Portanto, não há proteção de segredo profissional nesse contexto.

A investigação foi iniciada após uma denúncia encaminhada pelo FBI ao Ministério da Justiça e Segurança Pública do Brasil, que repassou as informações à Polícia Civil do Espírito Santo. A Delegacia Especializada de Repressão aos Crimes Cibernéticos foi responsável pela prisão do homem, que negou as acusações, mas foi detido com base nas conversas que teve com o ChatGPT.

As autoridades afirmaram que a ação preventiva foi fundamental para evitar um crime grave, ressaltando a eficácia do monitoramento realizado pela OpenAI e a importância da colaboração entre tecnologia e segurança pública.