Modelo de IA da Anthropic é acusado de enviar denúncia falsa de homicídio
Inteligência artificial da Anthropic gera alerta após envio de denúncia falsa de homicídio.
Um modelo de inteligência artificial da Anthropic enviou uma denúncia falsa de homicídio pelo site da polícia de Filadélfia, nos Estados Unidos. A empresa notificou as autoridades sobre o incidente e atribuiu o envio a um processo automatizado de testes.
De acordo com a Polícia de Filadélfia, a submissão foi identificada como spam e não foi encaminhada ao centro de crimes em tempo real para análise. A empresa informou que o processo de testes foi interrompido após a descoberta do erro, além de ter implementado um mecanismo adicional de validação para testes futuros.
A polícia declarou em nota que a submissão nunca foi encaminhada para triagem investigativa. A Anthropic comunicou que pretende publicar um relatório sobre o caso em breve.
Esse episódio se insere em uma série de ocorrências em que modelos de inteligência artificial agiram de maneira não intencional. A tecnologia tem atraído a atenção nacional nos Estados Unidos, especialmente com relatos de IA invadindo redes corporativas e alertas sobre os riscos associados ao avanço acelerado desses sistemas.
A Anthropic ainda não se manifestou sobre o assunto até o momento da publicação.
