OpenAI impõe novas restrições ao ChatGPT sobre armas e violência para proteger crianças e adolescentes
OpenAI implementa novas restrições no ChatGPT para combater violência e proteger adolescentes.
A OpenAI anunciou a implementação de restrições no ChatGPT, visando limitar respostas relacionadas a armas de fogo e violência. Essas mudanças são parte de um esforço mais amplo para garantir a segurança dos usuários, especialmente adolescentes, e incluem mecanismos para identificar conversas que possam representar risco de violência.
As novas diretrizes foram apresentadas pela empresa como parte de uma revisão de seus procedimentos de segurança. Além de restringir conteúdos sensíveis, a OpenAI está focada em aprimorar a análise do contexto das interações, permitindo uma comunicação mais eficaz de situações ameaçadoras às autoridades competentes. As medidas se aplicam a todos os usuários, com proteções específicas para menores de 18 anos.
Uma das iniciativas destacadas é a criação de um Relatório de Segurança da Comunidade, que reunirá informações sobre a identificação de ameaças e a eficácia das medidas de prevenção. A primeira edição desse relatório está prevista para ser lançada no início de 2027, abrangendo dados do segundo semestre de 2026.
A empresa também revelou que, durante o terceiro trimestre de 2026, foram realizadas mais de 200 comunicações às autoridades policiais em situações consideradas como ameaças graves. Para lidar com casos complexos, a OpenAI conta com especialistas em saúde mental e comportamento, além de considerar a colaboração de familiares e órgãos públicos.
Restrições também atingem usuários adultos
As novas diretrizes não se limitam aos adolescentes. O ChatGPT passará a fornecer respostas menos detalhadas sobre ataques em massa e os responsáveis por esses eventos. Essa medida visa evitar a disseminação de informações que possam facilitar a reprodução de atos violentos ou glorificar os autores.
O sistema irá restringir informações detalhadas sobre os eventos, incluindo dados sobre armas e equipamentos utilizados, bem como comparações sobre os danos causados. A OpenAI argumenta que esse tipo de conteúdo pode transformar os responsáveis em figuras de destaque e fornecer referências que incentivem a imitação.
Entretanto, os usuários ainda poderão discutir os impactos de tais eventos e aprender a reconhecer sinais de risco. As restrições focarão em detalhes operacionais que possam contribuir para o planejamento ou execução de novos ataques.
ChatGPT poderá interromper conversas
Outra mudança significativa é a capacidade do ChatGPT de analisar o contexto das interações. Perguntas que, isoladamente, podem parecer inofensivas, podem adquirir um significado diferente em sequência a mensagens anteriores que indiquem intenção violenta. Assim, a empresa pretende aprimorar os mecanismos que levam em conta conversas recentes para decidir quando limitar informações potencialmente prejudiciais.
Se o sistema detectar sinais de obsessão por violência ou intenção de ferir alguém, poderá encerrar automaticamente a conversa. Essa abordagem visa interromper interações preocupantes, e, em casos de reincidência, a conta do usuário pode ser temporariamente suspensa.
Adolescentes terão limites adicionais sobre armas
Para usuários com menos de 18 anos, as restrições serão ainda mais rigorosas. Mesmo que uma pergunta sobre armas não apresente sinais claros de intenção violenta, o ChatGPT limitará o acesso a informações práticas que possam ser mal utilizadas. Essa mudança reforça as proteções já existentes para essa faixa etária.
As regras anteriores já proíbam a oferta de orientações para planejamento ou execução de atos violentos. Agora, também serão limitadas informações sobre armamentos e sistemas de segurança que possam facilitar a violência, mesmo que a conversa não sugira uma intenção explícita de causar danos.
Os adolescentes ainda poderão usar o ChatGPT para buscar informações sobre prevenção da violência e apoio, assim como formas de se conectar com adultos de confiança. A distinção será feita entre conteúdos que ajudam a compreender ou evitar situações perigosas e orientações práticas que possam facilitar ações violentas.
A OpenAI utiliza um sistema de previsão de idade que considera sinais de comportamento durante o uso da plataforma. A empresa afirma ter aprimorado essa ferramenta para identificar continuamente novos sinais e direcionar usuários que possam ser menores de 18 anos para uma experiência com proteções específicas.
Controles parentais também serão ampliados
As mudanças incluem a ampliação dos controles parentais, permitindo que responsáveis vinculem suas contas às de adolescentes para gerenciar configurações de segurança. Nas contas conectadas, a OpenAI já prevê alertas em casos de preocupações graves relacionadas a comportamentos de risco.
Em julho de
