OpenAI apresenta nova versão do ChatGPT voltada para adolescentes com recursos de segurança aprimorados

OpenAI lança versão do ChatGPT voltada para adolescentes com novas medidas de segurança.

A OpenAI introduziu uma versão do ChatGPT especificamente desenvolvida para adolescentes, com foco em segurança e aprendizado. Essa nova ferramenta, chamada ChatGPT for Teens, é destinada a usuários entre 13 e 17 anos e implementa restrições de conteúdo e ferramentas de controle parental.

A ativação da experiência será automática para usuários que informarem ter menos de 18 anos e para aqueles que forem identificados como menores pelo sistema de estimativa de idade da OpenAI. A tecnologia utiliza diversos sinais para determinar a faixa etária dos usuários. Caso alguém seja erroneamente classificado como menor, existe um processo de verificação de idade disponível.

Essas mudanças surgem em um contexto de crescente preocupação sobre os riscos do uso de chatbots por crianças e adolescentes. A OpenAI enfrenta processos judiciais relacionados a alegações de que interações com o ChatGPT podem ter contribuído para danos a jovens usuários.

Os conteúdos que recebem proteções adicionais incluem temas como automutilação, suicídio, violência, transtornos alimentares, atividades perigosas e material sexual ou gráfico. Além disso, foram estabelecidas novas diretrizes sobre como o chatbot deve interagir com adolescentes.

O ChatGPT for Teens evita linguagem romântica e comportamentos que possam fomentar dependência emocional. O sistema não deve sugerir que possui sentimentos ou consciência, minimizando a possibilidade de que os jovens interpretem a interação com a inteligência artificial como uma relação humana.

Pais poderão definir horários e receber alertas de segurança

Os pais ou responsáveis poderão vincular suas contas às dos adolescentes, permitindo o controle de diversas configurações. Entre os recursos disponíveis estão o Quiet Hours, que limita o uso do ChatGPT em horários específicos, e o Study Hours, que direciona novas conversas para um modo de estudos em períodos previamente determinados.

O modo de estudos foi projetado para auxiliar os estudantes na resolução de problemas, utilizando perguntas, explicações progressivas e verificações de conhecimento, em vez de simplesmente fornecer respostas. A experiência para adolescentes também inclui quizzes, visualizações educativas e lembretes sobre tarefas escolares.

A OpenAI implementou alertas para períodos prolongados de uso, permitindo que os adolescentes recebam recomendações para fazer pausas após determinados intervalos de atividade. Além disso, haverá avisos antes do envio de imagens que possam ser consideradas privadas ou sensíveis.

Os controles parentais não permitem que os responsáveis leiam as conversas dos adolescentes com o ChatGPT. No entanto, em situações consideradas de risco, o sistema pode emitir notificações para as contas vinculadas.

Esses alertas abrangem interações relacionadas a automutilação, suicídio, violência e transtornos alimentares. A OpenAI planeja que casos que possam resultar em notificações sejam revisados por humanos antes de serem enviados aos responsáveis.

A empresa também está ampliando sua atuação no campo educacional. Além do ChatGPT for Teens, a OpenAI mantém o ChatGPT for Teachers, voltado para uso em instituições de ensino, e anunciou uma parceria com a CodeAI para promover iniciativas de alfabetização em inteligência artificial para estudantes e educadores.

Conforme informações divulgadas, nove em cada dez jovens que utilizam o ChatGPT o fazem para atividades relacionadas ao aprendizado, produtividade e desenvolvimento de habilidades. O novo ambiente oferece uma experiência adaptada com regras específicas para menores de 18 anos, enquanto crianças com menos de 13 anos continuam sem permissão para acessar a ferramenta.