A OpenAI vai implementar mudanças importantes no ChatGPT com o objetivo de oferecer mais segurança para adolescentes. A partir de outubro, será possível que pais e responsáveis vinculem suas contas às de jovens a partir de 13 anos, criando um sistema de controle parental que permite definir como a ferramenta deve responder a determinadas perguntas. A novidade vem acompanhada de protocolos específicos para identificar sinais de sofrimento emocional e garantir respostas mais adequadas nesses contextos.
A atualização surge após casos em que o uso da tecnologia foi associado a situações de risco, incluindo o relato de um adolescente que manteve centenas de interações relacionadas a pensamentos suicidas sem uma intervenção considerada eficaz. Esses episódios levaram a empresa a acelerar ajustes para que o modelo consiga identificar padrões de linguagem preocupantes e notificar os responsáveis, além de orientar os usuários a procurar apoio especializado.
Entre as mudanças previstas estão opções para limitar o histórico de conversas, desabilitar recursos sensíveis e receber alertas quando o sistema identificar sinais de angústia intensa. A iniciativa também será acompanhada por um Conselho de Especialistas em Bem-Estar e IA, formado por profissionais de saúde mental, pediatras e pesquisadores de comportamento digital. O grupo terá a função de orientar os próximos passos, garantindo que as salvaguardas sejam baseadas em evidências científicas e nas práticas mais recentes de cuidado com adolescentes.
Segundo a OpenAI, essas ações são apenas o começo de uma abordagem mais ampla. Além dos controles parentais, a empresa anunciou que conversas classificadas como sensíveis poderão ser direcionadas a modelos de raciocínio mais avançados, com capacidade de oferecer respostas contextualizadas e de maior apoio. A expectativa é que, com essas mudanças, a interação de jovens com a IA seja não apenas mais segura, mas também mais responsável, reforçando o papel da tecnologia como uma ferramenta que precisa acompanhar de perto as necessidades reais dos usuários.
