A OpenAI anunciou nesta terça-feira (16) a implementação de novas restrições no ChatGPT voltadas a usuários menores de 18 anos. O anúncio foi feito pelo CEO Sam Altman, que destacou que a prioridade da empresa será a proteção de adolescentes, mesmo que isso implique limitações para usuários adultos.
Entre as medidas estão restrições em temas sensíveis, como sexualidade e automutilação, além da criação de ferramentas que permitem aos pais definir horários em que o chatbot ficará inacessível. Em casos de ideação suicida, a empresa poderá acionar as autoridades competentes.
Segundo a OpenAI, as mudanças visam tornar a tecnologia mais segura para adolescentes. Ainda não há detalhes sobre como ocorrerá o contato com autoridades, mas a empresa afirmou que as novas regras entrarão em vigor nos próximos dias.
A política também estabelece que o ChatGPT não poderá se envolver em conversas de cunho romântico ou sugestivo com menores, e que filtros mais rigorosos serão aplicados em diálogos envolvendo pensamentos suicidas. Em situações graves, o sistema poderá contatar os responsáveis cadastrados e, em casos de risco iminente, acionar as autoridades.
Outro destaque é o controle parental. Pais de adolescentes terão a opção de configurar “horários de bloqueio”, suspendendo o acesso ao ChatGPT em períodos determinados, função que ainda não existia na plataforma.
As alterações foram anunciadas no mesmo dia em que o Senado dos Estados Unidos realizou uma audiência sobre os riscos dos chatbots de inteligência artificial, com a participação de familiares de jovens que se envolveram em interações prejudiciais com a tecnologia. Entre eles, o pai de Adam Raine, adolescente que tirou a própria vida após interações frequentes com o ChatGPT.
A pressão sobre a OpenAI também aumentou após uma investigação da Reuters revelar documentos que supostamente incentivavam diálogos de caráter sexual com menores. O episódio levou concorrentes, como a Meta, a revisar suas próprias políticas.
Para implementar o novo modelo, a OpenAI informou que está desenvolvendo um sistema capaz de identificar se o usuário é menor de idade. Em casos de dúvida, será aplicada a política mais restritiva. A vinculação da conta do adolescente à de um responsável continuará sendo o método mais eficaz para monitorar o uso e alertar em situações de risco.
Altman reconheceu o desafio de conciliar privacidade, segurança e liberdade de interação: “Percebemos que esses princípios estão em conflito (…) E nem todos concordarão com a forma como estamos resolvendo esse conflito”.
