OpenAI adicionará controles parentais ao ChatGPT após caso trágico

Após um caso trágico onde um adolescente de 16 anos tirou sua própria vida, depois de meses de desabafos com o modelo, a OpenAI anunciou que vai implementar controles parentais na plataforma.

O recurso será disponibilizado “em breve” e permitirá que pais responsáveis tenham mais percepção e possam influenciar como seus filhos usam a ferramenta.

A empresa também está avaliando recursos como a definição de um contato de emergência que possa ser acionado com “mensagens ou chamadas com um clique” dentro do ChatGPT, além de uma função opcional que permitiria que o próprio chatbot contatasse esses contatos “em casos graves”.

A OpenAI reconhece que suas salvaguardas existentes podem ser menos confiáveis à medida que a conversa se prolonga, onde parte do treinamento de segurança do modelo pode se degradar. A empresa também trabalha em uma atualização do GPT‑5 que permitirá ao ChatGPT desescalar certas situações, mantendo a pessoa conectada à realidade.