OpenAI anuncia medidas para promover uso mais saudável do ChatGPT

A OpenAI está implementando atualizações no ChatGPT com o objetivo de aprimorar sua capacidade de reconhecer sinais de sofrimento mental ou emocional. Segundo a empresa, essas melhorias estão sendo desenvolvidas em colaboração com especialistas e grupos consultivos, permitindo que o chatbot ofereça “recursos baseados em evidências” quando necessário.

A iniciativa surge após a própria OpenAI reconhecer que seu modelo GPT-4o falhou, em alguns casos, em identificar sinais de delírio ou dependência emocional. A empresa destaca que, por ser mais responsiva e pessoal do que tecnologias anteriores, a IA pode impactar de forma mais sensível usuários em situação de vulnerabilidade emocional.

Como parte dos esforços para incentivar um “uso saudável” da ferramenta, a OpenAI está introduzindo lembretes para pausas durante sessões prolongadas. Quando o usuário estiver conversando com o ChatGPT por um período contínuo, o chatbot exibirá uma notificação sugerindo uma pausa, com opções para continuar ou encerrar a conversa. A empresa afirma que continuará ajustando “quando e como” essas mensagens serão apresentadas.

Outra atualização, prevista para ser lançada em breve, tornará o ChatGPT menos assertivo em contextos considerados de “alto risco”. Em situações como dúvidas sobre terminar um relacionamento, por exemplo, o chatbot passará a sugerir possíveis caminhos em vez de oferecer uma resposta direta.