Com o objetivo de promover um uso mais saudável de inteligência artificial (IA), a OpenAI liberou uma atualização que traz algumas novidades interessantes. Uma delas vai notificar os usuários que estão passando muito tempo interagindo com o chatbot da empresa.
Assim como já ocorre em algumas plataformas de redes sociais, o ChatGPT vai notificar pessoas que estão em sessões muito longas e recomendar um período de descanso. A ideia é melhorar o sistema de alertas para torná-lo cada vez mais natural e funcional com o passar do tempo.
“A partir de hoje, você verá lembretes discretos durante sessões longas para incentivar pausas. Continuaremos ajustando quando e como eles aparecem para que pareçam naturais e úteis”, disse a empresa em comunicado.
A companhia reconheceu que em um upgrade lançado no início deste ano tornou as interações com o chatbot “excessivamente” agradáveis. Em muitos casos, o modelo, ao invés de dizer algo realmente útil, estava apresentando respostas apenas para satisfazer o usuário — o que é um problema em casos sensíveis.
Para realmente auxiliar as pessoas que precisam de ajuda, principalmente no âmbito psicológico, a OpenAI anunciou que treinou o ChatGPT para responder questões mais profundas com honestidade e fundamento. Tudo isso para evitar que casos em que o modelo falhou em reconhecer “sinais de delírio ou dependência emocional” se repitam.
“Continuamos aprimorando nossos modelos e desenvolvendo ferramentas para detectar melhor os sinais de sofrimento mental ou emocional, para que o ChatGPT possa responder adequadamente e direcionar as pessoas para recursos baseados em evidências quando necessário”.
“Nosso objetivo de ajudar você a prosperar”
Além disso, a empresa anunciou que ajudará seus usuários a lidar com desafios pessoais com uma abordagem diferente. Em pessoas que pensam em terminar relacionamentos amorosos, a plataforma ao invés de gerar uma resposta genérica, vai ajudar em reflexões e ponderar os prós e contras.
A companhia ainda prometeu adicionar novos comportamentos para lidar com decisões e escolhas pessoais de alto risco, mas não ofereceu muitos detalhes.
“Nosso objetivo de ajudar você a prosperar não mudará. Nossa abordagem continuará evoluindo à medida que aprendemos com o uso prático. Nos submetemos a um teste: se alguém que amamos recorresse ao ChatGPT em busca de apoio, nos sentiríamos seguros? Chegar a um ‘sim’ inequívoco é o nosso trabalho”.
