OpenAI déploie plusieurs modifications dans le fonctionnement de son chatbot ChatGPT. Ces changements visent à encourager une utilisation plus équilibrée et responsable de l’intelligence artificielle.
Des rappels pour éviter une utilisation pousée
Dès aujourd’hui, ChatGPT intègre des rappels bienveillants qui informent les utilisateurs du temps passé sur la plateforme. Ces notifications incluent également des suggestions de pauses régulières. OpenAI dit ne pas mesurer son succès par le temps d’utilisation, mais plutôt par la capacité des utilisateurs à quitter le service une fois leurs objectifs atteints.
« Nous développons ChatGPT pour vous aider à prospérer dans tous les domaines que vous souhaitez. Pour progresser, apprendre quelque chose de nouveau, ou résoudre un problème, puis retourner à votre vie. Notre objectif n’est pas de retenir votre attention, mais de vous aider à bien l’utiliser », explique OpenAI.
Cette approche marque un changement dans l’industrie technologique, où les entreprises cherchent traditionnellement à maximiser l’engagement des utilisateurs.
Des réponses plus nuancées aux questions sensibles
OpenAI travaille également sur l’amélioration des réponses de ChatGPT concernant certains types de questions délicates. Plutôt que de fournir une réponse directe aux interrogations importantes et sensibles, le chatbot aidera désormais les utilisateurs à peser le pour et le contre avant de prendre une décision.
L’entreprise mettra à jour prochainement le comportement de ChatGPT pour les décisions personnelles importantes. Les utilisateurs verront donc des réponses plus utiles pour des questions comme « Dois-je rompre avec ma copine ? ».
Parallèlement, OpenAI améliore ses modèles pour mieux détecter les signes de détresse mentale ou émotionnelle. Cette démarche vise à s’assurer que ChatGPT n’alimente pas les signes de délire ou de dépendance émotionnelle, tout en orientant les utilisateurs vers des ressources fiables et fondées sur des preuves scientifiques.
L’entreprise d’intelligence artificielle a collaboré avec plus de 90 médecins répartis dans 30 pays pour élaborer des critères personnalisés destinés aux conversations complexes et multi-tours. Des chercheurs spécialisés en interaction homme-machine ont été recrutés pour évaluer la capacité de ChatGPT à identifier les comportements préoccupants et tester la robustesse des mesures de protection. En outre, OpenAI constitue un groupe consultatif d’experts en santé mentale, développement des jeunes et interaction homme-machine.
