On ne s’en serait pas douté : s’engager avec des chatbots IA pour une conversation romantique ou simplement ludique soulève d’importants problèmes de confidentialité ainsi que l’a révélé le projet « Privacy Not Included » de Mozilla en ce jour de la Saint-Valentin. L’enquête de Mozilla, qui porte sur 11 applications de chatbots « compagnons » ou d’aide à la santé mentale, a révélé une pratique courante : la collecte et la vente des données personnelles des utilisateurs par ces mêmes applications. Cette exploitation de données semble donner une fois de plus raison à l’adage selon lequel si le service est gratuit, l’utilisateur est souvent le produit. L’enquête souligne en outre les coûts cachés liés à l’engagement avec ces entités numériques apparemment inoffensives.
L’enquête de Mozilla montre aussi que ces applications refusent d’assumer la moindre responsabilité concernant les communications des chatbots, et ce quel que soit l’objectif initial affiché qui peut pourtant aller jusqu’au soutien à la santé mentale. Ce manque de responsabilité s’étend malheureusement à la protection de la vie privée des utilisateurs, de nombreuses applications manquant de transparence sur les mesures de sécurité, le cryptage ou même la possibilité pour les utilisateurs de supprimer leurs données.
Au terme de l’enquête, les 11 chatbots examinés ont hérité du label non recommandable de « confidentialité non incluse », un label qui signale des risques potentiels pour la vie privée des consommateurs. Ce label invite en outre les utilisateurs à évaluer leur niveau de crainte envers chaque app (ou produit en général) , tous les chatbots évalués dépassant le seuil « un peu effrayant ».
