C’est sans doute le premier gros « hic » de sécurité pour ChatGPT : plusieurs utilisateurs rapportent en effet que l’historique du service contenait des conversations ChatGPT qui ne les concernaient pas. Pire encore, ces conversations contenaient des informations à priori sensibles, comme une liste de médicaments, un mot de passe accompagné de son identifiant, un projet de recherche pas encore publié, etc. Un gros bug donc, qui apparait en plus de façon soudaine : « Je suis allé faire une requête (dans ce cas, de l’aide pour trouver des noms intelligents pour les couleurs dans une palette) et quand je suis revenu pour y accéder quelques instants plus tard, j’ai remarqué les conversations supplémentaires », a écrit l’un des utilisateurs concernés à l’équipe support d’OpenAI. « Elles n’étaient pas là lorsque j’ai utilisé ChatGPT hier soir (je suis un assez gros utilisateur). Aucune requête n’a été effectuée : elles sont simplement apparues dans mon historique et ne viennent certainement pas de moi (et je ne pense pas non plus qu’elles proviennent du même utilisateur). »
Ce n’est pas la première fois que ChatGPT est mis en défaut sur la sécurité des données. Au mois de novembre dernier, des chercheurs ont publié un article décrivant la façon dont ils avaient utilisé des requêtes afin d’inciter ChatGPT à divulguer des adresses e-mail, des numéros de téléphone, des adresses physiques et d’autres données privées incluses dans le corpus de données utilisé pour entrainer et former le grand modèle de langage ChatGPT. Malgré la gravité potentielle du bug découvert sur ChatGPT, les causes de ce dernier seraient facilement discernables… et corrigibles. Le soucis viendrait probablement des périphériques « middlebox » utilisés pour mettre en cache les données récentes avant de les redistribuer (ce qui permet de gagner en performances). Dans certains cas, ces données en caches sont redistribués au mauvais destinataire. OpenAI a confirmé enquêter sur les causes de ce bug.
Lisez aussi ces autres articles !
Pas d'articles en relation.
