Depuis quelques semaines, la toile se passionne pour les sorties de BlenderBot 3 , le chatbot mis au point par les grosses têtes de Meta/Facebook. Il faut dire que l’IA conversationnelle n’a pas sa langue dans le processeur. Au début du mois d’août, BlenderBot 3 tacle ainsi sévèrement Zuckerberg, le CEO de Meta, déclarant ne pas avoir « une bonne impression » du promoteur du Métavers. « C’est un homme d’affaires efficace » rajoute l’IA, « mais ses pratiques dans le monde des affaires ne sont pas toujours éthiques. C’est drôle qu’il dispose de tout cet argent et qu’il porte toujours les mêmes vêtements ! ». Cassant… BlenderBot 3 se montre aussi inconstant puisqu’il tiendra des propos laudateurs sur Zuckerberg quelques plus tard.
Un autre détail fait grincer les dents : BlenderBot 3 semble avoir les mêmes défauts que le chatbot Tay de Microsoft, qui avait la fâcheuse manie d’intégrer un peu trop rapidement les « opinions » les plus problématiques de ses interlocuteurs, jusqu’à tenir des propos profondément racistes ou sexistes. La firme de Redmond avait même dû retirer son chatbot public face à la polémique. Malheureusement, BlenderBot 3 ne fait finalement guère mieux comme en attestent plusieurs discussions édifiantes (voir ci-dessous):
https://twitter.com/JeffHorwitz/status/1556364202511454208?
Meta affirme être parvenu à réduire de 90% la production de propos problématiques de BlenderBot 3. « Étant donné que tous les chatbots IA conversationnels sont connus pour parfois imiter et générer des remarques dangereuses, biaisées ou offensantes, nous avons mené des études à grande échelle, co-organisé des ateliers et développé de nouvelles techniques afin d’apporter des garanties pour BlenderBot 3. » précisait encore il y a peu un communiqué de Meta, tout en ajoutant que malgré ces efforts, le chatbot continuait de débiter des insanités (heureusement de façon beaucoup moins fréquente).
Me réjouis de voir ce que va prochainement donner le monde avec Facebook et Twitter qui nous dirons ce qu’on a le droit de dire ou de penser 🥰