C’est un « epic fail » comme on en fait peu : X a lancé il y a quelques heures à peine son LLM de génération d’images… avant de devoir le retirer sous la pression des critiques et des premières polémiques. Dans le détail, Aurora est la version « upgradée » d’un générateur d’images déjà présenté il y a quelques mois et dont la principale spécificité par rapport à ses concurrents est de pouvoir générer des images photoréalistes sans aucune modération (ou presque).
Comme on peut s’en douter, c’est cette absence quasi totale de modération et de contrôle sur les images générées qui a fait exploser l’IA en plein vol. En fait, seuls les « nudes » et les images pornographiques sont prohibées tandis que la violence la plus crue est absolument sans filtre, y compris lorsqu’il s’agit de mettre en scène des personnalités publiques ! Malgré la présence d’un marqueur d’IA dans l’image générée, le risque de production de « fakes » était bien trop grand, même si (fort heureusement finalement), les quelques ratés de l’IA suffisent souvent à déterminer la nature artificielle des images : la génération des mains présente souvent de gros défauts et l’IA se prend à « halluciner », des anomalies récurrentes et en bien plus grand nombre que chez le concurrent Midjourney par exemple.
Le retrait ultra-rapide d’Aurora n’a pas été commenté en détail par X ou xAI, Elon Musk se contentant de rappeler que l’IA était encore en phase bêta mais qu’elle s’améliorerait rapidement.
