OpenAI a annoncé la suspension de la génération de vidéos représentant Martin Luther King Jr. sur sa plateforme Sora, en réponse à une demande du domaine légal de l’activiste. Certains utilisateurs ont en effet diffusé des représentations jugées « irrespectueuses » de l’activiste des droits civiques. Comme l’indique OpenAI « même si la liberté d’expression joue un rôle, les personnalités publiques et leurs familles devraient en dernière instance contrôler l’usage de leur image ».
Des garde-fous renforcés pour Sora
Lancée récemment, l’application Sora permettait jusqu’à présent aux utilisateurs de créer des vidéos réalistes de figures historiques ou d’eux-mêmes. Mais face au tollé provoqué par ces usages, OpenAI déploie désormais des restrictions : dorénavant, les représentants autorisés ou les ayants droits peuvent demander qu’une image ne soit pas utilisée dans des vidéos générées. La fille du Dr. King, Bernice King, avait déjà supplié ses abonnés de cesser la diffusion d’images générées de son père. De nombreux contenus offensants avaient été publiés — par exemple des vidéos montrant Martin Luther King Jr. émettant des sons d’animaux ou affrontant d’autres figures américaines comme Malcolm X, et au vu du réalisme des vidéos générées par Sora, ce n’était finalement qu’une question de temps avant qu’OpenAI ne ferme les vannes.
Ce retrait marque en tout cas un tournant dans la modération des IA génératives visuelles. OpenAI expérimente désormais de nouvelles règles de modération et établit un dialogue avec les ayants droit, ce qui devrait largement modifier la portée et les objectifs des IA génératives comme Sora, qui pour l’instant servent plus à produire ds shorts ineptes qu’à fournir des preuves de la créativité humaine.
