Ces dernières années, plusieurs incidents graves ont impliqué des robots industriels ou de laboratoires, avec dans certains cas des personnes blessés voire tuées par la machine. Le cas du robot chinois Unitree H1, un modèle humanoïde d’1m90 disponible à la vente (au prix de 90 000 dollars l’unité), est encore plus troublant : sur une vidéo, on aperçoit l’un de ces robots passer en mode « attaque totale » et agiter ses jambes et ses grands bras de façon désordonnée comme s’il cherchait à frapper quelque chose ou quelqu’un. Les ingénieurs autour de la machine reculent rapidement face à l’assaut, et l’un deux parvient à stopper le robot en accédant à l’ordinateur de contrôle.
Visuellement, la scène est terriblement impressionnante, et l’on a vraiment l’impression d’assister à la révolte d’une machine, comme si « Terminator » était tout proche. Il s’avère pourtant que cette interprétation est du pur anthropomorphisme : le robot n’a évidemment aucune « intention » derrière ce comportement qui résulte probablement d’une erreur de codage ou de paramétrage.
Les incidents de ce type se multiplient. Ici, lors du Tianjin Winter Gala Festival en Chine, un autre robot Unitree H1 a montré un comportement « agressif » face à un spectateur
Il n’en reste pas moins que le scénario d’un grand robot (1,90 pour cet Unitree H1) pétant littéralement un boulon est emmené à se répéter avec la démocratisation de ce type de machine. Il devient donc urgent de réfléchir dès aujourd’hui à un moyen de stopper rapidement le robot au cas où les choses tourneraient mal, et à distance si possible (un bouton reset placé sur le robot lui-même sera peu d’utilité si la machine passe en mode « Berseck »).
4 commentaires pour cet article :