L’IA, c’est un peu comme le langage, le nucléaire ou les pommes frites cuites au four, soit la pire et la meilleure chose qui soit possible (rarement en même temps heureusement). Des chercheurs de Collaborations Pharmaceuticals l’on prouvé assez aisément en détournant l’usage « normal » de MegaSyn, une IA spécialisée dans la détection et l’identification de molécules toxiques. Après une petite modification de l’algorithme par nos facétieux chercheurs, MegaSyn a fait l’inverse de son objectif initial et a commencé à combiner les molécules les plus toxiques de façon à obtenir de véritables « armes biologiques ».
Les chercheurs ont aussi fait en sorte que les combinaisons se rapprochent du niveau de toxicité de l’agent neurotoxique VX, mais l’IA est allée au delà des « recommandations » et a réussi à générer de très nombreux combos encore plus létaux que le tristement célèbre neurotoxique ! Au bout de 6 heures à peine, le MegaSyn version « symbiote diabolique » avait généré plus de 40 000 combinaisons inédites de molécules ultra-toxiques ! Effrayés par les résultats, les chercheurs ont décidé de ne pas rendre public les détails de ses combinaisons.
Sans surprise après cette expérience traumatisante – encore plus à posteriori dans le contexte d’une guerre en Europe où l’on débat de l’hypothèse des armes biologiques – les chercheurs en appellent à une règlementation beaucoup plus stricte des IA « moléculaires ».
2 commentaires pour cet article :