OpenAI envisage de ralentir le développement de ses modèles d’intelligence artificielle les plus avancés, selon des propos de son patron Sam Altman aux employés. Le dirigeant souhaite que plusieurs entreprises d’IA concurrentes (Anthropic, Google, etc) coordonnent éventuellement ce ralentissement jusqu’à l’établissement de règles de sécurité communes.
OpenAI veut éviter une course de l’IA sans garde-fous
Lors d’une réunion interne organisée cette semaine et relayée par Bloomberg, Sam Altman a expliqué qu’OpenAI pourrait adapter le rythme de développement de ses prochaines IA, éventuellement avec plusieurs entreprises concurrentes. Il reconnaît toutefois que certains acteurs pourraient refuser une telle démarche, ce qui complique la mise en place d’un ralentissement coordonné.
Le scientifique en chef d’OpenAI, Jakub Pachocki, avait déjà appelé à une telle coordination. Il estime que les entreprises spécialisées devraient coordonner un ralentissement du développement futur si nécessaire et souhaite que les ralentissements volontaires deviennent courants jusqu’à l’adoption de seuils de sécurité communs.
Le créateur de ChatGPT affirme d’ailleurs avoir déjà ralenti certaines activités liées au développement de modèles IA et suspendu récemment plusieurs entraînements internes pour des raisons de sécurité. En juillet, Sam Altman avait également discuté avec des responsables de la Maison Blanche de la nécessité de maîtriser le rythme de progression de l’IA.
Les appels à la régulation se multiplient
OpenAI demande désormais au Congrès américain d’adopter avant la fin de l’année des règles communes pour les entreprises développant les modèles IA les plus puissants. Son responsable des affaires publiques, Chris Lehane, réclame notamment des tests obligatoires, des évaluations indépendantes et un signalement transparent des incidents de sécurité.
L’entreprise souhaite également des règles internationales capables de déterminer quand et comment le développement devrait ralentir ou s’arrêter. Anthropic, qui propose Claude, défend de son côté un mécanisme de ralentissement coordonné qui disposerait d’une base légale et de moyens permettant de vérifier son application.
Cette évolution intervient après plusieurs alertes venues directement du secteur. Plus de 1 000 employés des principales entreprises d’IA avaient signé fin juillet une pétition demandant un mécanisme capable de ralentir le développement, tandis que plusieurs spécialistes de la sécurité ont quitté les grands entreprises d’IA ces derniers mois.
Aux États-Unis, le débat avance alors qu’aucune loi fédérale n’encadre actuellement les modèles d’IA les plus avancés. Cependant, la Californie vient d’adopter deux lois créant un système d’évaluation indépendante, tandis que des parlementaires travaillent à Washington sur un texte consacré aux risques catastrophiques liés à l’intelligence artificielle.
