OpenAI travaille depuis plusieurs semaines avec Anthropic et Google DeepMind sur une structure commune dédiée aux risques de l’intelligence artificielle. Le projet pourrait déboucher sur un organisme chargé d’évaluer les modèles IA avancés avant leur commercialisation et, dans certains cas, de coordonner un ralentissement de leur développement.
Un peu plus de sûreté pour l’IA
Chris Lehane, responsable des affaires internationales d’OpenAI, a confirmé à Washington qu’OpenAI (ChatGPT), Anthropic (Claude) et Google (Gemini) discutent depuis plusieurs semaines. « Il vaut mieux essayer de travailler ensemble pour donner la priorité à la sécurité », a-t-il déclaré selon Bloomberg, tout en estimant qu’une exemption au droit de la concurrence n’est pas nécessaire pour leur coopération actuelle.
L’idée reprend une proposition formulée en juillet par Demis Hassabis, président de Google DeepMind. Il avait défendu la création d’un organisme indépendant inspiré de la FINRA, l’autorité américaine d’autorégulation du secteur financier, avec un financement assuré par les entreprises du secteur et un conseil réunissant des experts indépendants et des représentants de l’écosystème open source.
Le futur organisme pourrait examiner les modèles d’IA les plus puissants avant leur mise sur le marché et définir des standards de sécurité communs. Demis Hassabis envisage également qu’il puisse coordonner un ralentissement du développement si les capacités des systèmes progressent plus rapidement que la compréhension de leurs risques.
Cette coopération intervient alors que Dario Amodei, patron d’Anthropic, a récemment appelé à ralentir le développement des IA les plus avancées afin de mieux comprendre leurs dangers. Sam Altman, patron d’OpenAI, a rapidement soutenu cette démarche, tandis que Demis Hassabis a lui aussi estimé que la proposition de Dario Amodei allait dans la bonne direction.
Les États-Unis restent méfiants d’une coopération entre concurrents
OpenAI souhaite parallèlement obtenir des avancées au niveau fédéral. Chris Lehane a indiqué que l’entreprise soutiendrait des propositions bipartisanes destinées à prévenir les risques catastrophiques liés à l’intelligence artificielle et défend un cadre fédéral de gouvernance de la technologie.
La question de la concurrence complique toutefois cette coopération. Andrew Ferguson, président de la Federal Trade Commission (FTC), s’est dit « profondément méfiant » à l’égard des demandes d’exemption antitrust formulées par les entreprises de l’IA et estime qu’elles pourraient utiliser la régulation pour créer des barrières à l’entrée.
Le Congrès américain pourrait également examiner une exemption très limitée permettant aux entreprises d’échanger certaines informations liées aux risques de perte de contrôle des systèmes IA, aux menaces cyber et biologiques ou aux tentatives d’exfiltration de données par des entreprises chinoises. Le calendrier politique rend toutefois l’adoption rapide de telles mesures peu probable.
Donald Trump s’oppose de son côté à la mise en place de garde-fous contraignants au secteur. Le président américain a qualifié les craintes existentielles autour de l’IA de « canular » et défend une accélération du développement technologique, notamment face à la concurrence chinoise.
OpenAI pousse néanmoins son propre agenda réglementaire. Récemment, l’entreprise a appelé à l’instauration d’exigences nationales obligatoires en matière de sécurité de l’IA et affirme qu’aucune entreprise, aucun secteur et aucun gouvernement ne peut répondre seul aux risques liés aux futurs systèmes avancés.
