Le gouverneur de Californie Gavin Newsom a promulgué la loi SB 53 qui encadre le développement de l’intelligence artificielle sur le territoire abritant Google, Apple, Meta, OpenAI et d’autres entreprises tech. Ce texte intervient un an après le rejet d’une première mouture jugée hostile à l’innovation. Gavin Newsom affirme avoir trouvé un équilibre permettant de stimuler la créativité technologique tout en garantissant la sécurité collective.
Un cadre juridique inédit pour les modèles d’IA
Cette législation impose aux entreprises concevant les systèmes d’IA les plus sophistiqués des obligations de transparence quasi inédites. Elles devront désormais publier leurs protocoles de sécurité, notifier les incidents graves dans un délai maximum de 15 jours et assurer une protection aux lanceurs d’alerte. Présenté comme une première mondiale par ses promoteurs, le dispositif contraint également les développeurs à signaler les comportements trompeurs dangereux détectés lors des phases de test.
Par exemple, si un modèle dissimule des failles dans les mécanismes censés l’empêcher de contribuer à la fabrication d’armes biologiques ou nucléaires, l’entreprise doit révéler cette anomalie dès lors qu’elle accroît substantiellement les risques de préjudices.
Cette exigence répond aux alertes formulées en juin par le groupe de réflexion piloté par le gouverneur de Californie, incluant notamment Fei-Fei Li de l’université Stanford, surnommée la « marraine de l’IA ». Selon ce collectif d’experts, « les propres rapports des entreprises de pointe de l’IA révèlent des progrès inquiétants dans toutes les catégories de menaces ».
Une loi marquée par les divisions
Le sénateur Scott Wiener, à l’origine de cette initiative, avait essuyé un veto gouvernemental l’année précédente pour son texte initial. Cette première version avait profondément clivé la Silicon Valley, certains dirigeants l’accusant de menacer la dynamique d’innovation dès les prémices de la « révolution de l’IA ». Le risque de délocalisation des talents et des investissements constituait l’argument majeur des opposants.
L’adoption de SB 53 survient également après l’échec de l’administration Trump à empêcher les États américains de légiférer sur l’IA. La Maison Blanche justifiait cette tentative de blocage par la nécessité de maintenir le rythme dans la compétition technologique face à la Chine.
Codification d’engagements volontaires préexistants
Avant la signature du texte, plusieurs géants de la tech en Californie, dont Meta, Google, OpenAI et Anthropic, avaient souscrit à des engagements volontaires portant sur la réalisation de tests de sécurité et l’élaboration de protocoles robustes. La nouvelle loi transforme ces promesses en obligations légales tout en élargissant leur périmètre.
Ce passage du volontariat à la contrainte législative intervient dans un contexte où des dizaines de milliards de dollars affluent vers la Silicon Valley pour financer le développement de l’IA, alimentant simultanément les craintes relatives aux dérives potentielles des modèles les plus puissants.
