Technologie
Le projet de loi de Californie visant à prévenir les catastrophes liées à l’IA, le SB 1047, a rencontré une forte opposition de la part de divers acteurs de la Silicon Valley. Aujourd’hui, les législateurs californiens ont légèrement cédé à cette pression en intégrant plusieurs amendements suggérés par la société d’IA Anthropic et d’autres opposants.
Jeudi, le projet de loi a été approuvé par le Comité des Appropriations de Californie, marquant une étape importante vers son adoption, avec plusieurs modifications clés, a déclaré le bureau du sénateur Wiener à TechCrunch.
« Nous avons accepté un certain nombre d’amendements très raisonnables proposés, et je crois que nous avons répondu aux préoccupations fondamentales exprimées par Anthropic et de nombreux autres acteurs de l’industrie », a déclaré le sénateur Wiener dans un communiqué. « Ces amendements s’appuient sur des changements significatifs que j’ai apportés précédemment au SB 1047 pour tenir compte des besoins uniques de la communauté open source, qui est une source importante d’innovation. »
Le SB 1047 vise toujours à empêcher que de grands systèmes d’IA ne causent des pertes humaines massives ou des événements de cybersécurité entraînant des coûts supérieurs à 500 millions de dollars, en tenant les développeurs responsables. Cependant, le projet de loi accorde désormais moins de pouvoir au gouvernement californien pour tenir les laboratoires d’IA responsables.
Que fait désormais le SB 1047 ?
Le plus notable est que le projet de loi ne permet plus au procureur général de Californie de poursuivre les entreprises d’IA pour pratiques de sécurité négligentes avant qu’un événement catastrophique ne se produise. Cette suggestion provenait d’Anthropic.
Désormais, le procureur général de Californie peut demander une mesure injonctive, demandant à une entreprise de cesser une opération jugée dangereuse, et peut toujours poursuivre un développeur d’IA si son modèle provoque un événement catastrophique.
De plus, le SB 1047 ne crée plus la Division des Modèles de Frontière (FMD), une nouvelle agence gouvernementale précédemment incluse dans le projet de loi. Cependant, le projet de loi établit toujours le Conseil des Modèles de Frontière — le cœur de la FMD — et les intègre dans l’Agence des Opérations Gouvernementales existante. En fait, le conseil est désormais plus important, avec neuf membres au lieu de cinq. Le Conseil des Modèles de Frontière continuera à établir des seuils de calcul pour les modèles couverts, à émettre des directives de sécurité et à établir des réglementations pour les auditeurs.
Le sénateur Wiener a également modifié le SB 1047 pour que les laboratoires d’IA n’aient plus à soumettre des certifications des résultats des tests de sécurité « sous peine de parjure ». Désormais, ces laboratoires d’IA doivent simplement soumettre des « déclarations » publiques décrivant leurs pratiques de sécurité, mais le projet de loi n’impose plus de responsabilité pénale.
Le SB 1047 inclut également un langage plus clément concernant la manière dont les développeurs garantissent la sécurité des modèles d’IA. Le projet de loi exige désormais des développeurs qu’ils fournissent « un soin raisonnable » pour s’assurer que les modèles d’IA ne présentent pas un risque significatif de catastrophe, au lieu de l’« assurance raisonnable » requise auparavant.
De plus, les législateurs ont ajouté une protection pour les modèles open source ajustés. Si une personne dépense moins de 10 millions de dollars pour ajuster un modèle couvert, elle n’est explicitement pas considérée comme un développeur par le SB 1047. La responsabilité incombera toujours au développeur d’origine, plus important.
Pourquoi tous ces changements maintenant ?
Bien que le projet de loi ait rencontré une forte opposition de la part de congressistes américains, de chercheurs en IA renommés, de grandes entreprises technologiques et de capital-risqueurs, il a progressé dans la législature californienne avec une relative facilité. Ces amendements visent probablement à apaiser les opposants au SB 1047 et à présenter au gouverneur Newsom un projet de loi moins controversé qu’il pourra signer sans perdre le soutien de l’industrie de l’IA.
Bien que Newsom n’ait pas commenté publiquement le SB 1047, il a précédemment indiqué son engagement envers l’innovation en matière d’IA en Californie.
Anthropic a déclaré à TechCrunch qu’il examinait les modifications du SB 1047 avant de prendre position. Tous les amendements suggérés par Anthropic n’ont pas été adoptés par le sénateur Wiener.
« L’objectif du SB 1047 est — et a toujours été — d’avancer la sécurité de l’IA, tout en permettant l’innovation dans l’écosystème », a déclaré Nathan Calvin, conseiller principal en politique pour le Center for AI Safety Action Fund. « Les nouveaux amendements soutiendront cet objectif. »
Cela dit, ces changements sont peu susceptibles de satisfaire les critiques les plus fervents du SB 1047. Bien que le projet de loi soit manifestement affaibli par rapport à sa version antérieure, le SB 1047 maintient la responsabilité des développeurs pour les dangers de leurs modèles d’IA. Ce fait fondamental concernant le SB 1047 n’est pas universellement soutenu, et ces amendements n’y remédient guère.
« Les modifications ne sont que de la décoration », a déclaré Martin Casado, partenaire général d’Andreessen Horowitz, dans un tweet. « Elles ne traitent pas les véritables problèmes ou critiques du projet de loi. »
En fait, peu après l’adoption du SB 1047 jeudi, huit membres du Congrès des États-Unis représentant la Californie ont écrit une lettre demandant au gouverneur Newsom de veto le SB 1047. Ils ont écrit que le projet de loi « ne serait pas bénéfique pour notre État, pour la communauté des start-ups, pour le développement scientifique, ni même pour la protection contre les éventuels dangers associés au développement de l’IA. »
Quelles sont les prochaines étapes ?
Le SB 1047 se dirige maintenant vers l’Assemblée de Californie pour un vote final. S’il est approuvé, il devra être renvoyé au Sénat de Californie pour un vote en raison de ces derniers amendements. S’il est adopté dans les deux chambres, il sera soumis au gouverneur Newsom, qui pourra soit le veto, soit le signer en loi.
