Révision de la Législation sur l’Intelligence Artificielle en Californie

Contexte et Réactions

La législation californienne visant à réguler les logiciels d’intelligence artificielle (IA) a été modifiée suite aux critiques de l’industrie. Ce projet de loi, qui doit être voté par l’Assemblée de l’État plus tard ce mois-ci, suscite des préoccupations parmi les entreprises de technologie.

Le sénateur de Californie, Scott Wiener (D), a proposé le projet de loi intitulé « Loi sur l’Innovation Sûre et Sécurisée pour les Modèles d’Intelligence Artificielle de Pointe » (Anthropic avant le vote final »>SB 1047). Ce texte a rencontré l’opposition de grandes entreprises d’IA comme Anthropic, ainsi que de certains législateurs fédéraux, dont la représentante Zoe Lofgren (D-CA-18).

Lofgren a exprimé ses inquiétudes dans une lettre adressée à Wiener, soulignant que cette législation pourrait nuire à l’économie d’innovation de la Californie sans apporter de bénéfice clair au public. Elle a averti qu’il existe un risque réel que des entreprises choisissent de s’implanter ailleurs ou de ne pas lancer leurs modèles en Californie.

Importance de la Californie dans le Secteur de l’IA

La Californie abrite 35 des 50 plus grandes entreprises d’IA au monde, selon un décret du gouverneur Gavin Newsom (D) en septembre dernier, qui appelle à une étude sur le développement, l’utilisation et les risques associés à la technologie IA.

Wiener a reconnu les modifications apportées au projet de loi, en tenant compte des retours d’Anthropic, une startup fondée par d’anciens employés d’OpenAI, qui se concentre sur l’utilisation sécurisée de l’apprentissage automatique. Il a déclaré que bien que les amendements ne reflètent pas toutes les modifications demandées par Anthropic, plusieurs propositions raisonnables ont été acceptées, répondant ainsi aux préoccupations fondamentales exprimées par l’entreprise et d’autres acteurs du secteur.

Soutien des Pionniers de l’IA

Le SB 1047, coécrit par les sénateurs Richard Roth (D-Riverside), Susan Rubio (D-Baldwin Park) et Henry Stern (D-Los Angeles), bénéficie du soutien de pionniers de l’IA tels que Geoffrey Hinton, professeur émérite à l’Université de Toronto, et Yoshua Bengio, professeur à l’Université de Montréal. Hinton a déclaré que, bien que l’IA offre des promesses incroyables, les risques associés doivent être pris très au sérieux. Il a salué le projet de loi pour son approche équilibrée face à ces préoccupations.

Détails Techniques du Projet de Loi

Le projet de loi se concentre sur les « modèles de pointe », définis comme des modèles d’IA nécessitant plus de 10^26 opérations d’entiers ou de flottants pour leur création, avec un coût de formation dépassant les 100 millions de dollars. Dario Amodei, PDG d’Anthropic, a récemment indiqué que le coût de formation des modèles d’IA atteint couramment environ 100 millions de dollars, avec des modèles en cours de formation coûtant jusqu’à 1 milliard de dollars. Dans les années à venir, ces coûts pourraient atteindre 10 milliards ou même 100 milliards de dollars.

Amodei a également mentionné que si les améliorations des puces et des algorithmes se poursuivent, il est probable que nous parviendrons à des modèles surpassant les capacités humaines dans de nombreux domaines.

Soutien et Opposition à la Législation

Le public a majoritairement soutenu le SB 1047 dans sa version initiale. Selon un sondage de l’Institut de Politique sur l’Intelligence Artificielle (AIPI), seulement 25 % des électeurs californiens s’opposent à cette législation. Cependant, l’industrie technologique a exprimé des réserves. Anthropic a récemment adressé une lettre aux législateurs de l’État, soulevant des préoccupations concernant certaines dispositions du projet de loi, notamment celles permettant aux entreprises d’IA d’être poursuivies avant l’établissement d’un préjudice.

Les modifications proposées par Anthropic, bien que potentiellement impopulaires auprès des électeurs, ont été largement acceptées. Les nouvelles règles limitent les pénalités d’application, et certaines dispositions ont été supprimées ou modifiées pour alléger les exigences de conformité.

Conclusion et Perspectives

Le SB 1047 sera soumis au vote à partir du 20 août et doit être adopté d’ici la fin du mois pour avoir une chance d’être signé par le gouverneur Newsom. Cette législation pourrait marquer un tournant dans la régulation de l’IA en Californie, un État qui joue un rôle central dans le développement de cette technologie.