Réglementation de l’Intelligence Artificielle dans le Secteur Public
Un projet de loi proposé par le membre libéral-démocrate Lord Clement-Jones vise à encadrer l’utilisation de l’intelligence artificielle (IA), des algorithmes et des technologies de prise de décision automatisée par les autorités publiques. Ce projet a été introduit au Parlement pour éviter des scandales similaires à celui de la Poste.
Selon les dispositions présentées le 9 septembre, si un citoyen reçoit un refus d’une décision concernant des prestations sociales ou l’immigration, il aura le droit d’accéder aux informations expliquant cette décision, lui permettant ainsi de la contester.
Dans les cas où un citoyen choisit de contester une décision automatisée, le projet de loi de Lord Clement-Jones obligerait également le gouvernement à fournir un service de résolution des litiges indépendant.
Les autorités publiques seraient tenues de publier des évaluations d’impact pour tout algorithme ou système d’IA influençant les processus décisionnels. Cela inclurait une évaluation obligatoire des biais pour garantir la conformité avec la Loi sur l’Égalité et la Loi sur les Droits de l’Homme, ainsi que la création d’un registre de transparence pour informer le public sur l’utilisation de chaque système.
Lord Clement-Jones a déclaré : « Le scandale de la Poste/Horizon illustre le coût humain dévastateur lorsque des contrôles adéquats ne sont pas en place pour contester ces systèmes automatisés. Actuellement, il n’existe aucune obligation légale pour les autorités publiques d’être transparentes sur l’utilisation de ces algorithmes. J’exhorte le gouvernement à soutenir ces changements. »
« Trop souvent au Royaume-Uni, nous légiférons après que les dommages ont déjà été causés. Nous devons être proactifs, et non réactifs, pour protéger les citoyens dans leurs interactions avec les nouvelles technologies. Nous devons anticiper les besoins en matière de réglementation de l’IA. Nous ne pouvons pas nous permettre un autre scandale comme celui d’Horizon. »
Pour améliorer la clarté des décisions automatisées, le projet de loi inclut des dispositions garantissant que tous les systèmes déployés par les autorités publiques soient dotés de capacités de journalisation automatique, permettant ainsi un suivi et une analyse continus de leur fonctionnement.
Il contient également des mesures interdisant l’acquisition de systèmes qui ne peuvent pas être examinés, notamment lorsque les autorités publiques sont entravées dans leurs efforts de surveillance par des mesures contractuelles ou techniques, ainsi que par les intérêts de propriété intellectuelle des fournisseurs.
Des parlementaires ont précédemment proposé des projets de loi similaires concernant l’IA, comme Lord Christopher Holmes, qui a introduit le projet de loi sur la réglementation de l’intelligence artificielle en novembre 2023, arguant que l’approche « attendre et voir » du gouvernement précédent en matière de législation sur l’IA serait plus nuisible que bénéfique. De même, le député travailliste Mick Whitley a présenté son projet de loi centré sur les travailleurs en mai 2023 pour traiter des usages nuisibles de l’IA sur le lieu de travail.
En avril 2024, le Congrès des syndicats (TUC) a également publié une loi « prête à l’emploi » pour réglementer l’IA sur le lieu de travail, établissant une série de nouveaux droits et protections pour gérer les effets néfastes de la prise de décision automatisée sur les travailleurs.
Depuis la publication du livre blanc sur l’IA par le précédent gouvernement conservateur en mars 2023, un débat important a eu lieu sur la pertinence de l’approche « agile et pro-innovation » qu’il a proposée pour réglementer la technologie de l’IA.
Selon ces propositions, le gouvernement aurait compté sur les régulateurs existants pour créer des règles spécifiques adaptées aux contextes d’utilisation de la technologie dans les secteurs qu’ils surveillent.
Suite à la publication du livre blanc, le gouvernement a largement promu la nécessité de la sécurité de l’IA, affirmant que les entreprises n’adopteront pas l’IA tant qu’elles n’auront pas confiance dans la gestion des risques associés à cette technologie, allant des biais et de la discrimination à l’impact sur l’emploi et les résultats judiciaires.
Bien que le gouvernement précédent ait renforcé cette approche dans sa réponse officielle à la consultation sur le livre blanc en janvier 2024, affirmant qu’il ne légiférerait pas sur l’IA tant que le moment ne serait pas propice, il a ensuite déclaré en février 2024 qu’il pourrait y avoir des règles contraignantes introduites pour les systèmes d’IA à haut risque.
Le dernier discours du roi a mentionné que le nouveau gouvernement travailliste « cherchera à établir la législation appropriée pour imposer des exigences à ceux qui développent les modèles d’intelligence artificielle les plus puissants », mais aucun projet de loi spécifique sur l’IA n’est prévu.
La seule référence à l’IA dans le briefing de fond du discours était dans le cadre d’un projet de loi sur la sécurité des produits et la métrologie, visant à répondre « aux nouveaux risques et opportunités liés aux produits pour permettre au Royaume-Uni de suivre le rythme des avancées technologiques, telles que l’IA ».
Bien que les projets de loi des membres privés aient rarement force de loi, ils sont souvent utilisés comme un moyen de susciter des débats sur des questions importantes et de tester l’opinion au Parlement.
