Les Risques Associés à l’Intelligence Artificielle : Une Nouvelle Base de Données

Les Dangers Potentiels de l’IA

L’adoption de l’intelligence artificielle (IA) peut comporter des risques significatifs. Les systèmes peuvent présenter des biais, relayer des informations erronées, ou même engendrer une dépendance. De plus, il existe des préoccupations quant à l’utilisation de l’IA pour développer de nouvelles armes biologiques ou chimiques, ou encore la possibilité qu’elle échappe à notre contrôle à l’avenir.

Une Ressource Inédite sur les Risques de l’IA

Pour mieux appréhender ces dangers, il est essentiel de les identifier. Une nouvelle base de données, élaborée par le groupe FutureTech du CSAIL du MIT, en collaboration avec d’autres experts, a été mise en ligne récemment. Cette ressource, nommée le Répertoire des Risques de l’IA, recense plus de 700 risques potentiels liés aux systèmes d’IA avancés. C’est la source la plus exhaustive à ce jour concernant les problèmes identifiés pouvant découler de la création et de l’utilisation de ces modèles.

Analyse des Risques Identifiés

L’équipe a minutieusement examiné des articles de revues scientifiques et des bases de données de prépublications traitant des risques associés à l’IA. Les risques les plus fréquemment mentionnés concernent la sécurité et la robustesse des systèmes d’IA (76 %), les biais et discriminations injustes (63 %), ainsi que la protection de la vie privée (61 %). D’autres risques, plus rares, touchent des aspects plus abstraits, comme la possibilité de créer une IA capable de ressentir la douleur ou d’expérimenter une forme de « mort ».

La Découverte des Risques Post-Déploiement

Il est intéressant de noter que la majorité des risques liés à l’IA ne sont identifiés qu’après que le modèle soit rendu public. En effet, seulement 10 % des risques analysés ont été détectés avant leur déploiement.

Réévaluation des Méthodes d’Évaluation de l’IA

Ces résultats pourraient influencer notre manière d’évaluer l’IA, car nous avons tendance à nous concentrer sur la sécurité d’un modèle avant son lancement. Neil Thompson, directeur de MIT FutureTech et co-créateur de la base de données, souligne que « la diversité des risques est considérable, et tous ne peuvent pas être vérifiés à l’avance ». Par conséquent, il pourrait être judicieux pour les auditeurs, les décideurs et les chercheurs de surveiller les modèles après leur lancement en réévaluant régulièrement les risques qu’ils présentent.

Un Besoin de Vision Globale

Bien qu’il y ait eu plusieurs tentatives de compilation de listes similaires par le passé, celles-ci se concentraient souvent sur un ensemble restreint de dangers potentiels liés à l’IA. Cette approche fragmentée rendait difficile l’obtention d’une vue d’ensemble des risques associés à l’IA.

La Complexité des Risques de l’IA

Malgré cette nouvelle base de données, il reste difficile de déterminer quels risques liés à l’IA méritent le plus d’attention, une tâche compliquée par notre compréhension encore limitée du fonctionnement des systèmes d’IA de pointe. Les créateurs de la base de données ont choisi de ne pas classer les risques selon leur niveau de dangerosité.

Une Base de Données Évolutive

Peter Slattery, auteur principal de la base de données et chercheur postdoctoral au MIT FutureTech, explique que l’objectif était de créer une base de données neutre et exhaustive. Cependant, Anka Reuel, doctorante en informatique à l’Université de Stanford et membre de son Centre pour la Sécurité de l’IA, souligne que simplement compiler les risques associés à l’IA ne suffira bientôt plus. Elle affirme que « nous atteignons un point où sensibiliser les gens à tous les risques n’est plus le principal problème ». Selon elle, il est crucial de traduire ces risques en actions concrètes pour les combattre.

Perspectives de Recherche Future

Cette base de données ouvre la voie à de futures recherches. Ses créateurs ont élaboré cette liste en partie pour explorer leurs propres questions, telles que les risques sous-étudiés ou non abordés. Thompson exprime ses préoccupations : « Nous nous demandons s’il existe des lacunes ».

Slattery conclut en affirmant que « nous envisageons cette base de données comme un projet vivant, le début de quelque chose de plus grand. Nous sommes très désireux de recevoir des retours à ce sujet ».