Donald Trump a peut-être introduit un nouveau terme lors de sa récente attaque infondée contre la campagne présidentielle de Kamala Harris. Dans deux publications sur Truth Social ce week-end, l’ancien président a affirmé que la vice-présidente Kamala Harris avait « A.I.’d » des photos d’une grande foule qui s’était réunie pour l’écouter lors d’un rassemblement de campagne à l’aéroport de Detroit la semaine dernière.
« Il n’y avait personne près de l’avion, et elle l’a ‘A.I.’d’, montrant une immense ‘foule’ de soi-disant partisans, MAIS ILS N’EXISTAIENT PAS ! » a écrit Trump. « C’est une TRICHEUSE. Elle n’avait PERSONNE qui l’attendait, et la ‘foule’ semblait composée de 10 000 personnes ! La même chose se produit avec ses fausses ‘foules’ lors de ses discours. »
La campagne de Harris a réagi avec une publication affirmant que l’image était « une photo réelle d’une foule de 15 000 personnes pour Harris-Walz dans le Michigan. »
Au-delà de l’utilisation inédite du terme « IA » comme verbe, la publication de Trump marque la première fois, à notre connaissance, qu’un candidat à la présidence américaine évoque personnellement la possibilité de falsifications générées par l’IA par un adversaire (plutôt que par des consultants politiques ou des utilisateurs aléatoires des réseaux sociaux). Ces accusations, bien que fausses, exploitent des craintes et des malentendus répandus concernant la fiabilité des informations en ligne à l’ère de l’IA.
Il serait agréable de penser que nous pourrions simplement affirmer que les allégations de Trump sont catégoriquement fausses et en rester là. Cependant, à mesure que les outils d’intelligence artificielle deviennent de plus en plus performants pour générer des images photoréalistes, il est utile de décrire les nombreuses façons spécifiques de vérifier l’authenticité des photos de la foule de Harris. Considérez cela comme un guide des techniques potentielles à utiliser la prochaine fois que vous rencontrerez des accusations selon lesquelles une image en ligne aurait été « A.I.’d » pour vous tromper.
Contexte Technologique et Sources
La manière la plus simple de prouver que les foules de Harris sont réelles est le grand nombre de sources corroborantes montrant ces mêmes foules. L’AP et Getty ont de nombreuses photos de la foule du rassemblement sous différents angles, tout comme des journalistes et des participants présents à l’événement. Des médias locaux ont diffusé des vidéos des foules présentes, tout comme plusieurs participants sur le terrain. Des reporters de divers médias ont directement rapporté sur les foules dans leurs comptes : le média local MLive a estimé la taille de la foule à 15 000 personnes, tandis que le New York Times a noté que l’événement avait été « témoigné par des milliers de personnes et de médias, y compris le New York Times, et le nombre de participants revendiqué par sa campagne est en accord avec ce qui était visible sur le terrain. »
Il suffit de dire que cette montagne de preuves provenant de sources directes pèse plus lourd que les images retouchées de commentateurs conservateurs comme Chuck Callesto et Dinesh D’Souza, qui ont tous deux été pris en train de diffuser de la désinformation électorale par le passé.
En matière d’accusations de falsifications par IA, plus vous avez de sources d’information disparates, mieux c’est. Alors qu’une seule source peut facilement générer une image plausible d’un événement, plusieurs sources indépendantes montrant le même événement sous différents angles sont beaucoup moins susceptibles d’être impliquées dans la même supercherie. Les photos qui s’alignent avec des preuves vidéo sont encore meilleures, surtout puisque créer des vidéos longues et convaincantes de personnes ou de scènes complexes reste un défi pour de nombreux outils d’IA.
Il est également crucial de retrouver la source originale de l’image prétendument générée par IA que vous examinez. Il est incroyablement facile pour un utilisateur des réseaux sociaux de créer une image générée par IA, de prétendre qu’elle provient d’un rapport d’actualité ou d’une vidéo en direct d’un événement, puis d’utiliser des défauts évidents dans cette image fausse comme « preuve » que l’événement lui-même a été falsifié. Les liens vers des images originales provenant du site web d’une source ou d’un compte vérifié sont beaucoup plus fiables que des captures d’écran qui pourraient provenir de n’importe où (et/ou avoir été modifiées par quiconque).
Signes Révélateurs de la Technologie
Bien que retrouver des sources originales et/ou corroborantes soit utile pour un événement d’actualité majeur comme un rassemblement présidentiel, confirmer l’authenticité d’images et de vidéos provenant d’une seule source peut être plus délicat. Des outils comme le Winston AI Image Detector ou IsItAI.com prétendent utiliser des modèles d’apprentissage automatique pour déterminer si une image est générée par IA. Cependant, bien que les techniques de détection continuent d’évoluer, ces types d’outils reposent généralement sur des théories non prouvées qui n’ont pas été démontrées comme fiables dans des études larges, rendant le risque de faux positifs/négatifs bien réel.
Dans un article sur LinkedIn, le professeur de l’UC Berkeley Hany Farid a cité deux modèles de GetReal Labs montrant « aucune preuve de génération par IA » dans les photos du rassemblement de Harris publiées par Trump. Farid a ensuite cité des parties spécifiques de l’image qui pointent vers son authenticité.
« Le texte sur les panneaux et l’avion ne montre aucun des signes habituels de l’IA générative, » écrit Farid. « Bien que l’absence de preuves de manipulation ne soit pas une preuve que l’image est réelle, nous ne trouvons aucune preuve que cette image soit générée par IA ou modifiée numériquement. »
Et même lorsque certaines parties d’une photo semblent être des signes absurdes de manipulation par IA (comme des mains déformées dans certains modèles d’images générées par IA), il est possible qu’il existe une explication simple pour certaines illusions d’optique apparentes. La BBC note que l’absence de réflexion de la foule sur l’avion dans certaines photos du rassemblement de Harris pourrait être causée par une grande zone vide de tarmac entre l’avion et la foule, comme le montrent des angles inversés de la scène. Simplement entourer des éléments étranges dans une photo avec un marqueur rouge n’est pas nécessairement une preuve solide de manipulation par IA en soi.
Ne Faites Confiance à Personne ?
À ce stade, les observateurs de l’IA sont habitués à la perspective des « deepfakes » et à leur potentiel de tromperie. Cependant, les dernières affirmations fausses de Trump concernant le fait d’être « A.I.’d » reflètent l’autre côté de la pièce des deepfakes, où les gens peuvent commencer à douter d’informations authentiques simplement en raison du potentiel de l’IA à générer un faux similaire. Nous avons récemment vu ce même phénomène de « profond doute » se manifester chez des théoriciens du complot qui insistent sur le fait que le président Joe Biden a été remplacé par un hologramme alimenté par IA.
En incitant ses partisans à douter d’images qui sont clairement authentiques (et qui peuvent être triviellement confirmées comme telles), Trump semble essayer de créer un environnement médiatique où l’existence même de l’IA signifie que même plusieurs sources fiables d’informations corroborantes ne peuvent pas nécessairement être dignes de confiance. Pour un candidat qui continue de revendiquer faussement que l’élection de 2020 lui a été volée, cela pourrait établir un précédent dangereux pour l’élection de novembre prochain.
