Technologie
Dans un contexte où les deepfakes et les médias synthétiques se multiplient grâce à l’intelligence artificielle générative, de nombreuses organisations s’efforcent de perfectionner le filigrane numérique pour identifier l’origine d’un contenu. Bien qu’aucune n’ait encore atteint un succès total, la Coalition pour la Provenance et l’Authenticité du Contenu (C2PA) renforce ses effectifs.
Récemment, C2PA a annoncé qu’Amazon rejoignait son comité directeur. Faisant partie de la famille de la Linux Foundation, C2PA se définit comme un « organisme de normalisation technique ouvert qui s’attaque à la prévalence de la désinformation en ligne par le développement de normes techniques pour certifier la source et l’historique (ou provenance) du contenu numérique. »
Adobe, co-fondateur de C2PA, a également contribué à l’établissement des Crédits de Contenu, que C2PA maintient comme une méthode pour rendre l’origine du contenu numérique plus transparente. Ces Crédits de Contenu permettent de savoir comment et quand un contenu a été généré ou modifié. La coalition aspire à faire des Crédits de Contenu une norme adoptée par l’industrie.
En intégrant la coalition, Amazon s’engage à relier les Crédits de Contenu aux créations générées par Titan Image Generator v1 et v2, son générateur d’images AI pour entreprises.
« Grâce à cette mise en œuvre des Crédits de Contenu, les consommateurs pourront vérifier l’origine et l’authenticité des contenus générés par l’IA. »
De plus, l’entreprise intégrera cet outil de provenance dans AWS Elemental MediaConvert, un service de traitement vidéo basé sur des fichiers qui transcende le contenu pour une diffusion à grande échelle. Cela permettra aux organisations d’information, aux diffuseurs sportifs et à d’autres clients de vérifier l’origine des vidéos qu’ils partagent avant de les redistribuer.
« Tous les images générées par Amazon Titan contiennent par défaut un filigrane invisible, offrant un mécanisme discret pour aider à réduire la propagation de la désinformation, » a déclaré Vasi Philomin, vice-président de l’IA générative chez AWS. « Rejoindre la C2PA et adopter les Crédits de Contenu représente une étape clé dans notre parcours vers une innovation responsable en matière d’IA. »
Andrew Jenks, président exécutif de la C2PA, a ajouté que « l’intégration des Crédits de Contenu dans des outils et services accessibles aux organisations d’information et au grand public continue de promouvoir la transparence dans l’écosystème des médias numériques. » L’objectif est de standardiser les Crédits de Contenu pour réduire la quantité de désinformation qui circule et qui peut semer la confusion chez les consommateurs.
Philomin a également mentionné qu’Amazon prévoit de « développer des outils significatifs » pour la sécurité de l’IA en collaboration avec d’autres membres de la C2PA, qui incluent Google, Meta, OpenAI, Microsoft, la BBC et Intel, entre autres.
Cependant, cette collaboration soulève des préoccupations pour certains acteurs du secteur. En juillet, le certificateur de contenu numérique Numbers Protocol, en association avec plusieurs autres organisations de blockchain et d’IA, a fondé l’Alliance pour l’Origine Créative, une alternative « démocratique, transparente et décentralisée » à la C2PA, où « tous les membres auront une voix égale et les créateurs auront leur place à la table. »
Cette initiative a été motivée par une mise à jour des conditions de service d’Adobe, qui a suggéré que les travaux des utilisateurs pourraient être utilisés pour former Firefly, l’outil d’images AI d’Adobe, ce qui a suscité un sentiment de « prédateur » parmi la communauté créative numérique. Inquiets des conflits d’intérêts entre la C2PA et des fondateurs comme Adobe, l’Alliance vise à donner une voix aux plus petits acteurs de l’industrie, plaidant pour la confidentialité et les technologies open-source, se positionnant ainsi comme David face à Goliath de la C2PA.
