En mai, TikTok a annoncé qu’il marquerait automatiquement le contenu généré par l’IA sur sa plateforme. Cependant, cela ne s’applique pas à toutes les versions de l’application. Un rapport récent de la Mozilla Foundation et d’AI Forensics révèle que la version Lite-Save Data de TikTok, destinée aux utilisateurs des marchés moins favorisés, ne seulement ne marque pas le contenu généré par l’IA, mais manque également d’autres protections similaires.
« Le marquage est une tactique essentielle que les plateformes utilisent pour instaurer une certaine forme de confiance et de sécurité », déclare Odanga Madung, chercheur chez Mozilla et co-auteur du rapport.
Les utilisateurs de la version complète de TikTok, par exemple, peuvent voir des étiquettes indiquant que le contenu est graphique ou qu’il présente des comportements dangereux. De même, certains contenus concernant des sujets comme les élections et la santé incluent un avis incitant les utilisateurs à consulter des informations fiables via un « centre de ressources » sur l’application.
En revanche, TikTok Lite ne propose aucune de ces protections. Cela signifie qu’avec la problématique du contenu trompeur généré par l’IA, particulièrement en période électorale à travers le monde, les utilisateurs des marchés moins riches reçoivent moins d’informations sur ce qui est faux et ce qui est réel par rapport à ceux des marchés plus riches.
Madung s’interroge sur les raisons pour lesquelles, parmi toutes les fonctionnalités qui pourraient être supprimées pour optimiser l’application, l’entreprise a choisi de retirer celles qui garantissent la sécurité des utilisateurs. « Nous ne savons pas s’il s’agit d’un choix délibéré ou simplement d’une négligence », ajoute-t-il.
Un porte-parole de TikTok a déclaré dans un communiqué : « Il y a plusieurs inexactitudes factuelles dans ce rapport qui déforment fondamentalement notre approche en matière de sécurité. En réalité, le contenu qui enfreint nos règles est supprimé de TikTok Lite de la même manière que sur notre application principale, et nous offrons de nombreuses fonctionnalités de sécurité. » L’entreprise a refusé de préciser les inexactitudes mentionnées.
Les versions Lite des applications existent depuis longtemps comme moyen pour les entreprises d’accroître leur part de marché dans des régions où les utilisateurs sont confrontés à des coûts de données élevés ou ne peuvent se permettre que des téléphones moins avancés. En 2015, Meta, alors Facebook, a lancé Facebook Lite, une version allégée de son application, plus compatible avec les réseaux de données 2G. La même année, elle a également lancé Free Basics, permettant aux utilisateurs du Sud global d’accéder à la plateforme et à certains autres sites sans frais de données. (Une application ou un service répondant à ces critères est qualifié de « zéro tarifé ».) À l’époque, le projet a été largement critiqué, notamment en Inde, pour avoir créé une expérience de seconde zone pour les clients les plus pauvres.
TikTok a lancé sa version Lite en 2018 en Thaïlande, puis s’est rapidement étendu à d’autres marchés d’Asie du Sud-Est, notamment l’Indonésie, la Malaisie et les Philippines. L’application, qui contrairement à la version complète de TikTok peut fonctionner sur des réseaux 2G et 3G, a désormais plus d’un milliard de téléchargements, selon les données du Google Play Store. (TikTok Lite est uniquement disponible pour les téléphones Android.)
« La majorité des utilisateurs du Sud global sont à faible revenu et manquent de ressources », explique Payal Arora, professeur de cultures d’IA inclusives à l’Université d’Utrecht. Les versions Lite des applications aident les entreprises à attirer ces utilisateurs, ce qui est, selon elle, encore plus crucial qu’auparavant, car « les données sont devenues une monnaie dans ce marché avide d’IA ».
Un exemple des différences constatées par les chercheurs entre les versions de l’application concerne le Covid-19 ; tandis que les utilisateurs de Lite sont dirigés vers un centre de ressources lorsqu’ils recherchent activement des termes liés au virus, le contenu réel à ce sujet n’est pas étiqueté avec un lien vers ce centre, contrairement à la version complète de TikTok.
Les chercheurs ont également noté que les légendes étaient tronquées dans la version Lite de TikTok, laissant les utilisateurs avec moins de contexte sur ce qu’ils voient. De plus, la version Lite de l’application ne dispose pas d’une fonctionnalité permettant aux utilisateurs de limiter le temps passé sur l’application ni d’un « mode restreint » qui élimine le contenu « pouvant ne pas convenir à tous les publics », selon les politiques de TikTok.
En supprimant ces fonctionnalités, TikTok semble reproduire les erreurs des applications Lite précédentes. Facebook Lite avait également retiré des éléments qui auraient pu aider les utilisateurs à mieux comprendre le contenu qu’ils rencontraient.
« Dans le cas de la version Lite de Facebook, il était plus difficile pour les gens de distinguer le vrai du faux, car elle supprimait souvent les images, qui étaient plus lourdes, ou rendait impossible le clic sur des liens », explique Ellery Roberts Biddle, ancien chercheur au Berkman Klein Center de Harvard, qui a étudié les plateformes sociales à tarif zéro. « Ces problèmes semblent découler d’un manque similaire de considération pour l’autonomisation des utilisateurs. »
Madung craint que les conséquences d’un manque d’étiquetage et de modération ne se limitent pas uniquement aux utilisateurs de TikTok Lite. « Le contenu créé sur TikTok ne reste pas sur TikTok », dit-il. « Les gens téléchargent souvent des vidéos et les partagent sur WhatsApp ou Instagram Reels. »
