Obligations de sécurité en ligne pour les réseaux sociaux : un avertissement d’Ofcom
Ofcom a récemment mis en garde les entreprises de médias sociaux concernant leurs futures obligations en matière de sécurité en ligne, suite à une série de manifestations racistes qui ont éclaté au Royaume-Uni, alimentées par des informations erronées sur des événements tragiques à Southport.
Le 29 juillet 2024, trois jeunes filles ont été tragiquement tuées à Southport, ce qui a entraîné une vague de rumeurs infondées sur l’identité de l’agresseur, le qualifiant d’asile musulman. Bien que ces allégations aient été rapidement démenties, des émeutes islamophobes ont éclaté dans plusieurs villes anglaises, ciblant des mosquées, des hôtels accueillant des demandeurs d’asile et des centres d’immigration.
Dans un article de blog, Ofcom a déclaré : « La lutte contre le contenu illégal en ligne est une priorité majeure pour nous. Récemment, nous avons été témoins d’actes de violence inacceptables au Royaume-Uni, soulevant des questions sur le rôle des réseaux sociaux dans ces événements. La Loi sur la sécurité en ligne (OSA) imposera de nouvelles responsabilités aux entreprises technologiques pour protéger leurs utilisateurs contre le contenu illégal, qui peut inclure des discours de haine, des incitations à la violence ou certaines formes de désinformation. »
Ofcom a précisé qu’une fois la loi entrée en vigueur fin 2024, les entreprises technologiques disposeront de trois mois pour évaluer les risques liés au contenu illégal sur leurs plateformes. Elles devront ensuite prendre des mesures appropriées pour empêcher l’apparition de ce contenu et agir rapidement pour le supprimer dès qu’elles en auront connaissance.
« Les plus grandes entreprises technologiques devront aller encore plus loin en appliquant systématiquement leurs conditions d’utilisation, qui interdisent souvent des comportements tels que les discours de haine et la désinformation nuisible », a ajouté Ofcom, qui disposera d’un large éventail de pouvoirs d’application pour traiter les entreprises non conformes.
Responsabilité des plateformes sociales
Ofcom a également souligné que son rôle ne consistera pas à prendre des décisions concernant des publications ou des comptes individuels, ni à exiger la suppression de contenus spécifiques.
Suite à des vidéos montrant des émeutiers racistes à Liverpool, Elon Musk, propriétaire de X, a déclaré que « la guerre civile est inévitable » au Royaume-Uni, ce qui a conduit le gouvernement à condamner ses propos. Un porte-parole de Downing Street a affirmé : « Il n’y a aucune justification pour de tels commentaires. Ce que nous avons observé dans ce pays, ce sont des actes de violence organisés qui n’ont pas leur place, que ce soit dans nos rues ou en ligne. »
Après une réunion de crise impliquant le Premier ministre, des ministres, des chefs de police et des responsables du ministère de la Justice, le gouvernement a annoncé qu’il collaborait déjà avec les plateformes de médias sociaux pour s’assurer qu’elles respectent leur obligation de supprimer rapidement le contenu criminel, et que des processus sont en place pour l’entrée en vigueur complète de l’OSA plus tard cette année.
« Elles ont la responsabilité d’assurer la sécurité de leurs utilisateurs et de leurs espaces en ligne, en veillant à ce que des activités criminelles ne soient pas hébergées sur leurs plateformes. Elles ne devraient pas attendre la Loi sur la sécurité en ligne pour cela. Elles ont déjà des responsabilités légales que nous allons leur rappeler », a-t-il ajouté.
Limites de la Loi sur la sécurité en ligne
Bien que plusieurs infractions de la Loi sur la sécurité en ligne soient déjà en vigueur, notamment celles liées aux communications menaçantes et aux fausses communications, il reste incertain si ces dispositions s’appliqueraient aux utilisateurs de médias sociaux organisant des émeutes racistes.
Mark Jones, associé chez Payne Hicks Beach, a déclaré que bien que les émeutes aient été déclenchées par des informations erronées concernant les meurtres de Southport, la loi ne fournit pas de soutien supplémentaire pour traiter cette désinformation ou l’incitation à la violence qui en a résulté. « La Loi sur la sécurité en ligne 2023 aurait pu être un moment décisif dans notre lutte contre les préjudices causés par la désinformation. Cependant, la version finale de la loi ne répond pas à l’intention initiale du gouvernement de faire du Royaume-Uni l’endroit le plus sûr en ligne. Les seules références à la désinformation dans la loi concernent la création d’un comité pour conseiller Ofcom et des modifications à la politique de littératie médiatique d’Ofcom. »
Jones a ajouté que bien que la nouvelle infraction de fausses communications interdise l’envoi intentionnel d’informations fausses pouvant causer des dommages psychologiques ou physiques « non triviaux » aux utilisateurs en ligne, cette disposition vise principalement les trolls d’Internet et ne couvrirait probablement pas les événements récents.
« Au lieu de cela, la police devra probablement s’appuyer sur les infractions prévues par la Loi sur l’ordre public de 1986, qui est la principale législation pénalisant l’utilisation de la violence et/ou de l’intimidation par des individus ou des groupes. Bien que le ministre de l’Intérieur ait déclaré que « si c’est un crime hors ligne, c’est un crime en ligne », la Loi sur la sécurité en ligne ne fournit aucun soutien supplémentaire à la législation pénale existante concernant les incidents d’incitation à la violence. »
Technologie accréditée
Des inquiétudes persistent également quant au pouvoir d’Ofcom, en vertu de la loi, d’ordonner aux services de messagerie chiffrée d’utiliser une « technologie accréditée » pour rechercher et supprimer du contenu illégal, ce qui pourrait compromettre l’utilité et la sécurité des communications chiffrées.
Selon la clause 122 de la loi, Ofcom a le pouvoir d’exiger que les fournisseurs de services de messagerie développent et déploient des logiciels capables de scanner les téléphones à la recherche de matériel illégal. Connue sous le nom de « scan côté client », cette méthode compare les valeurs de hachage des messages chiffrés à une base de données de valeurs de hachage de contenu illégal stockées sur l’appareil de l’utilisateur.
Les fournisseurs de communication chiffrée ont déclaré que le pouvoir d’Ofcom d’exiger une surveillance généralisée dans les applications de messagerie privée de cette manière « réduirait catastrophiquement la sécurité et la confidentialité pour tous ». Le directeur général d’Ofcom, Melanie Dawes, a précédemment affirmé que l’organisme ne jouerait pas le rôle de censeur, mais s’attaquerait aux causes profondes des préjudices en ligne. « Nous établirons de nouvelles normes en ligne, veillant à ce que les sites et les applications soient plus sûrs par conception », a-t-elle déclaré.
