Collaboration pour la Prévention du Suicide sur les Réseaux Sociaux
Une Initiative Conjointe
Meta, Snapchat et TikTok unissent leurs forces dans une nouvelle initiative visant à détecter et à supprimer les contenus liés au suicide et à l’automutilation, afin de réduire l’exposition des utilisateurs vulnérables. Ce projet, baptisé « Thrive », sera supervisé par la Mental Health Coalition, permettant aux trois plateformes de partager des données sur les contenus préoccupants, ce qui facilitera des actions coordonnées à travers les différentes applications.
Objectifs de l’Initiative
Selon les explications fournies par Meta, « Grâce à Thrive, les entreprises technologiques participantes pourront échanger des signaux concernant les contenus violant les règles sur le suicide ou l’automutilation, permettant ainsi à d’autres entreprises d’enquêter et d’agir si des contenus similaires sont partagés sur leurs plateformes. Meta met à disposition l’infrastructure technique qui soutient Thrive, utilisant la même technologie que celle fournie au programme Lantern de la Tech Coalition, qui permet un partage sécurisé des signaux. »
Règles de Distribution
Il est important de préciser que les trois applications permettent aux utilisateurs d’aborder des préoccupations liées à la santé mentale et de partager leurs réflexions. Cependant, des règles strictes encadrent la diffusion d’images graphiques ou de contenus susceptibles d’encourager le suicide ou l’automutilation, qui est l’objectif principal du programme Thrive.
Partage de Données et Enforcement
Ce projet impliquera essentiellement le partage de données sur ces contenus, ce qui permettra une application plus rapide et plus large des règles. Les données, sous forme de « hashes » identifiables, garantiront que ces contenus puissent être détectés sur chaque application et traités en conséquence. Meta souligne que les données partagées ne permettront d’identifier que le contenu, sans inclure d’informations personnelles sur les comptes ou les individus. Cela permettra une suppression plus rapide de ces matériaux, tout en contribuant à la création de bases de données et de programmes d’application au sein de chaque application.
Collaboration entre Réseaux Sociaux
Les principaux réseaux sociaux collaborent également sur des opérations d’influence, partageant des informations similaires pour détecter et éliminer des initiatives coordonnées visant à tromper et à induire les utilisateurs en erreur. Ce type de collaboration inter-plateformes peut considérablement améliorer les efforts de réponse, et il est encourageant de voir ces trois entreprises travailler ensemble pour renforcer leurs efforts respectifs en matière de protection des utilisateurs.
Impact sur la Santé Mentale des Jeunes
L’augmentation de l’utilisation des réseaux sociaux a été associée à des taux plus élevés de dépression et d’automutilation chez les jeunes. Avec le suicide étant désormais la deuxième cause de décès la plus fréquente chez les jeunes Américains, il est crucial que ces plateformes s’efforcent de réviser et d’améliorer leurs processus de détection afin de garantir la sécurité des utilisateurs.
Conclusion
Cette initiative revêt une importance capitale et pourrait servir de modèle pour une collaboration plus large à l’avenir.
