Mobile : Bodyguard, l’appli qui lutte (efficacement) contre le cyberharcèlement

C’est ce qui la caractérise, la jeune génération passe une grande partie de son temps libre en ligne, notamment sur les réseaux sociaux. La rédaction d’Air of melty vous en parle au quotidien, les Millennials se servent des réseaux sociaux pour s’informer, pour communiquer avec leurs proches ou encore pour s’exprimer sur des sujets plus ou moins sérieux. Cette présence intensive sur les réseaux sociaux mène parfois à de la cyberviolence. Il y a quelques mois, l’étude #MoiJeune de 20 Minutes et OpinionWay s’intéressait au sujet en révélant que 53% des jeunes ont déjà subi au moins une situation de cyberviolence sur les réseaux sociaux, passant le plus souvent par des moqueries, un tag sur une photo ou encore des propos diffamatoires et du harcèlement. Et même si les réseaux sociaux cherchent aujourd’hui à lutter contre cela, comme vient de le montrer Instagram en donnant la possibilité à ses utilisateurs d’épingler quelques commentaires positifs, les mesures ne sont pas encore suffiantes. Dans ce contexte, il y a déjà plus de deux ans, un jeune Français a lancé une application mobile destinée à repérer et à modérer automatiquement les commentaires problématiques sur les réseaux sociaux : Bodyguard. Et, en cet été 2020, l’appli monte, monte, monte.

Comme l’expliquait le journal Le Figaro dans un article paru en février 2018, Charles Cohen, 22 ans à l’époque, a créé un service se voulant « plus efficace et plus intelligent » que la modération des réseaux sociaux. « À force de lire des articles sur le harcèlement en ligne, j’ai voulu faire quelque chose », expliquait-il au média. « Le problème de beaucoup d’intelligences artificielles utilisées dans la modération est qu’elles apprennent d’immenses bases de données. Mais la communication humaine est trop compliquée à comprendre pour les machines! Il est important de les accompagner au jour le jour ». C’est ce que fait l’appli Bodyguard, en apprenant à distinguer les mots grossiers dans un message positif et en apprenant aussi à connaître les internautes qu’il doit protéger. Concrètement, en fonction du profil, l’application reconnaîtra les types d’insultes les plus prononcées envers une personne: homophobie, sexisme, antisémitisme, racisme, etc. Concrètement, Bodyguard modère en temps réel toutes les interactions de ses utilisateurs et utilisatrices sur les réseaux sociaux comme YouTube, Twitter ou encore Instagram. « Toutes les 10 ou 20 secondes, nos serveurs récupèrent les commentaires sous vos vidéos YouTube et vos photos Instagram, les mentions sur twitter, les commentaires sur Twitch, et les analysent. Si notre technologie détecte un contenu considéré comme haineux, il est retiré ». En revanche, le service, entièrement gratuit, n’est pas disponible pour Snapchat et Tikok.