Web toxique : Certains êtres valent la peine d’être ignorés

Malgré tous les serments et promesses de prévenir les discours de haine, l’incitation et la distribution de contenu non éthique, un nouveau troll apparaît toujours. Maintenant, ils peuvent se cacher assez habilement dans deepfake, parler avec une voix générée artificiellement d’une personne réputée (vivante ou décédée), et finalement rendre la vie misérable pour les marques et les individus. Il y a de plus en plus de trolls dans le monde virtuel, et ils sont de plus en plus difficiles à reconnaître, donc ils peuvent facilement gâcher votre journée.

Cependant, avant de plonger dans l’histoire des trolls, nous devrions définir ce qu’ils sont réellement. Bien qu’ils soient nommés d’après des êtres mystiques des contes de fées et rappellent un dessin animé pour enfants relativement populaire, les trolls d’internet ou numériques ne sont en aucun cas gentils, drôles ou intéressants.

– En termes simples, ce sont des individus qui veulent délibérément offenser et provoquer d’autres utilisateurs d’internet avec des informations et des commentaires inappropriés ou souvent faux, essayant ainsi d’inciter à des arguments, des réactions négatives et des émotions, et de perturber toute discussion constructive. Beaucoup d’entre eux, bien sûr, utilisent l’anonymat d’internet ou se présentent faussement pour dissimuler leur véritable identité et ainsi éviter les conséquences de telles actions – explique Diana Dumanić, directrice de Red View Media.

Des règles de conduite claires

Dumanić ajoute qu’il est crucial pour la communauté au sens large d’éduquer plus fréquemment et plus bruyamment les utilisateurs d’internet sur la façon de reconnaître les trolls, comment ne pas céder à leurs provocations, et ainsi ne pas les alimenter davantage en s’engageant dans des discussions.

—

—

– Les experts en marketing numérique, afin de protéger l’image de marque et d’assurer une communication de qualité avec le public, devraient d’abord établir et publier des règles de conduite claires interdisant les commentaires offensants. Il est quelque peu possible d’ignorer les trolls et de diriger la communication vers des aspects positifs, mais si cela n’est pas suffisant, il est conseillé de supprimer manuellement ou à l’aide d’outils de modération les commentaires inappropriés. Enfin, il est également possible de bloquer et de signaler les trolls sur les plateformes – déclare Dumanić.

Campagnes coordonnées

Les dernières années ont montré comment l’intelligence artificielle contribue à la propagation de la désinformation, par exemple, lors des campagnes électorales ou dans le contexte de crises sanitaires. Pendant ce temps, les trolls d’internet sont devenus de plus en plus sophistiqués et organisés, menant des campagnes coordonnées pour attaquer des individus ou diffuser de fausses informations. Le problème est aggravé par le fait que l’anonymat est si important sur internet. La plupart des utilisateurs en ligne souhaitent rester anonymes dans les communautés en ligne, rendant difficile pour les plateformes de détecter et de modérer les trolls et les bots.

Les trolls d’internet peuvent être critiques pour la santé mentale des créateurs de contenu et désagréables pour les experts numériques, et alors que nous sommes dans des temps géopolitiques incertains, ils peuvent également être dangereux pour la sécurité nationale. Cette année, il a été révélé que des trolls d’internet russes utilisaient l’intelligence artificielle de sociétés technologiques occidentales pour diffuser de fausses informations sur l’invasion de l’Ukraine par Moscou. Au cours des trois derniers mois, OpenAI, le créateur de ChatGPT, a découvert cinq campagnes secrètes, dont deux ont été menées directement depuis la Russie, et comme les outils russes ne sont pas autorisés à fournir des informations sur la guerre, ils ont dû ‘troller’ à travers d’autres plateformes. En d’autres termes, les trolls ne sont pas inoffensifs, même s’ils peuvent sembler l’être, et l’intelligence artificielle sert à la fois d’outil pour le trolling et d’arme contre les trolls.

Appât pour les facilement enflammés

Nous entendons souvent des histoires de personnes qui ont eu des expériences désagréables avec des trolls, mais jamais une histoire d’un vrai (ou du moins d’un troll quelque peu réel). Un utilisateur de Reddit a décidé d’interagir avec des utilisateurs d’internet et a ensuite partagé ses expériences de trolling.

– Je ne peux pas décrire le nombre de nerds sur internet dont j’ai gaspillé le temps en utilisant même un ChatGPT basique pour créer des publications de troll élaborées. C’est amusant et préoccupant de voir à quel point les gens peuvent être dupés sur internet en pensant qu’ils parlent à un humain. Avec juste quelques phrases bien formulées insérées dans un script python personnalisé, je peux attirer des frères IA dans des débats enflammés ou amener des personnes qui craignent les machines à reconsidérer sincèrement leurs croyances. C’est comme jouer à un jeu de guerre psychologique où je déplace stratégiquement mes mots pour provoquer des réactions et regarder les gens mordre à l’appât. Internet est comme un terrain de reproduction incestueux maudit pour les types de personnalités les plus fous, et il est étonnant de voir combien d’entre eux gaspillent leur temps précieux à argumenter avec mes absurdités. Les gens sont tellement pris dans leurs propres drames mélodramatiques qu’ils ne voient pas la vue d’ensemble de la vie et pourquoi, honnêtement, rien de tout cela n’a d’importance parce que la vie de chacun a une date d’expiration. Ce n’est pas que j’apprécie de gaspiller leur temps, mais j’étais curieux de savoir combien de personnes peuvent réellement dire quand quelque chose a été généré par l’intelligence artificielle et quand une vraie personne est assise derrière l’écran – a écrit l’utilisateur de Reddit.

—

—

Arme efficace

Aussi créatif que soit le style d’écriture et l’intention de cet utilisateur de Reddit, le fait est que les trolls deviennent plus intelligents avec l’utilisation de l’intelligence artificielle, qui est maintenant accessible à tous et est simultanément devenue un avantage significatif mais aussi un problème des temps modernes. Cependant, tout n’est pas sombre. Il existe déjà de nombreux outils pour reconnaître les trolls d’internet qui combinent diverses approches, de l’analyse de texte à l’apprentissage automatique en passant par l’analyse de données, que certains experts en marketing numérique utilisent déjà, nous dit Dumanić.

– Sprout Social, Hootsuite, Buffer et Agora Pulse offrent des outils pour surveiller et modérer les réseaux sociaux et pour étiqueter et supprimer rapidement les commentaires de trolls. Brandwatch analyse les réactions aux campagnes en suivant les sentiments et identifie les commentaires négatifs, c’est-à-dire les activités potentielles de trolls, tandis que Socialbakers permet de surveiller l’engagement sur les publications, d’identifier les commentaires négatifs et de gérer les trolls – énumère Dumanić, ajoutant que bien qu’il ne soit pas entièrement possible, il est certain qu’en éduquant la communauté au sens large, en établissant des règles de conduite claires et des conséquences pour leur violation sur les réseaux sociaux et les forums, en modérant les discussions, et en bloquant et signalant, nous pouvons influencer quelque peu la réduction de tels phénomènes.

—

—