L’IA en voyage : Les déchets artificiellement intelligents prennent le contrôle d’Internet

Aujourd’hui, on ne peut pas se passer de l’intelligence artificielle. De nombreux experts autoproclamés nous en assurent, surgissant de tous les coins au cours de l’année écoulée pour promouvoir l’intelligence artificielle là où elle est et n’est pas nécessaire. Bien qu’il y a quelques années, l’IA n’était discutée que timidement, et que les experts dans le domaine pouvaient se compter sur une main, avec l’émergence de ChatGPT, tout le monde est soudainement devenu un expert, et l’intelligence artificielle est intégrée dans tous les aspects de nos vies. Tout le monde a loué ChatGPT d’OpenAI, affirmant qu’il remplacerait de nombreuses personnes et emplois, promettant plus de temps libre et qui sait quoi d’autre. Mais il est vite devenu clair que ChatGPT, comme tous les autres modèles, tels que Gemini, Claude et Le Chat, souffre de ce que les experts ont qualifié de – hallucinations.

À savoir, peu importe combien de personnes jurent par l’IA, elle est encore loin de la véritable intelligence artificielle, et en ce qui concerne les hallucinations, parfois on peut vraiment penser que certains de ces modèles d’IA sont en fait sous acide ou, comme on dit dans la rue, en train de tripper. Ce qui est pire, dans 99 % des cas, ce sont des modèles de langage en mode woke, rendant la situation encore plus comique. Mais les modèles de langage ne sont pas le seul problème. Tous les autres résultats d’IA, de la musique IA, de la photographie à la vidéo, souffrent d’hallucinations et produisent souvent des absurdités totales. Par exemple, la plupart des modèles d’IA qui convertissent des mots en images ne savent toujours pas combien de doigts une personne a sur une main, donc nous voyons souvent des femmes générées par IA (qui gagnent sur les réseaux sociaux) avec des doigts supplémentaires, des jambes étranges, etc.

Spam, spam, spam

Les déchets d’IA sont déjà abondants dans l’immensité d’Internet, et tel que les choses se présentent, les déchets générés par l’intelligence artificielle ne feront qu’augmenter. Ces déchets d’IA ont récemment reçu leur nom – slop. Slop est en fait un parent éloigné du bien connu spam. Spam, comme nous le savons, est du courrier indésirable qui est principalement envoyé en grande quantité dans le but de faire de la publicité ou de frauder le destinataire. L’émergence du spam peut être retracée jusqu’au début du courrier électronique, et il est devenu de plus en plus présent dans les années 90. Fait intéressant, le premier cas documenté de spam a eu lieu le 3 mai 1978, lorsque Gary Thuerk, un responsable marketing de Digital Equipment Corporation (DEC), a envoyé un e-mail de masse aux utilisateurs d’Arpanet (le précurseur d’Internet). Il a envoyé un message à 393 adresses promouvant une nouvelle série d’ordinateurs DEC. Cet événement est devenu connu comme le premier cas de spam par courrier électronique. Un autre fait intéressant sur le spam est que le sens linguistique du mot spam est attribué à la troupe de comédie britannique Monty Python dans le désormais légendaire sketch de leur série télévisée ‘Flying Circus’ dans lequel un groupe de Vikings demande du spam, spam, spam.

Le déversement

Et après spam, voici slop. Le terme slop est devenu populaire il y a quelques mois lorsque Google a intégré son IA Gemini dans son moteur de recherche, qui au lieu de diriger les utilisateurs vers des liens, offre ses solutions et réponses d’IA en haut des résultats de recherche sous le nom de ‘vue d’ensemble de l’IA’. Ce changement de Google était une réaction à Microsoft qui a également intégré l’IA dans ses résultats de recherche sur Bing. Le problème, cependant, est que la plupart de ce contenu d’IA est soit inexact, soit trompeur, et il existe en quantités vastes. D’où le nom slop, qui désigne ‘une pile de nourriture insipide qui est déversée dans des troughs pour le bétail’. Une analogie intéressante, mais tout à fait précise. Ainsi, notre sainte IA déverse rapidement ses informations trompeuses et pas nécessairement précises en grande quantité devant nous.

Au moins, ce n’est pas interactif

Le slop, cependant, n’est pas interactif contrairement à divers chatbots et modèles de langage, et son but est rarement de répondre aux questions des utilisateurs. Au lieu de cela, il fonctionne principalement pour créer l’impression de contenu créé par des humains, exploiter les revenus publicitaires et diriger l’attention des moteurs de recherche vers d’autres pages. Tout comme le courrier indésirable, presque personne ne veut regarder ces déchets, mais l’économie d’Internet continue de les créer. Et tout comme le courrier indésirable, son effet global est négatif, gaspillant le temps et les efforts des utilisateurs alors qu’ils doivent maintenant trier la saleté pour trouver le contenu qu’ils recherchent réellement.

Kristian Hammond, directeur du Center for the Advancement of Machine Intelligence à l’Université Northwestern, a noté que le problème avec le modèle actuel de vue d’ensemble de l’IA est qu’il se présente comme une réponse finale à une requête, plutôt que comme un point de départ pour que les utilisateurs explorent un sujet. Hammond dit que ‘chercher sur Internet devrait vous inciter à réfléchir, et les résultats de l’IA ne vous encouragent pas à penser mais plutôt à accepter ces réponses comme des faits, ce qui est assez dangereux’.

Internet zombie

Et il y a déjà de nombreux exemples de slop. Par exemple, un article généré par Microsoft Travel indique que ‘La Banque Alimentaire d’Ottawa’ est une attraction que chaque touriste doit voir en visitant la capitale du Canada. De plus, les livres générés par l’IA deviennent un problème croissant. Un exemple est un livre sur les champignons qui est apparu sur Amazon. Peu après sa publication, des cueilleurs amateurs ont averti que le livre avait probablement été écrit par l’IA, car il regorge de conseils dangereux pour ceux qui espèrent distinguer les champignons vénéneux des champignons comestibles. Cependant, l’ ‘auteur’ de ce livre ne semblait pas se soucier de savoir si quelqu’un cueillant des champignons allait manger son dernier à cause du livre.

Sur Facebook, les images générées par l’IA ont également prospéré, avec des images de Jésus-Christ avec des crevettes à la place des mains, des enfants dans des voitures en plastique, de fausses maisons de rêve, et d’incroyables vieilles dames prétendant avoir cuit un gâteau pour leur 122e anniversaire récoltant des milliers de partages et de likes.

Jason Koebler du site d’actualités technologiques 404 Media pense que cette tendance représente ce qu’il appelle l’ ‘internet zombie’. L’essor du slop, dit-il, a transformé ce réseau social en un espace où ‘des bots, des personnes et des comptes qui étaient autrefois des personnes se mélangent pour créer un réseau social catastrophique avec très peu de connexions sociales’.

Ainsi, même si Facebook a récemment été inondé de bots, d’images et de vidéos d’IA, Nick Clegg, responsable des affaires mondiales de la société mère de Facebook, Meta, a écrit en février que le réseau social forme ses systèmes pour reconnaître le contenu créé par l’intelligence artificielle.

– Alors que la ligne entre le contenu humain et synthétique s’estompe, les gens veulent savoir où se trouve la limite – a-t-il écrit.

Servir des absurdités

Cependant, comme nous le voyons, Facebook a toujours des problèmes significatifs pour reconnaître ce qui est humain et ce qui ne l’est pas, et le problème a commencé à concerner la principale source de revenus de l’industrie des médias sociaux : les agences de publicité, qui paient pour placer des annonces aux côtés du contenu. Farhad Divecha, directeur de l’agence de marketing numérique AccuraCast basée au Royaume-Uni, dit qu’il rencontre maintenant des cas où les utilisateurs étiquettent par erreur des annonces comme du slop créé par l’intelligence artificielle alors qu’elles ne le sont pas.

– Nous avons vu des cas où des gens ont commenté que l’annonce est une absurdité créée par l’intelligence artificielle alors que ce n’était pas le cas – souligne-t-il, ajoutant que cela pourrait devenir un problème pour l’industrie des médias sociaux si les consommateurs commencent à sentir qu’on leur sert des absurdités tout le temps.

Et cela arrivera inévitablement car le pouvoir croissant de l’intelligence artificielle signifie que sa capacité à générer de nouveaux textes, images, vidéos et autres types de contenu deviendra meilleure, plus rapide et plus grande, ce qui signifie que ce matériel inondera Internet, donc nous ne pourrons pas échapper au slop, mais nous devrons apprendre à le reconnaître. Ainsi, nous pouvons conclure ce texte avec un acronyme commun dans le monde des cryptomonnaies, qui est DYOR ou faites vos propres recherches, qui devient obligatoire pour tout ce que vous voyez et lisez sur Internet, car comme nous le voyons, le slop ou les déchets prennent le contrôle de notre web mondial.