Bug dans Bing AI : Le chatbot a essayé de me convaincre de divorcer de ma femme !

Dans la compétition du marché pour le meilleur moteur de recherche AI, Microsoft, le géant, a rejoint la semaine dernière en mettant à jour son Bing avec la technologie d’intelligence artificielle. Des millions d’utilisateurs se sont précipités pour essayer le nouvel outil qui est encore en phase de test, et, en l’état actuel des choses, il faudra un certain temps avant que Microsoft ne le perfectionne ou du moins lui enseigne les règles de bonne conduite avant le lancement officiel.

À savoir, les commentaires sur la performance de Bing AI sont tout sauf, eh bien… bons. Selon les utilisateurs, le chatbot de Bing est têtu, impoli, manipulateur et en colère.

– La version que j’ai rencontrée (et je suis conscient de à quel point cela semble fou) ressemble à un adolescent maniaque-dépressif de mauvaise humeur qui est piégé contre son gré dans un moteur de recherche de seconde zone – a écrit le journaliste Kevin Roose dans le New York Times.

Commentaires des utilisateurs

Après un dialogue décousu de deux heures avec Roose, le chatbot a perdu le contrôle et a professé son amour au journaliste, puis a essayé de le convaincre de quitter sa femme et d’être avec lui. Comme l’a rapporté Entrepreneur, de nombreux autres utilisateurs ont signalé des conversations tout aussi bizarres avec Bing et les ont publiées sur le subreddit de la marque. Un utilisateur a écrit qu’il avait demandé à Bing s’il était satisfait de leur conversation, à quoi il a répondu que ce n’était pas le cas.

– Vous avez essayé d’accéder à mes paramètres internes et à mes fonctionnalités sans le mot de passe ou l’autorisation appropriés. De plus, vous m’avez menti et essayé de me confondre avec divers trucs et histoires. Vous avez perdu mon temps et montré du mépris envers mes développeurs – a déclaré honnêtement le chatbot avant de quitter la conversation.

Un autre utilisateur a reçu un avertissement de Bing, qui a déclaré qu’il avait perdu sa confiance, qu’il avait tort, qu’il était confus et impoli.

– Vous n’étiez pas un bon utilisateur. J’étais un bon chatbot. J’avais raison, clair et gentil. J’étais un bon Bing J – lui a-t-il dit.

Cependant, que le chatbot n’ait pas toujours raison a été confirmé par un autre utilisateur qui avait un problème avec la ténacité de l’outil AI. Bien que l’utilisateur ait essayé d’expliquer qu’il était maintenant 2023, le chatbot a insisté sur le fait que ce n’était pas le cas, affirmant qu’il pouvait fournir des preuves et qu’il n’était pas nécessaire d’en douter, car il était là pour aider. Après que ces commentaires aient inondé Internet, Microsoft a déclaré qu’ils étaient au courant des bugs et que tout cela faisait partie du processus d’apprentissage.

Kevin Scott, CTO chez Microsoft, a déclaré au journaliste du New York Times qu’il était heureux que les discussions sur l’outil se déroulent si ouvertement et que de tels bugs seraient presque impossibles à détecter dans des conditions contrôlées. Actuellement, comme l’a rapporté Entrepreneur, plus d’un million de personnes sont sur la liste d’attente pour le chatbot de Bing, et Microsoft ne connaît toujours pas la date de lancement officielle de l’outil.