ChatGPT est éveillé, et le communiste chinois est formé sur les pensées de Xi Jinping

Il est bien connu que la Chine aime contrôler sa population, mais ce qu’ils ont fait maintenant est vraiment fou. ChatGPT est interdit en Chine, mais cela n’empêche pas les autorités chinoises de travailler sur leurs propres chatbots IA qui ne diront que ce que Pékin veut. Et pour s’assurer que rien d’inapproprié ne sorte des ‘bouches’ des chatbots, il a été décidé de les former exclusivement sur les pensées du président chinois Xi Jinping.

Le dernier modèle de langage large dans le pays a appris de la philosophie politique de son leader, connue sous le nom de ‘Pensée de Xi Jinping sur le socialisme avec des caractéristiques chinoises pour une nouvelle ère’, ainsi que d’autres documents officiels fournis par l’Administration du cyberespace de Chine (CAC).

– L’expertise et l’autorité du corpus garantissent le professionnalisme du contenu généré – a déclaré l’Administration du cyberespace de Chine.

Bien qu’il n’ait pas encore été publié pour un usage plus large et ne soit utilisé que dans un centre de recherche, il ne s’agit que d’une question de temps avant que CHATXi GPT, ou quel que soit son nom, ne voit le jour. Le nouveau modèle peut répondre à des questions, créer des rapports, résumer des informations et traduire entre le chinois et l’anglais, selon l’annonce.

La création du nouveau modèle de langage large a suivi des efforts considérables de la part des responsables chinois pour diffuser les idées de Xi sur la politique, l’économie et la culture sous divers formats. Plus d’une douzaine de livres ont été publiés au nom de Xi, et ses best-sellers occupent généralement le devant de la scène lors des foires du livre dans le pays. Les applications d’actualités populaires de sociétés comme Tencent ou NetEase réservent des places en haut des fils d’actualités des utilisateurs pour des articles des médias officiels, où Xi apparaît la plupart du temps.

Les responsables ont également exigé que les enfants d’école aussi jeunes que 10 ans apprennent sa philosophie politique. Ils ont créé l’application Study Xi Strong Nation pour enseigner et tester les connaissances d’environ 100 millions de membres du parti dans le pays. En 2018, ses idées ont également été inscrites dans la constitution de l’État.

Les tentatives pour s’assurer que l’intelligence artificielle comprenne la philosophie de Xi interviennent alors que les responsables chinois tentent d’équilibrer des contrôles draconiens sur la liberté d’expression dans le pays avec l’encouragement du développement de l’intelligence artificielle.

Valeurs socialistes de l’IA

Le CAC, qui a été à l’avant-garde de l’émission de règles pour l’intelligence artificielle générative et a introduit un régime de licence, exige que les fournisseurs d’IA générative ‘incarnent les valeurs socialistes fondamentales’ et déclare que le contenu généré ne peut ‘pas contenir de contenu qui sape le pouvoir de l’État’.

Cela pose un défi particulier pour les développeurs de modèles en raison des ensembles de données relativement rares disponibles pour former leurs modèles de langage large en langue chinoise. La plupart des groupes ont formé leurs modèles sur des informations en langue anglaise, introduisant le potentiel pour l’intelligence artificielle générative de produire des réponses qui contredisent les normes de discours chinois.

Les géants de la technologie comme Baidu et Alibaba ont veillé à ce que leurs modèles contrôlent strictement le contenu généré lié à Xi ou à d’autres questions potentiellement sensibles. Les chatbots IA génératifs des deux groupes demandent généralement aux utilisateurs de redémarrer les discussions lorsqu’ils sont confrontés à des sujets sensibles.

Pour aider les développeurs à faire face à ce problème, l’Association chinoise de cybersécurité, une organisation à but non lucratif affiliée au CAC, a publié la première base de données publique de 100 millions d’entrées de ‘données de haute qualité et fiables’ pour que les groupes puissent les utiliser dans la formation de modèles. L’ensemble de formation repose fortement sur les réglementations gouvernementales et les documents politiques, les rapports des médias d’État et d’autres publications officielles, selon des sections examinées par le Financial Times.

Un des dizaines de documents textuels dans le paquet de données contient 86 314 mentions de Xi Jinping.

– Nous devons ‘nous assurer qu’en pensée, politique et action, nous sommes toujours en haute conformité avec le Comité central du Parti avec le secrétaire général Xi Jinping au centre’ – conclut la publication.