Pale : Il n’existe toujours pas de technologies capables de comprendre le monde comme les humains

Avant la pandémie de coronavirus, personne n’aurait pu imaginer à quoi ressemblerait l’avenir du travail, Predrag Pale prédisait déjà que nous travaillerions de plus en plus depuis chez nous. Aujourd’hui, alors que l’intelligence artificielle change le monde plus rapidement que toute technologie auparavant, nous étions curieux de savoir ce qu’il pense nous attendre avec cette technologie révolutionnaire, si plus d’emplois seront créés ou disparaîtront, et si nous avons des raisons d’avoir peur.

Pale est en fait un expert en technologie de l’information, en éducation et en sécurité des systèmes d’information, l’un des fondateurs de CARNET, et un pionnier du réseautage informatique en Croatie.

Depuis près de quatre décennies, il enseigne à FER, où il a conçu une dizaine de cours, et dirige actuellement le seul cours de sciences sociales pour les étudiants de première année. Il plaide pour des changements plus rapides dans l’éducation, plus de collaboration, et sortir de la zone de confort tant dans les universités que dans la société.

Presque toutes vos prédictions d’avant la pandémie se sont réalisées. L’avenir est-il prévisible?

– Avant la pandémie, lorsque je demandais à quelqu’un : ‘Pouvons-nous résoudre cela en ligne?’, c’était une insulte, comme si vous ne vouliez pas rencontrer cette personne. Et aujourd’hui, après la pandémie, lorsque quelqu’un dit : ‘Nous devons nous rencontrer physiquement’, vous répondez : ‘Allez, nous allons le résoudre en ligne.’ Ce changement s’est produit très rapidement, et il est important pour comprendre toute l’histoire sur la technologie et son application. Je n’étais pas voyant ; je savais juste ce que la technologie pouvait faire. Cet exemple montre bien que juste parce que la technologie peut faire quelque chose, cela ne signifie pas que nous l’utiliserons de cette manière.

Nous sommes lents ; nous changeons lentement nos habitudes, nos vues sur la vie et le monde. Par exemple, je pense que je peux prédire quelles technologies réussiront, mais ni moi ni personne d’autre n’avons prédit les réseaux sociaux. Pourquoi ? Parce que nous étions complètement aveugles à la psychologie, au besoin humain d’être quelqu’un, de se montrer. La technologie reste inutilisée jusqu’à ce que l’interface utilisateur appropriée apparaisse. Cela a été le cas avec les sites Web, par exemple. Ce n’est que lorsque nous avons eu un langage de programmation et un écran capable d’afficher des images en couleur, suffisamment bon marché pour que la plupart des gens puissent se le permettre, que l’application de cette technologie a décollé. D’une part, vous avez besoin d’un bon matériel et d’un bon logiciel pour utiliser la technologie, et d’autre part, d’un besoin humain. La pandémie a créé un besoin de nous rencontrer, d’éduquer et de travailler à distance, sans contact physique. Les réseaux sociaux naissent d’autres besoins psychologiques. Et c’est pourquoi il est difficile de prédire l’avenir.

Aujourd’hui, nous avons une nouvelle force qui influence nos vies, l’intelligence artificielle. Que pensez-vous, comment son développement affectera-t-il les emplois ?

– Tout d’abord, nous n’avons pas d’intelligence artificielle ; c’est un terme marketing. Ce que nous avons, ce sont des machines de divers degrés d’automatisation qui deviennent de plus en plus puissantes parce que nous avons des processeurs plus rapides, plus de mémoire, et de nombreuses personnes qui inventent constamment de nouveaux algorithmes. Mais nous n’avons pas d’intelligence parce que nous ne savons même pas ce qu’est l’intelligence humaine. Nous ne comprenons pas pleinement le rôle des émotions, de l’intuition et de l’empathie. C’est pourquoi il est difficile de créer une intelligence artificielle comme les médias la présentent, celle qui peut vraiment converser et comprendre comme un humain. Maintenant, nous craignons que des emplois disparaissent, et ils disparaissent constamment. Connaissez-vous quelqu’un qui est dactylographe ou sténographe aujourd’hui ? Ces professions ont disparu dans un murmure sans que personne ne s’en aperçoive. Il semble qu’avec des technologies comme la 4G, la 5G et de grands modèles de langage, les machines peuvent faire ce qu’une personne intelligente peut faire. Cependant, il s’avère que pour de nombreux emplois que nous pensions nécessiter une haute intelligence humaine, ce n’est en fait pas nécessaire. Le moment est venu de repenser de nombreux emplois que les gens occupent. S’ils impliquent seulement le traitement de grandes quantités de données, peut-être que cela n’a pas besoin d’être fait par un humain, mais par un ordinateur.

Que feront les gens alors ?

– En raison de la rapidité, des économies de coûts et d’un manque de personnes, la technologie entrera de plus en plus dans des emplois qui ont jusqu’à présent été effectués par des humains. Ces personnes deviendront redondantes, et par conséquent, elles devraient apprendre quelque chose de nouveau. Beaucoup d’entre nous ne sont pas rapides à apprendre de nouvelles choses ou à changer de carrière. Contrairement, par exemple, à l’Amérique du Nord, où il est normal de changer radicalement de carrière, nous, en bonne vieille Europe, dans la conservatrice Croatie, n’aimons pas cela. Nous n’aimons pas bouger ou changer d’emploi. Nous aimerions faire les mêmes emplois toute notre vie. Et puis nous nous sentons menacés. Nous sommes sensibles et divisés en ce qui concerne les voitures autonomes, mais cela arrivera certainement. Cette année, dans cinq ans, ou dans vingt, il est difficile de dire, car nous ne dépendons pas seulement de cette technologie mais aussi de la préparation de la société, des réactions, des médias, des intérêts politiques et inter-étatiques. Imaginez simplement combien d’autres emplois administratifs disparaîtront.

Avez-vous un exemple de ces emplois administratifs, ou de ces soi-disant emplois de cols blancs, qui sont en danger ?

– Par exemple, les traducteurs. Nous avons déjà de très bons outils. Tous ne disparaîtront pas ; le domaine dans lequel nous en aurons besoin se rétrécira. Avec les signatures numériques, le scan, les archives numériques et les formulaires, je ne sais pas comment nous allons définir ou redéfinir le travail d’un notaire, qui certifie, connecte une personne avec votre signature. Je me trompe peut-être, mais nous verrons. Pour l’instant, nous ne voyons pas encore de technologies qui pourraient vraiment comprendre le monde comme les humains. Parce que nous parlons d’ontologies, de connaissances, de connexion de différentes connaissances. Ce n’est que lorsque cela sera réalisé que la technologie pourra peut-être fournir le bon conseil. Par exemple, des conseils juridiques, psychologiques, de santé, artistiques… Ce sont des domaines où une compréhension profonde du contexte et des nuances est requise, ce que la technologie d’aujourd’hui ne peut pas encore atteindre. Ce qui peut être décrit avec des formules et des processus définis, par exemple, comment les carreaux sont collés et comment une équation est calculée, les ordinateurs pourront faire tout cela. Là où nous ne pouvons pas fournir une règle claire, nous avons besoin d’un humain.

Pensez-vous que de nouveaux emplois émergeront qui n’existaient pas auparavant, et y en aura-t-il plus que ceux qui disparaîtront ?

– Je ne suis pas un expert en la matière, mais d’un point de vue profane, j’ai l’impression que de nombreuses professions émergeront que nous, les vieux, appellerions inutiles, et les gens seront prêts à payer pour elles. Ce sont, par exemple, des professions dans le domaine du divertissement, où je parle de musique, de film, de jeux, de sports professionnels, et de diverses autres formes de contenu. Les choses essentielles pour la simple survie, comme la production alimentaire et énergétique, nécessiteront de moins en moins de personnes impliquées dans ces processus.

Malheureusement, il y a aussi ceux dans le monde qui utiliseraient l’IA à des fins malveillantes. À quel point cela est-il dangereux, non seulement pour le marché du travail mais pour la société dans son ensemble ?

– Malheureusement, les humains sont capables de mal utiliser n’importe quel outil, et pas seulement au détriment des autres mais aussi au détriment d’eux-mêmes. Peut-être que j’ai même plus peur de l’utilisation incompétente et non éduquée que de la malveillante. Je crains que nous utilisions l’IA pour quelque chose pour quoi elle n’est pas bonne, ou que nous lui attribuions des fonctions qu’elle ne devrait pas avoir. Nous laisserons la ‘prise de décision’ à cet outil, quel que soit le résultat du programme, sans poser de questions. Ou nous choisirons le mauvais programme basé sur des données incorrectes pour un but erroné. C’est pourquoi il est très important de savoir avec quelles données on travaille et à quelle fin l’outil est utilisé. L’Europe essaie de protéger les citoyens avec des réglementations et des lois, mais nous ne pouvons pas adopter une loi qui nous protégera de quelque chose que nous ne savons pas encore exister. La question doit d’abord apparaître, elle doit commencer à être appliquée, nous devons voir les conséquences négatives, et seulement alors pouvons-nous penser à une loi. Et même lorsque nous en venons à en proposer une, nous devons encore être capables de l’appliquer.

Dans les années 1990, vous étiez assistant en informatique au Ministère de la Science et de la Technologie, période durant laquelle vous avez fondé CARNET et amené Internet en Croatie. Que conseilleriez-vous, par exemple, au Ministre de la Transformation Numérique aujourd’hui ?

– Eh bien, j’aurais peur ; c’est une chose très responsable. D’un autre côté, j’ai une vision du monde que j’ai défendue à l’époque, dans les années 90, bien que pas très avec succès, et c’est que le seul espoir et l’obligation certaine est que nous soyons tous aussi éduqués que possible. Cela signifie réduire autant que possible l’écart entre ce que nous utilisons et à quel point nous le connaissons bien. J’ai toujours plaidé pour que les gens, en particulier ceux qui les servent – administration, politiciens, dirigeants – soient très éduqués en ce qui concerne la technologie qu’ils utilisent et pour laquelle ils sont responsables, afin qu’ils fassent le moins d’erreurs possible dans la prise de décision. En ce qui concerne l’intelligence machine, si elle génère avec précision des réponses pour des devoirs de lecture, cela signifie-t-il que nous ne devrions pas permettre aux enfants d’utiliser de grands modèles de langage ? Excusez-moi, mais c’est absurde. Cela signifie seulement que notre tâche pour l’étudiant n’est pas bien définie. À mesure que les outils deviennent plus puissants, nous devrions également changer ce que nous demandons réellement aux étudiants.

Que conseillez-vous à vos étudiants qui entrent sur le marché du travail, comment devraient-ils se préparer à des carrières futures qui pourraient même ne pas encore exister ?

– Nous ne pouvons pas préparer les enfants pour l’avenir. Nous pouvons seulement les préparer à maîtriser ce qui est connu aujourd’hui. Avec l’avènement d’Internet, et maintenant avec ChatGPT, on peut apprendre des équations quadratiques, la grammaire, et des choses similaires avec l’aide d’un ordinateur. La question se pose de savoir à quoi nous avons besoin d’enseignants. À mon avis, un enseignant doit être un maître dans son domaine, mais aussi un mentor, observant, guidant, permettant à l’étudiant de trébucher et de faire des erreurs pour apprendre, car nous apprenons seulement par les erreurs. Par exemple, j’enseigne un cours obligatoire sur les compétences en communication en première année. Je l’ai complètement réformé, et maintenant j’enseigne aux étudiants comment rédiger un CV et une lettre de motivation. Je leur enseigne également pourquoi des conflits surviennent, quelles en sont les causes, et les solutions. Je leur enseigne aussi comment conduire des réunions afin qu’elles ne soient pas ennuyeuses et inutiles. Je leur enseigne comment rédiger des textes professionnels, scientifiques et populaires, comment trouver et vérifier des informations, comment prendre des photographies et des vidéos, faire des présentations, parler en public, et négocier.

Comment les étudiants de la faculté technologique réagissent-ils à de telles tâches ?

– Tout le monde veut souder et programmer ; ils viennent à l’université avec cet état d’esprit. Et s’ils doivent suivre un tel cours, ils préféreraient le faire à la fin, pas au début. Bien sûr, il y a toujours des exemples brillants ; certains se manifestent et louent le contenu du cours. Maintenant que ce cours est dirigé par mon collègue le professeur assistant Juraj Petrović et moi depuis neuf ans, nous avons aussi ceux qui ont déjà obtenu leur diplôme, et à mesure qu’ils vieillissent, nous entendons de plus en plus de louanges. Ils disent qu’ils réalisent maintenant à quel point c’était bon et utile. Bien que, par exemple, lorsque nous leur enseignons comment rédiger un CV, nous leur donnons des exemples de ce qu’ils pourraient écrire en tant que nouveaux étudiants. Des exemples comme : ‘J’ai gardé des enfants’, ‘J’aime les robots’, ‘Je n’ai jamais fait quoi que ce soit de pratique, mais je peux apprendre beaucoup si je travaille avec vous.’ Et je leur explique pourquoi c’est important et ce que cela signifie pour un employeur qui, par exemple, leur accorde une bourse. Nous nous efforçons de rendre tout cela utile, mais vous ne pouvez pas les changer du jour au lendemain. Ils viennent d’un système scolaire qui les a façonnés pendant douze ans. Nous rencontrons de nombreux problèmes. Par exemple, ils ne savent pas comment apprendre de manière autonome et efficace. Et ces compétences sont cruciales, celles que les employeurs recherchent lorsque les jeunes entrent sur le marché du travail.

D’un autre côté, les employeurs doivent également s’adapter. Où pourraient-ils se tromper, attendent-ils trop ?

– Si nous parlons des universités et des facultés, je crois que mon ou notre travail n’est pas de créer un travailleur pour l’employeur qui produira pour lui demain. Notre travail est de créer un travailleur qu’ils peuvent préparer au travail avec une formation courte et facilement requalifier. Il est essentiel que ce travailleur sache apprendre et comprenne fondamentalement les choses afin qu’il puisse rapidement maîtriser tout ce qui est nouveau, car tout change rapidement. Aujourd’hui, un langage de programmation est populaire, demain un autre. Je ne prétends pas que notre étude et notre faculté, ou toute autre à l’échelle mondiale, sont suffisamment bonnes. Nous aurions dû radicalement changer certaines choses depuis longtemps, mais cela est lent. Les universités sont des systèmes lents partout dans le monde, et ce n’est pas bon, mais cela ne signifie pas que les étudiants devraient être enterrés dans la théorie avec peu de pratique. En fait, je crois que notre éducation scolaire entière devrait inclure beaucoup plus de pratique, et cela ne se produit pas.

Dans votre riche carrière, vous vous êtes également aventuré dans l’entrepreneuriat. Vous êtes co-fondateur de la société Nobium, mais vous n’avez pas de rôle exécutif dans celle-ci ?

– Avant de venir à la faculté, j’ai travaillé pendant quatre ans dans l’industrie et dans les années 1980, j’ai fondé une entreprise en Autriche avec un partenaire autrichien, où nous avons travaillé sur un langage pour bases de données. Lorsque je suis devenu assistant ministre, j’ai tout remis à mes partenaires. Lorsque je suis revenu du ministère, je suis revenu à la faculté. Les professeurs Hrvoje Babić et Branko Jeren (Ministre de la Science, de la Technologie et de l’Informatique de 1993 à 1995, ndlr) ont établi un groupe à FER qui travaillait sur l’instrumentation informatique pour l’Institut Maritime et de Génie Civil, quelque chose de très spécialisé et spécifique, et j’étais le premier employé. Plus tard, j’ai pris la direction de ce groupe, et je suis en fait entré dans l’enseignement par hasard. Lorsque nous travaillions sur CARNET dans ce groupe, qui était un travail parallèle pour moi en plus de la faculté, le besoin est apparu de concevoir un réseau informatique.

À la fin, nous avons conclu que quelques-uns d’entre nous devaient établir une entreprise, et ainsi Nobium a été fondée en 2002, qui s’occupe de la conception et de la supervision de la construction de réseaux informatiques. Je suis responsable des questions techniques et de la gestion stratégique de projets. Nobium s’occupe également de la sécurité informatique, que je dirige au niveau de la recherche et de l’éducation à la faculté. La partie opérationnelle de Nobium est gérée par d’autres personnes. En 2005, nous avons également fondé une deuxième entreprise, Aquilonis, car nous voulions être la première entreprise croate de gestion des connaissances. Donc, nous sommes engagés dans la gestion des connaissances. La gestion des connaissances est nécessaire pour que vous ne fassiez qu’une seule erreur et acquériez des connaissances une seule fois.

Quelle est la demande pour de tels services ?

– Malheureusement, trop peu. En Croatie, les gestionnaires et les politiciens sont ceux qui conduisent le changement, mais personne ne sait qu’il existe une profession de gestion du changement qui peut être enseignée. Pendant des années, j’ai enseigné aux étudiants comment gérer les changements, les projets, les réunions et les conflits. C’est pourquoi ils m’ont confié la responsabilité de prendre en charge ce sujet, car ils savaient que je le faisais pour l’industrie depuis des années. Nous faisons de nombreux projets avec des écoles, et juste aujourd’hui, j’ai reçu une demande d’une entreprise pharmaceutique.

Dans des interviews précédentes, vous avez souligné que la Croatie devrait se tourner vers l’artisanat et les métiers, pas l’industrie. Croyez-vous toujours cela ?

– Je ne pense pas que nous devrions ne pas avoir d’industrie, mais trop d’accent est mis sur le ‘grand’. Comparé, par exemple, à l’Inde, la Croatie est petite et insignifiante. Il n’a pas de sens pour nous de rivaliser dans la production de chaises en plastique ou quoi que ce soit d’autre. En tant que profane, il me semble que la mauvaise gestion de l’État a fait que nous ne produisons pas toute la nourriture et les textiles dont nous avons besoin. Peut-être que nous n’avons pas besoin de produire des voitures et des ordinateurs, mais pour survivre dans le monde, nous pouvons nous engager dans des niches. Je reviendrai à l’intelligence machine : dans l’artisanat, l’art, la science et l’éducation, où il n’y a pas de production de masse et où le travail bon marché et les robots ne peuvent pas fonctionner, un humain, la créativité humaine, est nécessaire. C’est vers cela que nous devrions nous tourner. À mesure que les gens deviennent plus riches dans le monde, ils voudront des produits plus uniques, non industriels. Dans cela, je crois qu’une petite nation comme la nôtre peut avoir une belle opportunité dans le monde.