Un informaticien souvent désigné comme le ‘parrain de l’intelligence artificielle’ a démissionné de son poste chez Google pour s’exprimer sur les dangers de cette technologie, ont rapporté les médias américains.
Geoffrey Hinton, qui a créé la technologie fondamentale pour les systèmes d’intelligence artificielle, a déclaré au New York Times que les progrès réalisés dans ce domaine posent des ‘risques profonds pour la société et l’humanité’.
« Regardez comment c’était il y a cinq ans, et comment c’est maintenant. Regardez à quel point ce saut est significatif, puis élargissez-le encore. C’est effrayant, » a souligné Hinton.
Hinton a déclaré que la concurrence entre les géants de la technologie pousse les entreprises à produire de nouvelles technologies d’IA à des vitesses dangereuses, menaçant des emplois et diffusant de la désinformation.
– « Il est difficile de voir comment vous pouvez empêcher les acteurs malveillants de l’utiliser pour de mauvaises choses, » a-t-il déclaré au Times.
En 2022, Google et OpenAI – la startup derrière le populaire chatbot d’IA ChatGPT – ont commencé à construire des systèmes utilisant des quantités de données beaucoup plus importantes qu’auparavant.
Hinton a déclaré au Times qu’il croyait que ces systèmes éclipsent l’intelligence humaine d’une certaine manière en raison du volume de données qu’ils analysent.
– « Ce qui se passe dans ces systèmes peut en réalité être bien meilleur que ce qui se passe dans le cerveau, » a-t-il déclaré au journal.
Bien que l’intelligence artificielle soit utilisée pour soutenir les travailleurs humains, la propagation rapide de chatbots comme ChatGPT pourrait menacer des emplois.
L’IA ‘prend des emplois difficiles’, mais elle peut en prendre plus que cela, a-t-il dit.
Le scientifique a également averti de la propagation potentielle de la désinformation générée par l’IA, déclarant au Times que la personne moyenne « ne pourra plus savoir ce qui est vrai ».
Hinton a informé Google de sa démission le mois dernier, a rapporté le Times.
Jeff Dean, le scientifique en chef de Google AI, a remercié Hinton dans une déclaration aux médias américains.
« En tant que l’une des premières entreprises à publier des principes d’intelligence artificielle, nous restons engagés envers une approche responsable de l’IA. Nous apprenons continuellement à faire face à de nouveaux risques tout en avançant courageusement, » a-t-il souligné.
En mars, le milliardaire technologique Elon Musk et un certain nombre d’experts ont appelé à une pause dans le développement des systèmes d’IA pour permettre le temps de vérifier et de s’assurer qu’ils sont sûrs.
Une lettre ouverte, signée par plus de 1000 personnes, dont Musk et le cofondateur d’Apple Steve Wozniak, a conduit à la sortie de GPT-4, une version beaucoup plus puissante de la technologie utilisée par ChatGPT.
Hinton n’a pas signé cette lettre à l’époque, mais a déclaré au New York Times que les scientifiques ne devraient pas « augmenter cela tant qu’ils ne comprennent pas s’ils peuvent le contrôler. »
