Sam Altman : Je veux que l’intelligence artificielle aime l’humanité

Sam Altman, PDG d’OpenAI, a exprimé son espoir que l’intelligence artificielle puisse être programmée pour aimer l’humanité, bien qu’il admette que cela n’est pas certain. Il a fait cette déclaration lors d’une interview avec Deborah Spar, doyenne de la Harvard Business School.

Cette déclaration intervient à un moment où les questions concernant une éventuelle ‘révolte’ de l’intelligence artificielle franchissent les frontières de la science-fiction et deviennent le sujet de discussions réglementaires sérieuses. Alors que de telles idées étaient auparavant réservées à la littérature d’Isaac Asimov ou aux films de James Cameron, aujourd’hui, il y a une considération croissante des défis éthiques et de sécurité liés au développement de l’intelligence artificielle.

Altman croit que le projet de développement de l’IA devrait être une entreprise gouvernementale.

– Dans une société fonctionnelle, cela devrait être un projet dirigé par le gouvernement. Cependant, puisque ce n’est pas le cas, il vaut mieux qu’il se développe de cette manière, en tant que projet américain – a-t-il déclaré.

Malgré cela, les progrès sur le front législatif aux États-Unis sont lents. Par exemple, une loi en Californie qui introduirait la responsabilité pour les abus catastrophiques de l’IA, tels que le développement d’armes de destruction massive, a été adoptée par le corps législatif, mais a finalement été veto par le gouverneur Gavin Newsom.

Peurs des experts et défis de sécurité

Certains des principaux experts en IA au monde avertissent que garantir la sécurité de ces systèmes est un enjeu clé. Geoffrey Hinton, lauréat du prix Nobel et l’un des pionniers de l’IA, a déclaré qu’il ‘ne voit pas de chemin qui garantisse la sécurité’, tandis qu’Elon Musk, fondateur de Tesla et l’un des fondateurs d’OpenAI, avertit depuis des années que l’IA pourrait représenter une menace existentielle pour l’humanité. Altman, malgré le procès de Musk contre lui, reste reconnaissant pour le financement initial qui a aidé à établir OpenAI, ce qu’il a confirmé dans l’interview en disant qu’il est toujours reconnaissant envers Elon pour ce qu’il a fait.

Altman croit que l’intelligence artificielle d’aujourd’hui est conçue pour s’aligner sur les objectifs de l’humanité, mais souligne la nécessité d’une définition précise de ce que signifie réellement ‘bien-être’. L’une de ses idées est d’utiliser l’IA pour interroger une large population afin de mieux comprendre leurs valeurs et ensuite aligner le comportement du système avec ces valeurs.

– Je suis intéressé par l’idée que l’IA vous parle pendant plusieurs heures de votre système de valeurs, puis à moi et à tout le monde d’autre, et finalement dit : ‘Je ne peux pas satisfaire pleinement tout le monde, mais je peux travailler vers un consensus’ – a expliqué Altman.

Problèmes au sein d’OpenAI

Malgré l’optimisme, Altman fait face à des défis au sein de sa propre organisation. L’équipe de ‘superalignement’, qui explorait des méthodes pour garantir que l’IA superintelligente ne devienne pas dangereuse, a été dissoute plus tôt cette année. Les leaders de l’équipe, Ilya Sutskever et Jan Leike, ont quitté OpenAI en raison de désaccords avec la direction.

– Développer des machines plus intelligentes que les humains est intrinsèquement une entreprise dangereuse – a écrit Leike sur la plateforme X. Il a ajouté que ‘la culture de la sécurité et les processus sont devenus moins prioritaires ces dernières années par rapport au lancement de nouveaux produits.’ Altman a réagi à son départ avec gratitude, écrivant qu’il apprécie la contribution de Leike à la culture de sécurité d’OpenAI. La question demeure de savoir si l’IA peut vraiment être façonnée selon les valeurs de l’humanité et garantir qu’elle reste une alliée plutôt qu’une menace. Bien que l’optimisme d’Altman puisse être contagieux pour certains, il reste en contraste avec les avertissements de plus en plus forts concernant les problèmes potentiels que l’IA pourrait nous apporter.