Former l’intelligence artificielle et consommation d’énergie : un problème émergent ou un ‘hype’ ?

Il est bien connu que former l’intelligence artificielle consomme beaucoup d’énergie. Les infâmes chatbots et divers autres modèles d’IA qui comptent des centaines de millions d’utilisateurs hebdomadaires dans le monde et aident beaucoup de gens à accomplir diverses tâches, à créer des visuels réalistes, des graphiques pour les réseaux sociaux ou des vidéos – tous génèrent des factures de serveur substantielles mesurées en mégawatts par heure.

Et il semble que personne, pas même les entreprises derrière la technologie, ne puisse dire avec précision quel est le coût de cette énergie. Cependant, il est certain que la consommation d’électricité dans les entreprises d’IA augmente de manière exponentielle, et certains pensent que cela conduit à une nouvelle crise énergétique aux États-Unis.

Pour être précis, les États-Unis auront besoin d’environ 34 nouvelles centrales nucléaires ou de 38 gigawatts supplémentaires d’électricité au cours des cinq prochaines années pour répondre à la demande des centres de données, des usines et des véhicules électriques, a estimé la société de conseil Grid Strategies dans un rapport soumis au régulateur de l’énergie.

Les entreprises qui utilisent l’intelligence artificielle nécessitent beaucoup d’électricité pour former des modèles linguistiques, produire des puces et d’autres matériels. Une source de demande significative est également l’intelligence artificielle intégrée dans les moteurs de recherche, car elle consomme au moins dix fois plus que les moteurs de recherche classiques.

En 2022, les centres de données, les cryptomonnaies et l’intelligence artificielle ont consommé, selon une analyse récente de l’Agence internationale de l’énergie (AIE), environ deux pour cent de l’électricité dans le monde, et cette part augmentera à l’avenir. Cependant, les États-Unis et leurs concurrents asiatiques sont assez libéraux en ce qui concerne le développement de l’intelligence artificielle et sont susceptibles de tout faire pour accélérer son développement. Et pendant que les titans se battent, l’Union européenne, comme toujours, réglemente prudemment.

– L’approche prudente de l’Europe a ses avantages et ses inconvénients. D’une part, elle peut garantir que nous évitons certains des impacts négatifs potentiels sur la société que l’application rapide de n’importe quelle technologie, y compris celle-ci, peut causer, mais bien sûr, dans le monde numérique mondialisé d’aujourd’hui sans frontières, il est extrêmement difficile d’empêcher l’entrée de cette même technologie dans votre société qui a été développée ailleurs.

D’autre part, si la réglementation devient trop restrictive et bureaucratique et insuffisamment flexible, elle peut sérieusement ralentir le développement de la technologie au sein de l’UE par rapport aux États-Unis, car l’idée que le système réglementaire, qui prend des années à lancer des flèches réglementaires, frappera juste la bonne cible d’un modèle d’IA à haut risque dans un troupeau de modèles d’IA courant rapidement à travers le champ est assez optimiste et peu réaliste. Quoi qu’il en soit, je crois que la réglementation est nécessaire, et je ne suis pas le seul à le penser, comme l’a montré ma récente enquête sur LinkedIn selon laquelle une opinion similaire était partagée par 57 % des personnes – a commenté Davor Aničić, directeur de l’entreprise technologique nationale Velebit.AI, qui s’occupe de l’intelligence artificielle.

Le coût de l’énergie n’est-il pas un problème ?

Prédire que la consommation d’énergie est une limitation clé pour le développement futur est très spéculatif, dit Aničić, car il existe simultanément de fortes tendances dans l’optimisation de l’architecture des modèles et des méthodes de formation ainsi que des processeurs GPU de plus en plus puissants et efficaces qui travaillent dans la direction opposée.

De plus, les modèles ont la capacité de se mettre à jour et de se combiner les uns avec les autres, et il est incertain si les meilleurs modèles à l’avenir seront ceux formés de zéro (ce qui nécessite la consommation d’énergie la plus élevée). En fin de compte, une fois formés, les modèles consomment plusieurs ordres de grandeur moins d’énergie pendant leur utilisation, et la question est de savoir si, même avec une utilisation très large, la consommation d’énergie augmentera considérablement dans un court laps de temps.

– Je ne crois pas que le coût de l’énergie soit un problème. Les modèles linguistiques ont en effet considérablement augmenté en complexité et en coût énergétique ces dernières années, mais cette tendance ne devrait pas être extrapolée pour plusieurs raisons. Tout d’abord, la formation des modèles est relativement rare. Je m’attends à ce que le marché soit dominé par quelques grands modèles ‘prêts à l’emploi’ déjà formés, qui seront optimisés pour fonctionner localement, par exemple, sur des téléphones mobiles, avec des coûts énergétiques très faibles.

Deuxièmement, la tendance dans l’industrie est également l’optimisation de la création et de la formation des modèles eux-mêmes, qui nécessitent moins d’énergie pour la même qualité de sortie. Un exemple dramatique est celui des algorithmes de jeu d’échecs, qui sont maintenant si optimisés que la réentraînement et l’exécution nécessitent très peu d’énergie. L’évolution de ces algorithmes a été telle que le réseau neuronal ‘force brute’ qui nécessitait beaucoup d’énergie et de paramètres a progressivement été remplacé par une structure algorithmique experte optimisée pour le problème donné. Je m’attends à ce que cela se produise également avec les modèles linguistiques, a déclaré Siniša Slijepčević, co-fondateur et directeur de la scaleup croate d’IA Cantab PI et professeur régulier à la PMF de l’Université de Zagreb.

Il a ajouté que le développement même de ‘matériel’ tel que des puces spécialisées pour la formation et l’exécution de modèles d’IA optimise constamment les coûts énergétiques et qu’il croit que cette tendance se poursuivra. L’optimisation énergétique et algorithmique des modèles d’IA est une nécessité pour qu’ils soient utilisables, dit Slijepčević, c’est pourquoi il croit que toute discussion sur l’intelligence artificielle et la durabilité énergétique est infondée.

– La durabilité du développement est certainement un sujet important, et le développement même de l’intelligence artificielle et de ses applications dans de nombreuses industries, la production et la consommation d’énergie, le transport et presque tous les domaines de la société peuvent, s’ils sont utilisés correctement, conduire à des sociétés beaucoup plus durables et à toute la civilisation, conclut Aničić.