Amparo Alonso-Betanzos

Penser petit pour penser grand : plaidoyer pour une intelligence artificielle frugale et durable

Traduction en français

L’intelligence artificielle (IA) évolue à un rythme extraordinaire. En quelques années seulement, des systèmes qui semblaient autrefois être des ambitions lointaines (et je le dis en tant que personne qui travaille dans ce domaine depuis les années 1980) sont non seulement devenus réalité, mais se sont intégrés au tissu de la vie quotidienne, façonnant notre manière de communiquer, de travailler et d’accéder à l’information. En tant que chercheur, je trouve ces progrès à la fois passionnants et inquiétants. Les capacités de l’IA moderne sont réellement remarquables, mais elles nous obligent aussi à affronter une question qui dépasse largement le cadre technique : quel type d’IA voulons-nous construire, et quel rôle doit-elle jouer dans nos sociétés ?

Une préoccupation mérite davantage l’attention du public : l’empreinte computationnelle croissante de ces systèmes. L’entraînement d’un grand modèle d’IA exige d’importantes quantités d’énergie, ce qui fait de l’efficacité, tant logicielle que matérielle, un facteur critique. Selon le AI Index Report 2025, les émissions de carbone liées à l’entraînement de l’IA augmentent fortement à chaque nouvelle génération de modèles : GPT-3 a émis 588 tonnes de CO₂ ; GPT-4, sorti trois ans plus tard, en a produit 5 184 ; et Llama 3.1 405B de Meta, en 2024, a atteint 8 930 tonnes. À titre de comparaison, une personne génère en moyenne environ 5,5 tonnes de CO₂ par an. L’entraînement d’un seul modèle de pointe peut donc représenter les émissions, sur toute leur vie, de plusieurs centaines de personnes. Et au-delà du carbone, l’empreinte hydrique de ces systèmes est tout aussi frappante : l’entraînement de GPT-3 à lui seul aurait nécessité environ 700 000 litres d’eau pour le refroidissement des centres de données.

Pourtant, se concentrer uniquement sur la phase d’entraînement est une erreur courante. Chaque fois qu’un utilisateur interagit avec le système (ce que l’on appelle l’inférence), le modèle consomme aussi de l’énergie, et ce coût représente souvent la plus grande part des émissions totales d’un système sur l’ensemble de sa durée de vie. Pour donner un ordre de grandeur : une seule requête adressée à un grand modèle de langage peut nécessiter jusqu’à dix fois plus d’électricité qu’une recherche Google classique. L’impact sur les réserves d’eau n’est pas moindre : selon certaines études, un court échange de 20 à 50 requêtes utilise concrètement un demi-litre d’eau, rien que pour le refroidissement. Multiplié par des millions d’utilisateurs quotidiens, ce qui ressemble à une discrète tâche de fond devient une pression énorme et incessante sur les ressources mondiales. À cela s’ajoute le fait que les données vieillissent vite. Les modèles doivent être réentraînés régulièrement pour rester à jour, et tant que les architectures d’apprentissage n’évolueront pas vers des approches plus efficaces, nous resterons prisonniers de cette dynamique : consommer toujours plus de ressources simplement pour éviter que nos outils numériques ne deviennent obsolètes.

Le moteur sous-jacent est l’échelle. Le volume de données utilisé pour entraîner les systèmes d’IA double environ tous les huit mois, tandis que les ressources de calcul nécessaires à l’entraînement doublent environ tous les cinq mois. Des jeux de données plus grands exigent des entraînements plus longs, et des entraînements plus longs signifient des factures énergétiques plus lourdes et un coût environnemental plus élevé. Il existe cependant au moins un contre-exemple notable. Le modèle V3 de DeepSeek, publié par le laboratoire chinois fin 2024, a déclaré des émissions d’environ 597 tonnes de CO₂, comparables à celles de GPT-3 en 2020, alors qu’il s’agit d’un système bien plus performant. Cela suggère que des gains d’efficacité sont possibles et que la trajectoire actuelle n’est pas entièrement inévitable. Cela soulève aussi d’importantes questions sur la manière de mesurer et de comparer le coût environnemental de l’IA selon les approches de développement. Les conséquences de cette trajectoire dépassent toutefois le plan écologique. Les ressources nécessaires pour entraîner et déployer des modèles de pointe ne sont pas à la portée de tous les établissements de recherche, universités et organisations, en particulier dans les pays du Sud. Ce n’est pas seulement un défi de durabilité, c’est tout autant un défi d’accès équitable. Lorsque la capacité de développer et de façonner l’IA est concentrée entre les mains d’un petit nombre d’acteurs bien dotés, les bénéfices de la technologie (et les valeurs qu’elle porte) reflètent un éventail restreint de points de vue.

Cette concentration du pouvoir a aussi une dimension de souveraineté qu’il faut nommer clairement. Lorsque les systèmes qui médiatisent notre accès au savoir, la production de textes ou notre interaction avec les services publics sont conçus et contrôlés ailleurs, nous ne sommes pas simplement des consommateurs d’une technologie. Nous dépendons, dans une large mesure, de choix faits par d’autres sur ce que ces systèmes savent, sur ce qu’ils privilégient, et sur les langues et les cultures qu’ils servent. Ce n’est pas une préoccupation abstraite. Les grands modèles de langage entraînés principalement sur des données en anglais sont systématiquement moins performants dans les autres langues, et pas seulement en matière de fluidité. Ils reflètent des présupposés culturels, des cadrages historiques et des jugements de valeur implicites qui sont loin d’être universels. Pour les langues parlées par de petites communautés (en Europe, des langues comme le galicien, le basque, le gallois ou le maltais, parmi beaucoup d’autres), le risque n’est pas seulement une moindre performance, mais une marginalisation progressive : un monde où les systèmes d’IA les plus performants ne parlent tout simplement pas votre langue, ou ne la parlent pas assez bien pour être réellement utiles et refléter vos valeurs et votre culture.

L’autonomie stratégique en matière d’IA exige donc davantage que de la réglementation. Elle exige des infrastructures. Investir dans des capacités de supercalcul et des écosystèmes de centres de données n’est pas une question d’orgueil technologique ; c’est une condition préalable pour que les modèles de fondation puissent être entraînés sur notre sol, selon nos normes, avec nos données, et avec une véritable représentation de la diversité linguistique et culturelle. Sans cette capacité, la souveraineté reste une déclaration d’intention plutôt qu’une réalité concrète.

C’est ici que l’agenda de l’IA frugale devient stratégique, et pas seulement environnemental. Plutôt que de supposer que le progrès passe par des modèles toujours plus grands et plus coûteux en calcul, notre groupe de recherche explore ce que l’on appelle l’IA frugale ou durable : des approches visant à obtenir de bonnes performances avec des ressources plus modestes, moins de données et une consommation d’énergie plus faible, tant à l’entraînement qu’à l’inférence. L’efficacité, en ce sens, n’est pas simplement un problème d’optimisation des ressources ; c’est une philosophie de conception, et, selon nous, une philosophie aussi éthique. Elle est particulièrement pertinente dans les contextes où les contraintes de calcul ne sont pas un choix, mais une donnée. Pensons à l’Internet des objets (IoT), où les modèles doivent fonctionner sur de petits appareils en périphérie, dotés d’une puissance de traitement et d’une autonomie limitées ; ou à la robotique, où les agents doivent apprendre à effectuer des tâches avec peu de temps et peu d’exemples d’entraînement ; ou encore aux situations marquées par la rareté des données ou par des exigences de confidentialité, où l’accès à de grands jeux de données soigneusement constitués est tout simplement impossible. Dans tous ces cas, le paradigme dominant (augmenter l’échelle, collecter plus de données, entraîner plus longtemps) n’est pas une réponse viable.

L’efficacité du matériel s’améliore (d’environ 40 % par an selon les estimations actuelles), mais cela ne suffira pas à compenser la croissance exponentielle de la demande de calcul. Il faut un changement plus large de la culture de la recherche, qui valorise le fait de faire plus avec moins, non comme une contrainte à surmonter, mais comme une vertu à cultiver. L’IA frugale rend plus réaliste l’entraînement de modèles compétitifs sans disposer de l’infrastructure d’un hyperscaler. Elle ouvre une voie réaliste vers la construction de systèmes performants et ancrés culturellement pour les langues disposant de peu de ressources, où les données d’entraînement disponibles sont par nature limitées. Et elle réduit les besoins en énergie et en eau de l’ensemble de la chaîne de développement, en alignant l’ambition technologique sur la responsabilité environnementale.

L’une des directions les plus prometteuses de la recherche en IA durable consiste à repenser non seulement ce que les modèles apprennent, mais aussi la manière dont ils apprennent. L’apprentissage automatique classique suppose l’accès à de grands jeux de données annotées et à des budgets de calcul considérables. Mais l’intelligence humaine ne fonctionne pas ainsi : nous apprenons à partir de quelques exemples, nous généralisons rapidement et nous nous adaptons à de nouvelles situations sans repartir de zéro. Reproduire ces propriétés dans des systèmes artificiels est à la fois un défi scientifique et une nécessité pratique.

Plusieurs pistes de recherche convergent vers cet objectif, et elles constituent le cœur des travaux actuels de notre groupe. Un fil conducteur commun est que nous ne traitons pas la durabilité comme un objectif séparé : la réduction des émissions en équivalent CO₂ est intégrée à la façon dont nous concevons et évaluons nos méthodes, au même titre que la performance prédictive. En apprentissage continu, nous étudions comment des systèmes peuvent acquérir de nouvelles connaissances au fil du temps sans oublier ce qu’ils ont déjà appris, ce qui est essentiel dans des environnements réels et dynamiques, et qui réduit aussi le besoin de réentraîner coûteusement le modèle entier chaque fois que les circonstances changent. Dans le domaine des systèmes de recommandation, nos travaux sur des algorithmes plus efficaces ont permis de réduire d’environ 80 % les émissions en équivalent CO₂ sans sacrifier la performance.

Nous nous attaquons également aux situations où les données annotées sont rares, ce qui est bien plus courant en pratique que les jeux de données propres et entièrement annotés que supposent généralement les benchmarks. Grâce à des techniques comme l’apprentissage PU (PU Learning), qui exploite un petit ensemble d’exemples positifs d’entraînement associé à un vaste ensemble d’exemples non étiquetés, nous avons pu améliorer les performances de modèles identifiant des gènes associés à la restriction alimentaire et à la longévité. C’est un constat que nous faisons de façon répétée : les contraintes n’affaiblissent pas la science. Souvent, elles l’aiguisent. Nous étendons désormais cette direction à l’apprentissage à partir de très peu d’exemples (few-shot) et sans exemple (zero-shot), dont l’objectif est de construire des modèles utiles à partir de très peu de données annotées, ouvrant la voie à des applications dans des domaines où l’annotation est coûteuse, où l’expertise est rare, ou bien où la confidentialité rend impossible la collecte de données à grande échelle.

La frugalité en IA ne concerne pas seulement le calcul. Les données elles-mêmes ont un coût trop souvent négligé : en énergie, en infrastructures, en travail humain et, de plus en plus, en matière de vie privée, de consentement et de représentation culturelle. Qui décide quelles données sont collectées, dans quelles langues, reflétant l’expérience de qui ? Ce ne sont pas des questions purement techniques. La recherche sur les méthodes économes en données, comme l’apprentissage actif, l’apprentissage auto-supervisé ou la génération de données synthétiques, vise à réduire la dépendance à de vastes jeux de données soigneusement constitués sans sacrifier la qualité des modèles, et à le faire dans le cadre de protection de la vie privée que des réglementations comme le règlement européen sur l’IA exigent à juste titre. La capacité d’apprendre à partir de moins de données, et de données qui ne quittent jamais leur source, est en ce sens à la fois une avancée technique et l’expression de valeurs.

Sous-jacente à tout cela, il y a une question culturelle : comment mesurons-nous le progrès des systèmes d’IA ? Pendant une grande partie de la dernière décennie, la référence dominante a été la performance brute : précision sur des jeux de données standard, scores sur des benchmarks de raisonnement, fluidité de la génération de langage. Ces métriques ont permis des avancées remarquables, mais elles ont aussi créé des incitations perverses, récompensant l’échelle avant tout et masquant le coût réel (environnemental, économique et géopolitique) des systèmes que l’on construit. Ce que nous ne mesurons pas compte, et de nouvelles métriques sont nécessaires. Sans elles, ni de meilleurs outils ni des réglementations pertinentes ne verront le jour. Une image plus complète du progrès de l’IA tiendrait compte de la performance par unité d’énergie consommée, par litre d’eau utilisé, par tonne de CO₂ émise. Elle se demanderait non seulement si un modèle peut résoudre un problème, mais s’il peut le faire dans des environnements aux ressources variées et dans toute la diversité des langues et des cultures humaines, en traitant l’étendue linguistique non comme un détail secondaire, mais comme un critère de qualité à part entière.

L’Europe possède à la fois la tradition réglementaire et, de plus en plus, l’infrastructure pour mener cette redéfinition. La question est de savoir si nous choisissons de le faire. L’IA frugale, efficace, ancrée culturellement et construite sur une infrastructure souveraine, n’est pas un lot de consolation pour ceux qui ne peuvent pas rivaliser à la frontière technologique. C’est, selon nous, une vision plus honnête et plus ambitieuse de ce que l’IA devrait devenir.

Lire plus Lire plus