Le prix de la pensée artificielle chute 13 fois par an, un record historique

Un prix de sortie qui s'effondre pendant que les intrants flambent

Le boom de l'IA fait grimper le prix de ce qu'il consomme : puces, électricité, et même la main-d'œuvre des électriciens. Epoch AI s'intéresse au revers paradoxal de ce phénomène : le prix de ce que produisent les data centers baisse à une vitesse inédite.

L'exemple choisi est parlant. Fin janvier 2025, o3 atteignait 75 % sur GPQA Diamond, un QCM de physique, chimie et biologie niveau doctorat, pour environ 30 centimes par question. Moins de 18 mois après, GPT-5.6 Luna obtient le même score pour 0,0004 $.

Soit une baisse de 725x. Le rapport la traduit en image : une voiture neuve dont le prix passerait de 50 000 à 69 dollars.

Mesurer le coût réel, pas le prix du token

Les travaux précédents raisonnaient en prix par token : Guido Appenzeller (a16z) trouvait 10x par an, une première analyse d'Epoch en mars 2025 entre 9 et 900x selon les benchmarks. Les modèles de raisonnement, lancés avec o1, ont rendu cette approche bancale : ils consomment beaucoup plus de tokens mais s'appuient sur des modèles plus petits et moins chers par token.

Epoch mesure donc le coût réel pour atteindre un score. Plutôt que de faire tourner chaque modèle à tous les budgets possibles, l'équipe reprend une méthode du CAISI : à partir d'un run sans contrainte, on compte les questions résolues correctement sous un budget X de tokens, les autres étant notées au hasard. On obtient ainsi une courbe performance-dépense complète.

Pour éviter les biais, l'équipe a comblé ses trous de données en testant des modèles à faible effort de raisonnement et des petits modèles efficaces, y compris des modèles open weight hébergés sur du matériel loué. Validation : sur cinq modèles aussi disponibles via API, l'écart entre coût direct et prix API reste sous 30 %.

Des modèles statistiques assumés comme approximatifs

L'objet étudié est la frontière de Pareto : le modèle le moins cher capable d'atteindre chaque niveau de performance à une date donnée. Une frontière instable par nature, qu'un seul résultat ajouté ou manquant peut déplacer pendant des mois.

Epoch a testé plusieurs approches : ajustement lissé de la frontière, enveloppe contrainte, régression sur toutes les données, analyse de frontière stochastique. Le modèle retenu est un ajustement Box-Tidwell de la frontière des coûts, qui colle aux données sans produire d'inversions absurdes. Les autres donnent parfois des résultats implausibles, comme des coûts qui augmentent.

Les auteurs renoncent explicitement aux intervalles de confiance et au bootstrap, jugés trompeurs dans ce contexte. Le chiffre de 47 % tombe pile sur la moyenne calculée sans modèle, ce qui renforce sa crédibilité.

La prime de l'état de l'art ne dure pas

Sur trois des cinq benchmarks principaux (AIME, FrontierMath, GPQA Diamond), le coût chute le plus vite juste après qu'un niveau de performance est atteint pour la première fois. En moyenne : 66 % par trimestre au moment où ce niveau devient SOTA, 32 % deux ans plus tard.

L'explication avancée : le labo qui décroche un nouveau record facture brièvement une prime, avant que la concurrence et les progrès techniques n'écrasent le prix. Les puzzles d'échecs et de jeu mystère font exception, avec une légère accélération.

Détail notable : la concurrence la plus féroce près de l'état de l'art oppose surtout des modèles fermés. Un seul modèle open weight, QwQ-32B, apparaît en deuxième position dans les exemples étudiés, même si la pression de l'open source peut jouer indirectement.

Une baisse sans équivalent historique

Epoch estime plausible que ce rythme dure depuis novembre 2021, date d'ouverture commerciale de l'API GPT-3. Indice : GPT-3 obtenait 43,9 sur MMLU pour 60 $ le million de tokens ; Llama 2-7B faisait 45,3 en juillet 2023 pour 0,20 $, soit une baisse de 31x par an.

En comparaison, le prix résidentiel de l'électricité aux États-Unis a baissé de 1,05x par an entre 1892 et 1973, les batteries lithium-ion de 1,16x (1991–2024), le compute de 1,51x (1940–2001), le séquençage ADN de 1,84x (2001–2025).

Les limites, posées par les auteurs eux-mêmes

Premier risque : le benchmaxxing, l'entraînement ciblé sur les benchmarks connus. Mystery Game Puzzles, dont le jeu est tenu secret pour l'éviter, affiche une baisse un peu plus lente (44 % contre 47 %), ce qui suggère une critique « valide mais pas fatale ».

Ensuite, un benchmark n'est pas du travail utile, et aucun utilisateur réel ne jongle en permanence entre les modèles pour rester sur la frontière des coûts. Trois ans de données, c'est court, et les choix de moyenne font varier le résultat entre 42,9 % et 58 % par trimestre.

Enfin, prix en baisse ne signifie pas dépense en baisse : une tâche comme vérifier des milliers de papiers scientifiques pourrait exiger l'équivalent d'un million de runs de benchmark. Et si réussir un test de maths de CP est devenu gratuit, prouver des théorèmes difficiles ne l'est pas.