Il prezzo del pensiero artificiale crolla di 13 volte all'anno, un record storico

Un prezzo di uscita che crolla mentre gli input volano

Il boom dell'IA fa salire il prezzo di ciò che consuma: chip, elettricità, persino la manodopera degli elettricisti. Epoch AI si interessa al rovescio paradossale di questo fenomeno: il prezzo di ciò che i data center producono cala a una velocità inedita.

L'esempio scelto è eloquente. A fine gennaio 2025, o3 raggiungeva il 75% su GPQA Diamond, un test a scelta multipla di fisica, chimica e biologia livello dottorato, per circa 30 centesimi a domanda. Meno di 18 mesi dopo, GPT-5.6 Luna ottiene lo stesso punteggio per 0,0004 $.

Un calo di 725x. Il rapporto lo traduce con un'immagine: un'auto nuova il cui prezzo passerebbe da 50.000 a 69 dollari.

Misurare il costo reale, non il prezzo del token

I lavori precedenti ragionavano in prezzo per token: Guido Appenzeller (a16z) trovava 10x all'anno, una prima analisi di Epoch nel marzo 2025 tra 9 e 900x a seconda dei benchmark. I modelli di ragionamento, lanciati con o1, hanno reso quest'approccio traballante: consumano molti più token ma si basano su modelli più piccoli e meno costosi per token.

Epoch misura quindi il costo reale per raggiungere un punteggio. Invece di far girare ogni modello con tutti i budget possibili, il team riprende un metodo del CAISI: partendo da un run senza vincoli, si contano le domande risolte correttamente sotto un budget X di token, mentre le altre vengono valutate a caso. Si ottiene così una curva costo-performance completa.

Per evitare distorsioni, il team ha colmato i vuoti nei dati testando modelli con basso sforzo di ragionamento e piccoli modelli efficienti, inclusi modelli open weight ospitati su hardware noleggiato. Validazione: su cinque modelli disponibili anche via API, lo scarto tra costo diretto e prezzo API resta sotto il 30%.

Modelli statistici assunti come approssimativi

L'oggetto studiato è la frontiera di Pareto: il modello meno costoso capace di raggiungere ogni livello di performance a una data data. Una frontiera instabile per natura, che un solo risultato aggiunto o mancante può spostare per mesi.

Epoch ha testato diversi approcci: adattamento levigato della frontiera, inviluppo vincolato, regressione su tutti i dati, analisi di frontiera stocastica. Il modello scelto è un adattamento Box-Tidwell della frontiera dei costi, che aderisce ai dati senza produrre inversioni assurde. Gli altri danno a volte risultati implausibili, come costi che aumentano.

Gli autori rinunciano esplicitamente agli intervalli di confidenza e al bootstrap, giudicati fuorvianti in questo contesto. La cifra del 47% coincide esattamente con la media calcolata senza modello, il che rafforza la sua credibilità.

Il premio dello stato dell'arte non dura

Su tre dei cinque benchmark principali (AIME, FrontierMath, GPQA Diamond), il costo cala più velocemente subito dopo che un livello di performance viene raggiunto per la prima volta. In media: 66% a trimestre nel momento in cui quel livello diventa SOTA, 32% due anni dopo.

La spiegazione avanzata: il laboratorio che ottiene un nuovo record fa pagare brevemente un premio, prima che la concorrenza e i progressi tecnici schiaccino il prezzo. I puzzle di scacchi e del gioco misterioso fanno eccezione, con una lieve accelerazione.

Dettaglio notevole: la concorrenza più feroce vicino allo stato dell'arte oppone soprattutto modelli chiusi. Un solo modello open weight, QwQ-32B, appare in seconda posizione negli esempi studiati, anche se la pressione dell'open source può giocare indirettamente.

Un calo senza equivalente storico

Epoch stima plausibile che questo ritmo duri dal novembre 2021, data di apertura commerciale dell'API GPT-3. Indizio: GPT-3 otteneva 43,9 su MMLU per 60 $ al milione di token; Llama 2-7B faceva 45,3 nel luglio 2023 per 0,20 $, un calo di 31x all'anno.

In confronto, il prezzo residenziale dell'elettricità negli Stati Uniti è calato di 1,05x all'anno tra il 1892 e il 1973, le batterie agli ioni di litio di 1,16x (1991–2024), il compute di 1,51x (1940–2001), il sequenziamento del DNA di 1,84x (2001–2025).

I limiti, posti dagli stessi autori

Primo rischio: il benchmaxxing, l'addestramento mirato sui benchmark noti. Mystery Game Puzzles, il cui gioco è tenuto segreto per evitarlo, mostra un calo un po' più lento (44% contro 47%), il che suggerisce una critica «valida ma non fatale».

Inoltre, un benchmark non è lavoro utile, e nessun utente reale passa continuamente da un modello all'altro per restare sulla frontiera dei costi. Tre anni di dati sono pochi, e le scelte di media fanno variare il risultato tra il 42,9% e il 58% a trimestre.

Infine, prezzo in calo non significa spesa in calo: un compito come verificare migliaia di articoli scientifici potrebbe richiedere l'equivalente di un milione di run di benchmark. E se superare un test di matematica delle elementari è diventato gratuito, dimostrare teoremi difficili non lo è.