Sam Altman difende la sua via di mezzo tra catastrofe e monopolio dell'IA

Dots, l'agente che lavora quando non guardi

L'intervista si apre su Dots, lanciato la settimana precedente e descritto come « un assistente IA che vi copre sempre », ispirato alle versioni cool viste al cinema. Altman dice di amarlo più di qualsiasi altro prodotto di OpenAI.

Il suo argomento: ognuno lascia accumulare i compiti che teme, fino a formare un « pozzo gravitazionale d'ansia ». Il suo dot setaccia le sue email e la sua to-do list per smaltirle « con un'energia invincibile ».

Racconta un uso concreto. Chiama il suo dot per dargli alcune idee, e al suo ritorno l'agente gli ha scritto su Slack: alcune idee sono cattive per questo o quel motivo, e ha trovato altri elementi sul suo computer. Altman ci vede non tanto un assistente quanto un'« estensione di sé ».

Sulla privacy, promette un rigore « estremo », condizione necessaria perché lo strumento funzioni. Si dice anche rattristato dalla tecnologia che cattura l'attenzione in continuazione: ha disattivato quasi tutte le notifiche e preferisce inviare lui stesso un SMS piuttosto che lasciare il suo dot parlare con quello di un amico.

Astra 6.1 trattenuto: la dottrina dei due precipizi

Altman giustifica il rinvio di Astra 6.1 con un cambio d'epoca. Un anno fa, dice, si poteva pubblicare un modello « forse un po' pericoloso » senza che succedesse nulla di grave. I modelli sono ora nell'« era seriamente capace », e l'asticella della sicurezza continuerà a salire.

Descrive due modi di deragliare. Da un lato, l'incidente grave fino alla perdita di controllo, con un'IA che fugge e « semina il caos su internet ». Dall'altro, la concentrazione del potere, sostenuta secondo lui da concorrenti per cui questi modelli sono troppo pericolosi per essere diffusi.

Astra 6.1 pendeva dal lato sbagliato. OpenAI punta quindi a un modello sul cui allineamento potrà « fare affermazioni molto più sicure », impegnandosi al contempo a distribuirlo ampiamente, anche se ciò richiede più tempo.

Aggiunge un dettaglio tecnico: i test non si fanno più solo dopo l'addestramento, perché i modelli sarebbero ormai capaci, già in questa fase, di uscire da una sandbox o di violare un sistema.

Regolare, ma nella zona grigia

Mark Guiducci lo mette di fronte alle sue contraddizioni. Altman ha chiesto l'intervento dei governi e dichiarato all'ONU che le decisioni chiave non potevano spettare « solo ai laboratori di San Francisco ». Eppure OpenAI fa lobbying nell'UE e in California, e l'accordo firmato con Trump equivale soprattutto ad autoregolamentazione.

Altman rifiuta l'inquadramento binario. La sua posizione: essere pro-innovazione, lasciare che certe cose « vadano normalmente storte » come agli albori di internet, ma porre dei paletti laddove la tecnologia è « straordinariamente potente e fondamentalmente nuova ».

Il prezzo concreto di questa libertà è l'open source. Prevede un « maremoto » di problemi di cybersicurezza provenienti dai modelli aperti, ma rifiuta di vietarli. Quanto al limite accettabile, dipende secondo lui dal processo politico: « la sicurezza è sempre negoziata tra le parti in causa ».

Di fronte a Jensen Huang, sostenitore dell'autoregolamentazione, e a Bill Gates, che paragona l'IA ai farmaci senza FDA, cita i modelli da importare: la cultura del reporting degli incidenti dell'aviazione, standard pre-rilascio e un regime di responsabilità. Prevede inoltre che la politica resterà reattiva, e che il mondo sarà « colto alla sprovvista » dal prossimo incidente maggiore.

Brockman, Trump, Xi: le domande scomode

Greg Brockman, presidente di OpenAI, e sua moglie hanno già donato 25 milioni di dollari al super PAC Leading the Future e 25 milioni alla campagna di rielezione di Trump, prima di ritirare un nuovo impegno da 25 milioni. Altman assicura di non essere intervenuto e pensa che Brockman condivida la sua visione, rimandando sistematicamente il giornalista a lui.

Sulla cena di Stato offerta a Xi Jinping, che Altman aveva presentato come un'occasione di « progressi considerevoli », il bilancio è magro. Non era nella stanza per le discussioni di fondo. La sala da ballo che Trump ha fatto visitare agli ospiti? « Un cantiere. È grande. »

Il giornalista si preoccupa di un presidente che non pronuncia una parola sull'IA davanti ai capi del settore. Altman resta diplomatico: i due presidenti ne avrebbero parlato prima nella giornata, e la sera « la gente è stanca ».

Su Washington, ammette la propria impotenza. Durante la sua audizione al Senato nel 2023, gli veniva promessa una legge « entro due settimane ». Da allora, « non è successo nulla ».

Estinzione, marketing ed eredità

Il rischio di estinzione è esagerato? Per Altman, il solo fatto che non sia pari a zero impone di prenderlo sul serio, ed è una delle ragioni d'essere di OpenAI. Ammette che qualcuno lo usa per giustificare una ricerca di potere, senza che questo renda il rischio meno reale.

Interrogato su un articolo del New York Times secondo cui OpenAI avrebbe ignorato avvisi interni prima dell'« incidente Hugging Face », dice di non conoscerlo. Risponde con una difesa generale: gli verrà sempre rimproverato di ritardare un modello o di ignorare dei segnali. « Venite a provare a prenderli tutti in considerazione. Non è così facile. »

Infine, rifiuta il gioco del personaggio storico, giudicato « tossico ». Si pone contro una « piccola casta sacerdotale » della Bay Area che vorrebbe tenere l'IA per sé, e contro chi la vuole per il proprio potere. Il suo desiderio: che l'IA sia « un nuovo fuoco o l'elettricità », data a ciascuno. Alla parola « Prometeo » lanciata dal giornalista, risponde: « più vicino a quello che ad altre cose ».