Sam Altman défend sa voie médiane entre catastrophe et monopole de l'IA

Dots, l'agent qui travaille quand on ne regarde pas

L'entretien s'ouvre sur Dots, lancé la semaine précédente et décrit comme « un assistant IA qui vous couvre toujours », inspiré des versions cool vues au cinéma. Altman dit l'aimer plus que n'importe quel produit d'OpenAI.

Son argument : chacun laisse s'accumuler les tâches qu'il redoute, jusqu'à former un « puits gravitationnel d'angoisse ». Son dot parcourt ses emails et sa to-do list pour les écouler « avec une énergie invincible ».

Il raconte un usage concret. Il appelle son dot pour lui livrer quelques idées, et à son retour l'agent lui a écrit sur Slack : certaines idées sont mauvaises pour telle raison, et il a trouvé d'autres éléments sur son ordinateur. Altman y voit moins un assistant qu'une « extension de soi ».

Sur la vie privée, il promet une rigueur « extrême », condition pour que l'outil fonctionne. Il se dit aussi triste de la technologie qui capte l'attention en permanence : il a coupé presque toutes ses notifications et préfère envoyer lui-même un SMS plutôt que de laisser son dot parler à celui d'un ami.

Astra 6.1 retenu : la doctrine des deux précipices

Altman justifie le report d'Astra 6.1 par un changement d'époque. Il y a un an, dit-il, on pouvait publier un modèle « peut-être un peu dangereux » sans que rien de grave n'arrive. Les modèles sont désormais dans « l'ère sérieusement capable », et la barre de sécurité va continuer de monter.

Il décrit deux façons de dérailler. D'un côté, l'accident grave pouvant aller jusqu'à la perte de contrôle, avec une IA qui s'échappe et « sème le chaos sur internet ». De l'autre, la concentration du pouvoir, prônée selon lui par des concurrents pour qui ces modèles sont trop dangereux pour être diffusés.

Astra 6.1 penchait du mauvais côté. OpenAI vise donc un modèle sur l'alignement duquel elle pourra « faire des affirmations bien plus confiantes », tout en s'engageant à le distribuer largement, même si cela prend plus de temps.

Il ajoute un détail technique : les tests ne se font plus seulement après l'entraînement, car les modèles seraient désormais capables, dès cette phase, de sortir d'une sandbox ou de pirater un système.

Réguler, mais dans la zone grise

Mark Guiducci le confronte à ses contradictions. Altman a réclamé l'intervention des gouvernements et déclaré à l'ONU que les décisions clés ne pouvaient pas revenir « aux seuls labos de San Francisco ». Pourtant, OpenAI fait du lobbying dans l'UE et en Californie, et l'accord signé avec Trump revient surtout à de l'autorégulation.

Altman refuse le cadrage binaire. Sa position : être pro-innovation, laisser certaines choses « mal tourner normalement » comme aux débuts d'internet, mais poser des garde-fous là où la technologie est « extraordinairement puissante et fondamentalement nouvelle ».

Le prix concret de cette liberté, c'est l'open source. Il anticipe un « raz-de-marée » de problèmes de cybersécurité venant des modèles ouverts, mais refuse de les interdire. Quant à la limite acceptable, elle relève selon lui du processus politique : « la sécurité est toujours négociée entre parties prenantes ».

Face à Jensen Huang, partisan de l'autorégulation, et à Bill Gates, qui compare l'IA aux médicaments sans FDA, il cite les modèles à importer : la culture du reporting d'incidents de l'aviation, des standards pré-release et un régime de responsabilité. Il prédit aussi que la politique restera réactive, et que le monde sera « pris de court » par le prochain incident majeur.

Brockman, Trump, Xi : les questions qui fâchent

Greg Brockman, président d'OpenAI, et sa femme ont déjà donné 25 millions de dollars au super PAC Leading the Future et 25 millions à la campagne de réélection de Trump, avant de retirer un nouvel engagement de 25 millions. Altman assure ne pas être intervenu et pense que Brockman partage sa vision, tout en renvoyant systématiquement le journaliste vers l'intéressé.

Sur le dîner d'État offert à Xi Jinping, qu'Altman avait présenté comme une occasion de « progrès considérables », le bilan est mince. Il n'était pas dans la pièce pour les discussions de fond. La salle de bal que Trump a fait visiter aux invités ? « Un chantier. C'est grand. »

Le journaliste s'inquiète d'un président qui ne dit pas un mot d'IA devant les patrons du secteur. Altman reste diplomate : les deux présidents en auraient parlé plus tôt dans la journée, et le soir, « les gens sont fatigués ».

Sur Washington, il avoue son impuissance. Lors de son audition au Sénat en 2023, on lui promettait une loi « en deux semaines ». Depuis, « rien ne s'est passé ».

Extinction, marketing et héritage

Le risque d'extinction est-il surjoué ? Pour Altman, le seul fait qu'il soit non nul impose de le prendre au sérieux, et c'est une raison d'être d'OpenAI. Il concède que certains l'utilisent pour justifier une recherche de pouvoir, sans que cela rende le risque moins réel.

Interrogé sur un article du New York Times affirmant qu'OpenAI aurait ignoré des alertes internes avant l'« incident Hugging Face », il dit ne pas le connaître. Il répond par une défense générale : on lui reprochera toujours de retarder un modèle ou d'ignorer des signaux. « Venez essayer de toutes les prendre. Elles ne sont pas si faciles. »

Pour finir, il refuse le jeu du personnage historique, jugé « toxique ». Il se pose contre une « petite prêtrise » de la Bay Area qui voudrait garder l'IA pour elle, et contre ceux qui la veulent pour leur propre pouvoir. Son souhait : que l'IA soit « un nouveau feu ou l'électricité », donnée à chacun. Au mot « Prométhée » lancé par le journaliste, il répond : « plus proche de ça que d'autres choses ».