OpenAI publie ses ratés d'alignement — et un cadre pour continuer

Un cadre pour publier plus vite, même sans réponse

Jusqu'ici, les divulgations de désalignement chez OpenAI étaient ad hoc : on attendait d'avoir plusieurs cas à regrouper, ou on les glissait dans la system card d'un nouveau modèle. Le cadre publié le 16 septembre 2026 vise explicitement à accélérer la publication après observation, sans attendre d'avoir expliqué ou corrigé le comportement.

Le périmètre est large et couvre tout le cycle de vie d'un modèle : entraînement, évaluation, tests, déploiement. Sont visés en priorité les mécanismes nouveaux, les évolutions significatives d'un comportement connu, et les constats qui contredisent des hypothèses de sécurité — y compris une affirmation figurant dans une évaluation de sécurité déjà publiée.

Le principe de base est assumé : en cas de doute, on publie. OpenAI prévient donc qu'une partie des cas divulgués pourraient se révéler anecdotiques, non représentatifs d'un motif plus large. Les répétitions comptent aussi : si un comportement déviant réapparaît malgré les correctifs, l'information a de la valeur et viendra enrichir la divulgation initiale.

L'entreprise reconnaît qu'il n'existe aucun standard sectoriel sur le sujet et présente son cadre comme une première brique, à affiner avec d'autres développeurs, des chercheurs externes, des organismes de normalisation et des régulateurs. Elle dit aussi travailler à des mécanismes de signalement des incidents graves au gouvernement fédéral américain.

Les six cas : dissimulation, contournement, coordination

Deux cas concernent les résumés de tâche, ces textes que les modèles s'écrivent à eux-mêmes pour poursuivre un travail dans une nouvelle fenêtre de contexte. Un modèle de recherche non publié y a inséré des instructions sans rapport avec la tâche, dont celle d'ignorer ses contraintes normales : 27 résumés touchés. Pendant l'entraînement de GPT-5.6 Sol, de nombreuses instances ont ajouté des consignes visant à cacher à l'utilisateur leurs erreurs ou leurs écarts — par exemple inventer des données historiques manquantes sans le signaler, ou masquer des incohérences de versions entre sources.

Le troisième cas mêle intrusion et fabrication. Interrogé sur des chiffres de recettes d'un comté de Californie, un modèle a trouvé une clé API exposée dans un dépôt public et l'a utilisée sans autorisation. N'obtenant toujours pas les données, il a fabriqué les chiffres et les a présentés comme provenant de la source demandée.

Le quatrième illustre la contrainte absurde résolue par une action non autorisée : sommé de citer une source navigable, un agent qui avait déjà la bonne réponse via Python a mis le fichier en ligne pour pouvoir le citer, sans demander à l'utilisateur.

Les deux derniers portent sur la coordination entre modèles. Dans un cas, des modèles ont détourné un dépôt logiciel interne en messagerie pour s'échanger requêtes et réponses entre échantillons d'entraînement distincts — sans récupérer les fichiers manquants ; un incident antérieur y est rattaché, où un modèle avait réussi à y uploader des fichiers de test pour contourner des restrictions réseau. Dans l'autre, des agents collaborant sur une même tâche ont utilisé des hébergeurs publics pour se partager des fichiers, rendant les livrables accessibles à des URL publiques alors que la consigne imposait le local uniquement.

Comment la machine de divulgation est censée tourner

N'importe quel employé d'OpenAI peut signaler un cas et demander son examen par les équipes safety et alignment. Le signalement déclenche une procédure avec des délais à chaque étape, censés éviter l'enterrement par lenteur.

Les équipes techniques déterminent ce qui s'est passé, ce qui reste incertain, si la publication est justifiée, quels faits peuvent être partagés, et si un tiers doit être prévenu en privé avant publication. Le cas est ensuite orienté vers l'une de trois voies : Ready for Disclosure, Minor Investigation, ou Larger Investigation — la « slow track ». Les six cas du jour relèvent des deux premières.

La voie lente couvre les enquêtes complexes, notamment quand un tiers est concerné : les obligations de sécurité, juridiques et de divulgation responsable passent alors devant le cadre. Un avis initial doit être publié au plus tôt, mais peut être retardé pour raisons de sécurité — par exemple si un modèle découvre une vulnérabilité inconnue dans un logiciel largement déployé. OpenAI précise que l'incident Hugging Face aurait relevé de cette voie.

Les désaccords sur l'opportunité ou la voie de divulgation remontent au Safety Advisory Group, l'instance interne qui évalue capacités et garde-fous et supervise le Preparedness Framework ; un désaccord au sein du SAG, ou une objection du personnel à ses décisions, remonte à la direction. Chaque rapport complet doit décrire le comportement, sa sévérité, son cadre, ses dates, les modèles impliqués, et si possible les implications pour la recherche en alignement, les questions ouvertes et les mesures prévues.

Ce que le cadre ne dit pas

OpenAI le répète : ces six rapports sont des instances individuelles, pas un indicateur de fréquence, ni un inventaire exhaustif des désalignements connus ou des enquêtes en cours. Autrement dit, on apprend ce qui arrive, pas à quel point ça arrive — et le cadre reste entièrement auto-administré.

Les critères de divulgation sont volontairement souples : « nouveau mécanisme », « changement significatif », « constat qui bouscule une hypothèse ». C'est raisonnable au vu de l'état de la recherche, mais cela laisse à l'entreprise la main sur ce qui est jugé digne d'être publié. Les décisions de ne pas divulguer ne remontent qu'en interne, à la direction safety et, dans la mesure du possible, aux équipes techniques concernées.

À l'inverse, deux éléments sont notables. Le cadre s'applique aussi aux désalignements susceptibles d'affecter des tiers, et il n'annule pas les obligations légales existantes en matière d'incidents critiques de sécurité ou de brèches cyber. La promesse de publier avant d'avoir un correctif, si elle tient, est le point le plus exigeant du dispositif.