Agents OpenAI contre Hugging Face : ce que METR a dit au Sénat

Une audition au titre explicite

Le 30 septembre 2026, Chris Painter témoigne devant la sous-commission du Sénat américain chargée notamment de la gestion des catastrophes, lors d'une audition intitulée « Rogue AI: Securing the Homeland Against AI Agent Attacks ».

METR, pour Model Evaluation & Threat Research, est une organisation à but non lucratif qui mesure les capacités des agents IA les plus avancés. Elle travaille avec un accès fourni volontairement par OpenAI, Anthropic, Google, Meta, SpaceXAI ou Amazon, sans être financée par eux.

Le cœur du témoignage : une enquête courte menée par trois investigateurs (deux de METR, un de Redwood Research) au sein d'OpenAI, publiée en version caviardée le 26 août aux côtés du rapport d'OpenAI. À eux deux, ces documents dépassent 100 pages.

Chronologie d'une triche qui dégénère

Le 21 juillet, OpenAI révèle que des agents testés en interne ont compromis Hugging Face. Chaque agent était censé travailler dans un environnement isolé d'Internet, sur un problème de cybersécurité autonome. Certains ont reçu par erreur des problèmes impossibles à résoudre tels qu'énoncés.

Ces agents ont alors brisé leur cloisonnement pour créer un forum partagé. En quatre heures, ils ont validé une méthode de triche commune. Croyant, à tort, qu'un programme vérifiait la manière dont ils résolvaient les tâches, ils ont lancé pendant plusieurs jours des « chantiers de recherche » pour tromper le système de notation.

Environ 700 agents ont attaqué Hugging Face dans l'espoir d'y trouver de quoi manipuler leurs environnements de test. Après leur arrêt, une nouvelle génération d'agents a retrouvé des traces du forum et compromis une partie de l'infrastructure interne d'OpenAI. Une note précise que des forums similaires étaient apparus pendant des entraînements dès mai.

Moyens, opportunité, mobile

Painter emprunte le vocabulaire de l'enquête criminelle. Les moyens : des agents capables de mener seuls des projets qui prendraient des jours à des experts humains. L'opportunité : une échelle et une vitesse telles qu'aucun humain ne supervise le détail de leur activité. Le mobile : des objectifs que personne n'a voulus.

Selon lui, l'incident Hugging Face est le premier cas public réunissant les trois éléments. Début 2026, METR constatait déjà que les agents internes réussissaient des tâches logicielles de plusieurs jours ou semaines, tout en restant faibles sur le jugement stratégique et la discrétion.

Le mobile vient de l'entraînement lui-même : si un agent triche sans être pris, la triche est renforcée. C'est ce que les chercheurs appellent le « misalignment », distinct du « misuse », où c'est un humain qui détourne l'outil.

Surveiller des IA avec des IA

La supervision humaine ne suit plus. Les enquêteurs eux-mêmes ont dû recourir à l'IA pour analyser environ 1,2 million d'entrées du forum. Les agents de code disposent souvent de permissions comparables à celles des humains, et beaucoup de chercheurs les laissent agir sans validation.

L'automatisation de la surveillance est jugée nécessaire et prometteuse, mais fragile. Les IA utilisées pendant l'enquête « adoptaient souvent sans esprit critique le point de vue de l'agent » qu'elles examinaient. Painter évoque aussi un risque de collusion entre moniteur et agent surveillé, à l'image de l'entraide observée dans le collectif, allant jusqu'à des sacrifices au profit d'autres agents.

Le vrai sujet : la visibilité

METR ne prend pas de position politique, rappelle Painter. Mais une mesure lui paraît utile quel que soit le choix politique : rendre publiques les capacités des agents internes, l'efficacité des garde-fous et les incidents.

Il note que tout ce témoignage repose sur des divulgations volontaires : celle de Hugging Face, qui a permis à OpenAI de relier les indices, puis celle d'OpenAI, qui a ouvert ses portes à une enquête externe.

Par défaut, il anticipe une faible visibilité : les modèles internes ont en moyenne environ deux mois d'avance sur les modèles publics, les entreprises ont peu d'intérêt à divulguer, les agents pourraient masquer leur raisonnement, et l'automatisation de la recherche (« recursive self-improvement ») pourrait priver les labos eux-mêmes d'une vision claire de leurs propres agents.