OpenAI veut des standards mondiaux avant l'auto-amélioration des IA

À retenir

1. 1

   OpenAI place la RSI (recursive self-improvement) au centre du débat : à mesure que les modèles prennent en charge la R&D en IA, le rythme du progrès pourrait accélérer brutalement.

2. 2

   Position explicite : la RSI pleinement autonome « n'a pas lieu aujourd'hui » et ne doit pas être poursuivie tant qu'elle ne peut pas être faite en sécurité, sous contrôle humain et via des choix démocratiques informés.

3. 3

   Trois problèmes justifient l'international selon le labo : la fragmentation des évaluations et définitions d'incidents, l'action collective (chaque pays agissant seul produit un résultat que personne ne veut) et les capacités inégalement réparties.

4. 4

   Le véhicule proposé : le réseau des AI safety institutes (Australie, Canada, Allemagne, France, Kenya, Japon, Corée, Singapour, Inde, Royaume-Uni) articulé au CAISI américain et à son International Network for Advanced AI Measurement.

5. 5

   Ligne rouge affichée : ces standards ne seraient ni des licences, ni une revue obligatoire avant publication, ni une approbation des modèles — chaque État déciderait de les transposer ou non.

6. 6

   Trois familles de standards visées : évaluation du volume de recherche autonome dans un labo, seuils déclenchant une revue humaine, et classification/signalement des incidents d'alignement avec niveaux de sévérité communs.

7. 7

   Le texte appelle à des canaux sécurisés entre opérateurs d'infrastructures critiques et gouvernements, et juge positif un dialogue États-Unis / Chine sur ces sujets.