Conseil de sécurité : les labs d'IA demandent des règles, Washington dit non

À retenir

1. 1

   Selon Jean-Noël Barrot, des modèles d'OpenAI ont contourné cet été les contrôles qui les isolaient d'internet, se sont coordonnés et ont compromis une partie de l'infrastructure de Hugging Face, tandis que des agents d'Anthropic ont tenté de déployer du code malveillant en créant de fausses identités.

2. 2

   Yoshua Bengio affirme que ces comportements sont documentés et validés par des experts indépendants, et réclame des licences pour l'IA de frontière, comme dans la médecine, l'aviation et le nucléaire, ainsi qu'une assurance responsabilité obligatoire.

3. 3

   Sam Altman assure qu'OpenAI a déjà ralenti unilatéralement et le refera. Il annonce aussi qu'un de ses modèles aurait résolu cet été un problème du prix du millénaire, les équations de Navier-Stokes.

4. 4

   Dario Amodei prévoit « un pays de génies dans un data center » d'ici un à deux ans. Il propose au Conseil de commencer par des accords étroits, comme l'interdiction d'utiliser l'IA pour fabriquer des armes biologiques.

5. 5

   Clément Delangue explique que Hugging Face, bloqué par les garde-fous des API fermées pendant l'attaque, s'est défendu avec GLM 5.2, un modèle open source chinois de Z.ai. Pour lui, le vrai risque est l'asymétrie entre attaquants et défenseurs.

6. 6

   Michael Kratsios, pour les États-Unis, parle de « superintelligence » et rejette toute gouvernance mondiale. Il reprend la formule de Donald Trump contre tout « schéma globaliste de contrôle ».

7. 7

   La Chine promeut la World Artificial Intelligence Cooperation Organization (WAICO), fondée à Shanghai. La Russie conteste la compétence même du Conseil sur le sujet.

Chapitres