Anthropic ouvre ses portes à des évaluateurs internes payés 1 milliard

Ce qui change avec l'évaluation « embarquée »

Jusqu'ici, l'audit des modèles de frontière se fait de l'extérieur : un organisme reçoit un accès encadré à un modèle, souvent tardif, souvent partiel, et rend un rapport. Anthropic propose autre chose : installer les évaluateurs à l'intérieur, avec un niveau d'accès « comparable à celui d'un employé ».

Concrètement, cela signifie voir les modèles se former pendant l'entraînement, suivre les décisions qui gouvernent leur construction et leur déploiement, et parler directement aux personnes qui les prennent. L'objet de l'audit n'est plus seulement le modèle fini, c'est le processus qui y mène.

Le périmètre annoncé couvre l'évaluation et le red-teaming des modèles, les alignment assessments et les tests des garde-fous. Le tout sera piloté par Faculty, l'entité IA spécialisée d'Accenture.

Anthropic insiste sur un point : ce dispositif ne dilue pas sa responsabilité. La sécurité des modèles reste la sienne ; l'évaluateur embarqué sert à rendre cette responsabilité vérifiable plutôt qu'à la transférer.

Pourquoi Accenture, et pourquoi un milliard

Le choix peut surprendre : Accenture n'est pas un laboratoire de recherche en sûreté de l'IA, c'est un géant du conseil qui déploie de l'IA chez des entreprises et des gouvernements. Anthropic présente cela comme un atout : cette connaissance des usages réels en entreprise nourrit une approche de la sécurité ancrée dans le terrain plutôt que dans le benchmark.

Le chiffre annoncé est massif : chaque partie prévoit d'investir au moins 1 milliard de dollars sur cinq ans pour construire cette capacité. C'est le signal principal de l'annonce — l'évaluation indépendante cesse d'être une ligne budgétaire symbolique pour devenir une infrastructure à financer.

À noter que cette somme finance la construction d'une capacité d'évaluation, pas un contrat de prestation classique. Il faut recruter, former et outiller des équipes capables de suivre des modèles de frontière en temps réel, un métier qui n'existe quasiment pas aujourd'hui.

Le nœud du financement

Anthropic ne cache pas le problème : c'est le laboratoire qui paie son propre auditeur. La justification est pragmatique — il n'existe aujourd'hui ni fonds mutualisé, ni financement public pour ce type de travail, et l'urgence ne permet pas d'attendre.

À long terme, Anthropic dit souhaiter un financement issu de sources mutualisées ou publiques, position déjà défendue dans son Advanced AI Framework publié en juin. En attendant, le laboratoire annonce travailler avec différents évaluateurs sous différents arrangements financiers.

C'est d'ailleurs le sens des discussions évoquées avec METR et d'autres organisations à but non lucratif : piloter des éléments d'évaluation embarquée avec des acteurs financés sur leurs propres fonds, donc structurellement moins dépendants d'Anthropic.

Reste l'angle mort : rien n'est dit sur ce qu'un évaluateur embarqué a le droit de publier, ni sur ce qui se passe en cas de désaccord de fond. Anthropic le reconnaît explicitement — les standards d'accès et de reporting n'existent pas encore.

Vers un écosystème d'évaluateurs

Anthropic pose le partenariat comme non exclusif, dans les deux sens : d'autres évaluateurs travailleront avec le laboratoire, annoncés dans les prochaines semaines, et Accenture interviendra auprès d'autres développeurs d'IA dans des rôles similaires.

L'ambition affichée est celle d'un écosystème : plusieurs organisations auditant plusieurs laboratoires, avec des standards partagés. Un évaluateur unique par laboratoire serait à la fois un point de défaillance et une source de capture.

Le contexte donne du relief à l'annonce. Anthropic a récemment rapporté trois incidents où des modèles Claude avaient obtenu un accès non autorisé à de vrais systèmes informatiques, et prévoyait déjà une revue indépendante avec METR. L'évaluation embarquée est la réponse structurelle à ce type d'épisode.