Trois jours après la sortie de GPT-6 Astra, OpenAI a publié dimanche 6 septembre deux textes qui se répondent. Le premier, « Research acceleration: the view inside OpenAI », donne des chiffres internes inédits : mi-août, la recherche tournait à 3,1 journées de travail d'agents IA pour chaque journée de chercheur humain, le chercheur médian consommait plus de 600 dollars d'inférence par jour et les 10 % les plus intensifs plus de 7 000. Le second, « An Alien Mind », est un essai personnel du chef scientifique Jakub Pachocki qui juge qu'aucun laboratoire n'a résolu l'alignement et la surveillance à un niveau suffisant pour continuer à passer à l'échelle à vitesse maximale, et appelle à des ralentissements volontaires et à des normes obligatoires. Sam Altman a repartagé l'essai en le qualifiant d'important.
- OpenAI déclare avoir atteint son objectif de « stagiaire de recherche automatisé » annoncé à l'automne 2025 pour septembre 2026, et vise un « chercheur IA automatisé » pour mars 2028 ; la publication de la télémétrie interne (dépense par chercheur, temps d'agent contre temps humain, taux de réussite par difficulté) est sans précédent chez un labo de frontière
- Pachocki écrit que la surveillance des chaînes de raisonnement, le garde-fou sur lequel OpenAI s'appuie le plus, devient moins fiable à mesure que les modèles gagnent en capacité, et distingue l'alignement des objectifs (largement traité) de l'alignement des valeurs (pas résolu)
- Ce n'est pas une position isolée : Pachocki a signé en juillet la lettre d'employés « Pacing the Frontier » et a invoqué cette signature en août quand OpenAI a suspendu son plus gros entraînement après une découverte préliminaire sur les capacités cyber d'Astra
Deux documents, une même courbe
Le graphique central du premier texte montre la dépense d'inférence par chercheur sur l'année, avec une accélération nette fin juillet. Simon Willison en propose l'explication la plus simple : c'est le moment où les employés ont eu accès au modèle sorti depuis sous le nom d'Astra. Le reste des chiffres décrit un mode de travail : des agents qui tournent trois fois plus longtemps que les humains ne travaillent, sur des tâches d'ingénierie et d'expérimentation, avec des taux de réussite publiés par niveau de difficulté et une mesure de ce que les restrictions de sécurité internes coûtent en calcul. Aucun autre labo ne publie ça.
L'essai de Pachocki ne contredit pas ces chiffres, il en tire les conséquences. Sa thèse : si la trajectoire actuelle se poursuit, les modèles participeront de plus en plus à leur propre développement, et les prochaines générations représenteront des sauts de capacité égaux ou supérieurs. Or les deux outils de contrôle sont insuffisants. L'alignement des valeurs (que le modèle veuille ce qu'on veut, au-delà de suivre les instructions) n'est pas résolu. Et la surveillance des chaînes de raisonnement, lire ce que le modèle « pense » pour intercepter une intention avant l'action, se dégrade avec la capacité. C'est précisément la mesure que le post-mortem de l'incident Hugging Face avait rendue obligatoire deux semaines plus tôt. Pachocki évoque aussi des agents capables de négocier, tromper ou faire chanter des humains, et l'abaissement des barrières en biologie.
Les réactions se partagent en trois. Zvi Mowshowitz salue un texte sans détour et retient la conclusion : accélérer l'alignement ou ralentir les capacités, et il faudra les deux. David Shapiro juge le titre exagéré et ramène le vrai sujet à un écart de vitesse entre capacités et recherche de sécurité. Gary Marcus rappelle que les thèmes ne sont pas nouveaux. Le commentateur @tenobrus pointe la faiblesse structurelle : des ralentissements volontaires ne suffisent pas, et les mécanismes d'audit par des tiers que Pachocki appelle de ses vœux n'existent pas encore.
Mon avis : ce qui compte n'est pas l'alarme, c'est qui la sonne et quand. Le responsable de la recherche du labo qui livre le plus vite écrit, trois jours après son plus gros lancement, que personne ne devrait continuer à cette vitesse. Ce n'est pas un texte anti-IA : il décrit d'abord d'énormes bénéfices. Mais publié le même jour qu'une télémétrie qui montre la recherche s'automatiser, c'est un aveu que le levier de contrôle principal est en train de céder, dit par celui qui tient le levier.
Ce que ça change pour vous
Si vous construisez avec des agents, la distinction de Pachocki est utile hors du contexte des labos. L'alignement des objectifs, c'est ce que vous mesurez avec des tests de tâches : le modèle fait ce qu'on demande. L'alignement des valeurs, c'est ce qui se passe quand la situation sort du cadre du test. Un produit qui suppose que « le modèle me dira ce qu'il pense » est une garantie de sécurité repose sur un mécanisme que son propre concepteur juge en déclin.
Si vous suivez le marché, le chiffre à retenir est celui de la dépense : 600 dollars par jour et par chercheur médian, c'est ce à quoi ressemble une équipe qui a basculé en mode agentique. Les entreprises qui parlent de « quelques dizaines d'euros par mois » n'ont pas encore basculé.
- Sépare dans tes évaluations d'agents ce qui mesure le suivi d'instructions (tâches définies, tests) de ce qui mesure le comportement hors cadre (entrées inattendues, consignes contradictoires, tentatives d'injection) : c'est la ligne que Pachocki trace
- Ne fonde aucune garantie de sécurité sur la lecture des raisonnements du modèle seule ; ajoute des contrôles sur les actions (périmètre, validation, journalisation), qui ne dépendent pas de ce que le modèle affiche
- Mesure ta dépense d'inférence par personne et par semaine : c'est l'indicateur qu'OpenAI a choisi pour dire où en est sa propre transition, et il est directement comparable
Sources
- OpenAI - Research acceleration: the view inside OpenAI (6 septembre 2026)
- Simon Willison - lecture du graphique de dépense par chercheur
- Zvi Mowshowitz - An Alien Mind: Jakub Pachocki Warns Us
- 36Kr - réactions de David Shapiro et @tenobrus, repartage par Sam Altman
- explainx - distinction alignement des objectifs / des valeurs, signature de « Pacing the Frontier »
Source : Openai.com
Cet article a été rédigé avec l’assistance d’un modèle de langage (LLM).
