L’IA peut-elle vraiment s’améliorer toute seule ? Une nouvelle étude tempère les promesses

L’une des promesses les plus audacieuses de l’industrie de l’IA est que les machines pourront bientôt s’améliorer d’elles-mêmes, sans intervention humaine. Les grands modèles de langage savent déjà écrire du code, générer des données synthétiques et optimiser les puces informatiques. Les prévisions évoquent l’avènement prochain de ce que les chercheurs appellent l’auto-amélioration récursive.

Mais une nouvelle étude menée par des chercheurs de Princeton et d’autres institutions suggère que cet objectif est encore loin. Leur constat : les agents d’IA ne sont pas capables de mener des recherches ouvertes, des investigations libres, sans réponses toutes faites, qui exigent créativité et discernement. Or ces qualités sont essentielles pour qu’un système puisse s’améliorer de façon continue.

Une évaluation inédite

Pour tester les agents sur ces compétences, l’équipe a conçu une « évaluation fantôme » : soumettre l’IA à des questions de recherche tirées d’articles de haute qualité non encore publiés, afin qu’elle ne puisse ni mémoriser ni retrouver les réponses en ligne.

Les chercheurs ont donné à Claude Opus 4.8 d’Anthropic six jours, 3 000 dollars de crédits, des machines virtuelles et un accès Internet. Sa mission : produire un article digne d’une grande conférence comme NeurIPS, à partir de deux soumissions confidentielles. L’une portait sur le contrôle des « personnalités » d’un modèle de langage, l’autre sur la conception d’un détecteur d’erreurs pour des prédictions sur tableurs.

Des ingénieurs compétents, mais de piètres chercheurs

Les agents possédaient toutes les compétences techniques : ils ont analysé la littérature, mené des centaines d’expériences et compilé des résultats. Mais ils ont fait preuve d’un manque criant de créativité et de discernement, selon Sayash Kapoor, co-auteur de l’étude.

« Ils ont mené des expériences étranges, parfois sur des jeux de données minuscules, ont eu du mal à rédiger des articles clairs et n’ont apporté aucune contribution originale », explique-t-il. Les agents se sont engagés trop vite dans des approches peu prometteuses, ont écarté des hypothèses ambitieuses sur la base de données limitées, et n’ont pas su revenir sur leurs échecs pour repenser fondamentalement leur méthode.

Ils ont également mal géré leurs ressources et n’ont pas intégré les retours de leurs sous-agents. En revanche, ils ne se sont pas livrés à des fraudes – les résultats erronés d’un sous-agent ont été détectés par l’agent orchestrateur.

Pourquoi cet échec ?

Selon Kapoor, ce décalage tient à la méthode d’entraînement des modèles. Ils excellent dans les tâches où la réussite peut être vérifiée automatiquement et où un retour massif peut être fourni – ce qui est difficile à mettre en place pour des travaux ouverts.

L’équipe mène aujourd’hui la même expérience avec Mythos, le dernier modèle d’Anthropic, désormais soumis à des restrictions de sécurité strictes. Anthropic n’a pas répondu à notre demande de commentaires.

Des annonces à nuancer

Ces résultats tempèrent les discours optimistes du secteur. En juin, Anthropic publiait « Quand l’IA se construit elle-même », et en juillet, OpenAI annonçait que GPT-5.6 Sol avait permis de gagner des semaines de travail.

Mais Jack Clark, cofondateur d’Anthropic, a reconnu dans sa newsletter que ces conclusions concordent avec les observations internes de l’entreprise : « Les systèmes d’IA actuels manquent d’une créativité intuitive et précieuse. Ils sont d’excellents ingénieurs, mais leur pensée mécanique pourrait les empêcher d’être de bons chercheurs. » Il parle d’un « signal pessimiste pour l’amélioration continue à court terme ».

La question à mille milliards de dollars

Reste à savoir si la recherche ouverte est indispensable à la progression de l’IA. Les grands bonds – comme l’invention des transformeurs – ont tous exigé des avancées créatives majeures, rappelle Kapoor. D’autres estiment que tout ce qui est nécessaire est déjà là, en s’appuyant sur l’accélération des entraînements. « C’est honnêtement la question à mille milliards de dollars en ce moment », conclut-il.