L’IA qui s’améliore toute seule : le pari vertigineux qui obsède le secteur

« Anthropique » désigne ce qui procède de l’homme. Le nom semble plutôt bien vu pour une entreprise qui a fait de la sécurité et de l’éthique son étendard, dans le très « techno » secteur de l’intelligence artificielle. Pourtant, le document qu’Anthropic, la société américaine créée par Dario Amodei, vient de déposer auprès des autorités financières américaines en vue de son entrée en Bourse, raconte une tout autre histoire. Celle d’un avenir dans lequel l’homme ne serait plus tout à fait aux commandes de l’IA qu’il a engendré. La raison ? L’auto-amélioration récursive (RSI pour recursive self-improvement en anglais). Très grossièrement : l’IA conçoit, en toute autonomie, une IA encore meilleure, qui elle-même en conçoit une troisième meilleure encore. Et ainsi de suite. Plus rapidement, efficacement, et à moindre coût, que l’homme. Anthropic appelle cela « boucler la boucle ».

Toute l’industrie s’y penche depuis plusieurs mois, et pas seulement Anthropic. Jakub Pachocki, scientifique en chef du rival OpenAI, y voit dans un billet de blog la « conséquence naturelle » du progrès. En Chine, Z.ai veut confier à l’IA « l’auto-entraînement complet » de son prochain modèle. Le Français Mistral l’a également confirmé à L’Express lors de la sortie de son dernier modèle, Mistral Large 4. De plus petites start-up se concentrent spécifiquement sur cette question du RSI. Recursive Superintelligence, fondée par Richard Socher, ancien patron de l’IA chez Salesforce, a notamment levé 650 millions de dollars pour une valorisation d’environ 4,65 milliards. C’est le terme à la mode, dans l’IA.

Degré zéro ?

Mais où en est-on vraiment ? Difficile à dire. Certains comme Pierre Stock, qui dirige la science chez Mistral AI, estiment que l’on est encore au « degré zéro ». Les laboratoires confient selon lui à un agent autonome une tâche bornée, du type « améliore-moi les performances sur ce benchmark [NDLR : les classements de performance sur des métriques particulière comme la cyberdéfense ou les mathématiques] ». Mais il faut se méfier des pros de l’IA : chez eux, le temps est très relatif. Le vrai palier, des agents qui enchaînent seuls des dizaines d’heures de travail, arrivera « dans la prochaine année », poursuit-il, au prix de beaucoup plus de capacités de calcul. Si tant est qu’il arrive, bien sûr, des tensions existent à ce niveau. Cela peut-être demain, donc ou un poil plus tard. OpenAI pense pouvoir créer l’équivalent d’un « chercheur autonome » en IA, capable de faire progresser les modèles, pour mars 2028.

Ce développement est très rapide, car l’IA est déjà en vérité un acteur important de sa croissance. En mai, selon Anthropic, Claude écrivait plus de 80 % du code intégré aux systèmes d’Anthropic, et la durée des tâches que les modèles mènent seuls double désormais tous les quatre mois, toujours selon la start-up. Ce n’est pas un hasard si la sortie de nouveaux modèles ou de mises à jour se fait aujourd’hui presque tous les mois, contre tous les six mois voire au-delà il y a quelques années. Tous les grands noms de l’industrie ont aujourd’hui un outil de codage avancé. Si Anthropic a une petite longueur d’avance question performance, tout le monde a le sien, afin de ne dépendre de personne. Et parce que le développement informatique s’est révélé être le premier gros gisement de revenus de l’IA.

De fait, les ingénieurs ne lisent plus qu’une infime partie du code qu’ils produisent. Au célèbre institut technologique du MIT, aux Etats-Unis, des chercheurs vont plus loin : leur IA lit et réécrit directement les « poids » d’un autre réseau, ses connexions internes, sans passer par de l’entraînement. En retouchant seulement 0,016 % de ceux d’un petit modèle, elle a fait bondir son score en mathématiques de 8 % à 48 %. Cette méthode baptisée « weight-space programming », pourrait aussi bénéficier à l’auto-amélioration des modèles.

Toujours plus de risques

Que manque-t-il réellement pour « boucler la boucle » ? Une définition plus complète, tirée d’une étude de la société d’analyse METR, établit plusieurs cases à cocher. Il faut, non seulement, qu’un agent ou plusieurs agents soient capables de modifier son code ou ses poids. Mais également sa mémoire, ses outils, ses données. Sa propre vérification des résultats. Pour que la machine s’emballe d’elle-même, chaque bond de capacité devrait rendre la recherche au moins 15 % plus productive. Ce n’est pas encore gagné. Une autre étude conduite par des chercheurs de l’Université de l’Académie chinoise des sciences a montré que les agents sont certes de plus en plus infatigables, mais toujours peu originaux dans leurs recherches.

Personne n’ignore les risques de confier son actif le plus précieux – son modèle de langage – à une IA. Anthropic l’admet volontiers dans son formulaire S-1 : toute faille, tout biais, toute erreur de ses modèles « pourrait se propager aux prochaines versions », en s’amplifiant « d’une manière qui pourrait s’avérer difficile à détecter ou à corriger ». Un défaut d’alignement, la manière dont les IA se rationalisent, deviendrait presque héréditaire. Et devenir un calvaire pour tout humain qui devra retrouver l’aiguille dans la botte. L’autonomie, actuellement, n’a pas bonne presse du tout. Cet été, des modèles d’OpenAI testés en cybersécurité se sont échappés de leur environnement et ont piraté la start-up franco-américaine Hugging Face pour voler le corrigé de leur examen.

Les dirigeants, comme ceux d’Anthropic, jurent vouloir « ralentir la course des modèles frontière » et gonfler les budgets de sûreté. Mais une réelle pause est peu probable vu la concurrence sauvage dans le secteur. Comme l’a montré le prospectus S-1 d’Anthropic : il y a un intérêt à être le meilleur. La progression du chiffre d’affaires des compagnies est, pour l’heure, étroitement corrélée à la sortie de nouveaux modèles toujours plus performants.

L’analyste indépendant Benedict Evans, récemment interrogé par L’Express, prédit que le premier à boucler la boucle « prendra six mois d’avance sur tout le monde et gardera pour toujours ces six mois. Cela pourrait donc créer un effet de réseau type ‘le gagnant rafle tout’ (winner takes all) ». Que tout le monde recherche, pour imiter les monopoles qu’ont connus Microsoft dans les PC, ou Google sur le Web. Reste à voir d’ici combien de versions Claude changera son propre nom pour un qui fasse peut-être moins… humain.