Vingt-deux figures majeures de l’intelligence artificielle appellent les gouvernements à anticiper un scénario dans lequel l’IA accélérerait elle-même son propre développement, au point de condenser en quelques mois des avancées qui nécessitent aujourd’hui plusieurs années. Les auteurs reconnaissent une forte incertitude, mais estiment qu’attendre des certitudes pourrait laisser trop peu de temps pour agir.
L’intelligence artificielle commence à intervenir de manière toujours plus directe dans le développement de l’intelligence artificielle elle-même. Cette évolution, encore à ses débuts, conduit 22 chercheurs et responsables de premier plan à demander aux gouvernements de mettre en place des mécanismes de surveillance capables de répondre à une éventuelle accélération extrême du progrès technologique.
Parmi les signataires figurent Geoffrey Hinton, prix Nobel de physique et pionnier de l’apprentissage profond, ainsi que Yoshua Bengio, autre figure fondatrice de l’IA moderne. Jack Clark, cofondateur de l’entreprise à l’origine de Claude, et Jakub Pachocki, scientifique en chef de la société qui développe ChatGPT, font également partie des auteurs.
Quand l’IA commence à développer l’IA suivante
L’alerte porte principalement sur l’automatisation de la recherche et développement. Selon les auteurs, les systèmes d’IA écrivent désormais une part importante du code utilisé au sein de certaines entreprises qui les conçoivent. L’étape suivante serait de leur confier progressivement des tâches de recherche, de conception, d’expérimentation et d’amélioration des futurs modèles.
Le risque réside dans un éventuel mécanisme de rétroaction : une IA contribue à créer un système plus performant, qui accélère à son tour la recherche et permet de produire des modèles encore plus avancés. Les chercheurs qualifient d’« explosion d’intelligence » le scénario dans lequel cette boucle s’accélérerait jusqu’à condenser en quelques mois, voire moins, des progrès qui auraient autrement demandé plusieurs années.
Les signataires n’affirment ni que cette explosion a déjà commencé ni qu’elle est inévitable. Leur démarche est préventive : si l’automatisation de la recherche franchissait un certain seuil, le rythme du changement pourrait dépasser la capacité des gouvernements, des institutions et des sociétés à le comprendre et à s’y adapter.
La crainte d’une perte de contrôle
Les conséquences potentielles dépasseraient largement l’apparition de logiciels simplement plus performants. Une accélération radicale pourrait favoriser des découvertes scientifiques et technologiques majeures, mais également conduire à des systèmes dotés de capacités supérieures à celles des humains et de plus en plus difficiles à superviser.
Les auteurs mettent aussi en garde contre un bouleversement possible des rapports de force. Une entreprise ou un État disposant d’une avance significative dans des systèmes capables d’améliorer rapidement d’autres systèmes pourrait creuser cet écart en très peu de temps, avec des conséquences sur la concurrence économique, la cybersécurité et les relations entre gouvernements et grands acteurs technologiques.
Ils demandent donc davantage de transparence sur le niveau d’automatisation de la recherche en IA, des mécanismes indépendants de contrôle et des outils permettant de ralentir ou de réorienter le processus si son accélération atteignait des niveaux jugés dangereux.
Agir avant que la fenêtre de réaction ne se referme
La question essentielle, selon les 22 signataires, n’est pas de démontrer qu’une « explosion d’intelligence » aura lieu, mais de se préparer à l’éventualité qu’elle survienne. Si les progrès restent graduels, les institutions disposeront de temps pour adapter leurs règles. Si l’accélération se produit en quelques mois, cette marge de manœuvre pourrait considérablement se réduire.
Les auteurs proposent ainsi un changement de logique : ne plus attendre l’apparition de nouvelles capacités pour réagir, mais surveiller dès maintenant la manière dont l’IA participe à la création des générations suivantes de systèmes.
C’est tout le paradoxe : plus l’intelligence artificielle devient efficace pour contribuer à construire une intelligence artificielle encore plus performante, moins les humains pourraient disposer de temps pour décider jusqu’où ils souhaitent laisser ce processus se poursuivre.
