L’entreprise américaine Anthropic, l’un des acteurs les plus influents de l’intelligence artificielle, estime que le monde devrait se préparer à ralentir, voire suspendre temporairement, le développement des systèmes d’IA les plus avancés. À l’origine de cet appel, une inquiétude grandissante : la possibilité que les futurs modèles deviennent capables d’accélérer eux-mêmes leur évolution à un rythme dépassant la capacité de contrôle des humains et des institutions.

L’avertissement émane d’Anthropic, la société basée à San Francisco qui développe Claude, l’un des principaux concurrents de ChatGPT. Dans un rapport publié cette semaine, l’entreprise affirme qu’un mécanisme international permettant de ralentir ou de suspendre temporairement les recherches les plus avancées en matière d’intelligence artificielle constituerait probablement « une bonne option pour le monde ».

Selon l’entreprise, le défi ne réside plus seulement dans la puissance croissante des modèles d’IA, mais dans leur capacité à contribuer eux-mêmes à leur propre perfectionnement. Les chercheurs évoquent le concept de « récursion auto-améliorante », c’est-à-dire la possibilité qu’un système devienne capable de concevoir des versions plus performantes de lui-même avec une intervention humaine de plus en plus réduite.

Anthropic précise qu’un tel scénario ne s’est pas encore matérialisé. Toutefois, les progrès observés dans les laboratoires de recherche laissent penser que cette perspective pourrait devenir une réalité plus rapidement que prévu.

Une accélération sans précédent

L’entreprise affirme que l’intelligence artificielle joue déjà un rôle majeur dans sa propre évolution. Une part importante du code utilisé pour développer les nouveaux systèmes est désormais générée avec l’aide de modèles d’IA, ce qui réduit progressivement la place de l’intervention humaine dans certaines étapes du développement technologique.

Pour les spécialistes de la sécurité de l’IA, cette dynamique pourrait créer une boucle d’accélération continue, parfois comparée à une « explosion d’intelligence », où chaque nouvelle génération de modèles contribuerait à concevoir la suivante plus rapidement encore.

Cette hypothèse, longtemps considérée comme théorique, est désormais discutée sérieusement par plusieurs laboratoires de pointe, notamment Anthropic, OpenAI et Google DeepMind.

Un défi géopolitique mondial

Anthropic reconnaît toutefois qu’une pause décidée par une seule entreprise ou un seul pays serait inefficace.

L’entreprise estime qu’un éventuel ralentissement devrait faire l’objet d’un accord international impliquant les principaux acteurs de la course technologique mondiale, en premier lieu les États-Unis et la Chine.

« Sans mécanisme mondial de coordination, les entreprises et les gouvernements devront prendre des décisions difficiles en matière de sécurité sous la pression de la concurrence économique et géopolitique », souligne le rapport.

Cette dimension stratégique explique en grande partie les réticences rencontrées par cette proposition. À Washington, de nombreux responsables considèrent que tout ralentissement du développement de l’IA risquerait d’offrir un avantage décisif à Pékin dans un secteur devenu central pour la puissance économique, militaire et technologique.

Le président Donald Trump a néanmoins indiqué avoir abordé la question de la sécurité de l’intelligence artificielle lors de récents échanges avec les autorités chinoises. Son administration a également adopté de nouvelles mesures permettant aux autorités fédérales d’examiner certains modèles avancés avant leur mise sur le marché.

Entre prudence scientifique et scepticisme industriel

L’initiative d’Anthropic ne fait pas l’unanimité au sein de l’écosystème technologique.

Certains concurrents et responsables politiques américains accusent l’entreprise de mettre en avant les scénarios les plus alarmistes afin de promouvoir une réglementation susceptible de ralentir l’ensemble du secteur, tout en protégeant indirectement sa propre position sur le marché.

D’autres observateurs estiment au contraire que les préoccupations soulevées méritent d’être prises au sérieux. Les progrès rapides des modèles capables de programmer, de conduire des recherches scientifiques ou d’assister des ingénieurs dans la conception de nouveaux systèmes posent des questions inédites en matière de gouvernance et de sécurité.

Une question qui dépasse la Silicon Valley

Au-delà de la rivalité entre entreprises américaines et chinoises, le débat touche à une interrogation fondamentale : les institutions humaines sont-elles capables d’encadrer une technologie qui évolue à une vitesse sans précédent ?

Pour l’Europe, engagée dans la mise en œuvre de son règlement sur l’intelligence artificielle, et pour des pays comme le Maroc qui accélèrent leur transition numérique, l’enjeu consiste à trouver un équilibre entre innovation, compétitivité et maîtrise des risques.

La proposition d’Anthropic, même si elle paraît aujourd’hui difficilement applicable, témoigne d’une préoccupation croissante au sein même des acteurs qui façonnent la révolution de l’intelligence artificielle : celle de ne pas laisser la technologie progresser plus vite que la capacité des sociétés à l’encadrer.