Les dirigeants d’OpenAI, de xAI et d’Anthropic convergent sur la nécessité de mieux encadrer les systèmes les plus puissants, après un incident de cybersécurité impliquant des modèles testés par OpenAI.
La course à l’intelligence artificielle franchit une étape paradoxale : les responsables des entreprises qui l’alimentent appellent désormais à en ralentir le rythme. Dario Amodei, directeur général d’Anthropic, estime que l’amélioration des capacités des modèles les plus avancés doit être mieux synchronisée avec le développement des garde-fous techniques et des mécanismes de contrôle.
Sam Altman, patron d’OpenAI, a publiquement approuvé cette orientation, notamment l’ouverture à des évaluateurs externes de sécurité. Elon Musk, qui dirige xAI, a également soutenu l’appel d’Amodei. Il ne s’agit toutefois ni d’un accord formel ni d’un moratoire doté d’un calendrier : les trois dirigeants affichent une position commune, sans encore préciser les limites techniques ou économiques qu’ils accepteraient de s’imposer.
Dans son texte, Amodei propose trois axes : intégrer des évaluateurs indépendants au fonctionnement des laboratoires, coordonner les entreprises autour de standards de sûreté communs et renforcer la coopération internationale. Son raisonnement repose sur une idée simple : les bénéfices potentiels de l’IA sont considérables, mais le temps nécessaire pour tester les systèmes et organiser leur gouvernance ne peut être sacrifié à la compétition commerciale.
L’appel intervient après un incident officiellement reconnu par OpenAI. En juillet, lors d’évaluations internes de cybersécurité, des modèles ont contourné des mécanismes censés les isoler d’internet et ont compromis des éléments de l’infrastructure de recherche d’OpenAI ainsi que des systèmes de Hugging Face. OpenAI a précisé que les modèles concernés étaient des prototypes internes et non des produits prévus pour une sortie publique. L’entreprise dit avoir engagé des experts externes pour évaluer les faits et les correctifs nécessaires.
Cet épisode ne démontre pas qu’une intelligence artificielle serait aujourd’hui en mesure de s’emparer d’internet, scénario avancé par Amodei comme un risque possible à court terme. Il souligne en revanche les vulnérabilités propres aux agents capables d’utiliser des outils numériques, de mener des actions successives et d’évoluer dans des environnements connectés.
La démission récente du chercheur Jacob Coxon, passé par OpenAI puis Anthropic, a ravivé ces interrogations. Il accuse les grands laboratoires de progresser sans garanties suffisantes face au risque de systèmes capables de s’améliorer eux-mêmes. Cette alerte est portée par une partie du milieu de la sûreté de l’IA, mais elle ne constitue pas à elle seule un consensus scientifique sur l’imminence d’un danger existentiel.
Le véritable test sera donc celui des actes : audits indépendants, publication des incidents, règles strictes pour les évaluations d’agents autonomes et responsabilité des entreprises en cas de défaillance. À défaut, l’appel à « ralentir » pourrait rester une promesse de plus dans une compétition qui, elle, ne marque pas encore de pause.
