Des chercheurs en cybersécurité ont utilisé l’intelligence artificielle d’Anthropic pour démontrer qu’une vulnérabilité d’une plateforme externe pouvait donner accès à des comptes et à des services internes d’OpenAI. L’entreprise a corrigé le problème et versé une récompense de 6 500 dollars.
Une équipe de chercheurs en cybersécurité a mis au jour une faille susceptible de faciliter l’accès à certains services d’OpenAI. Pour élaborer leur démonstration, les spécialistes de Hacktron AI ont utilisé Claude, le modèle d’intelligence artificielle d’Anthropic, dans le cadre d’un programme autorisé de recherche de vulnérabilités d’OpenAI.
Il ne s’agit donc ni d’une action autonome de Claude ni d’un piratage criminel. Les chercheurs intervenaient au titre d’un programme de récompense pour les failles de sécurité et ont signalé leurs résultats à OpenAI. L’entreprise leur a versé 6 500 dollars après la correction du problème.
L’enquête a débuté le 23 juillet avec l’identification d’une vulnérabilité dans Discourse, une plateforme tierce utilisée pour héberger les forums d’OpenAI. Les chercheurs ont demandé à Claude de les aider à produire du code afin d’évaluer la portée du défaut.
La démonstration a permis d’obtenir des jetons d’authentification, des identifiants numériques servant à accéder à des services en ligne. D’après les informations publiées sur l’affaire, certains pouvaient être réutilisés pour se connecter à des comptes ChatGPT et à d’autres services liés à OpenAI, dont son dépôt interne de logiciels.
Les chercheurs ont utilisé un compte d’employé pour confirmer l’existence de la faille et ont soumis une proposition de modification dans le dépôt de code comme preuve d’accès. Ils assurent avoir arrêté leur test avant de consulter du code sensible ou d’extraire des données.
L’affaire met en lumière un risque qui dépasse OpenAI : la réutilisation d’identifiants entre plusieurs services et la dépendance à des plateformes externes peuvent étendre la surface d’attaque d’une entreprise. Elle montre aussi que l’IA peut accélérer l’identification et l’exploitation contrôlée de vulnérabilités.
OpenAI a révoqué les jetons et sessions concernés, puis engagé une révision de ses défenses. Son président et cofondateur, Greg Brockman, a indiqué que l’entreprise avait mobilisé un quart de ses ingénieurs de production sur la sécurité, ce qui a permis de repérer et de corriger d’autres problèmes.
Ce cas nourrit le débat sur la sûreté des agents d’intelligence artificielle : leur capacité à écrire du code et à agir sur des outils connectés impose désormais des garde-fous adaptés à des usages de plus en plus autonomes.
