Jacob Coxon, 27 ans, qui a travaillé chez OpenAI puis Anthropic, quitte l’industrie de l’intelligence artificielle en lançant une mise en garde particulièrement sévère. Selon lui, les grands laboratoires accélèrent vers des systèmes capables de s’améliorer eux-mêmes alors qu’ils ne disposent toujours pas de garanties suffisantes pour en assurer le contrôle. Son départ pose une question qui dépasse largement la Silicon Valley : peut-on confier la maîtrise du risque aux entreprises qui se livrent précisément une course pour arriver les premières ?
Jacob Coxon a décidé de se retirer de la course. Après trois années consacrées à la recherche sur le préentraînement des modèles, d’abord chez OpenAI puis chez Anthropic, il a annoncé son départ de cette dernière et son retrait de l’industrie de l’IA.
Son accusation est lourde : les deux laboratoires ne se comporteraient pas, selon lui, avec la responsabilité qu’exige le développement de systèmes toujours plus puissants. Ils fonceraient vers une superintelligence capable de s’auto-améliorer, en « jouant avec nos vies ».
Le piège de la compétition
Le propos de Coxon mérite toutefois d’être nuancé. Il ne présente pas Anthropic comme une entreprise indifférente aux questions de sécurité. Il reconnaît au contraire le sérieux d’une partie des recherches qui y sont consacrées.
Son inquiétude porte davantage sur le mécanisme même de la compétition. Chaque laboratoire peut être convaincu qu’il faudrait ralentir tout en estimant qu’un ralentissement unilatéral laisserait un concurrent moins prudent prendre l’avantage.
C’est le paradoxe central de la course à l’IA : la peur du risque peut elle-même devenir une justification pour accélérer.
Coxon estime que certains scénarios particulièrement rapides pourraient conduire, dans un avenir proche, à des systèmes dont le développement deviendrait extrêmement difficile à maîtriser. Cette appréciation reste une hypothèse controversée et non une prévision scientifique établie.
Une inquiétude partagée à l’intérieur même d’Anthropic
La démission a pris une autre dimension avec la réaction d’Evan Hubinger, responsable des recherches sur l’alignement chez Anthropic. Celui-ci estime personnellement à plus de 10% le risque que l’IA puisse provoquer l’extinction de l’humanité au cours de la prochaine décennie.
Une précision est indispensable : Hubinger ne dit pas que les modèles actuels présentent un tel danger. Il redoute l’apparition future d’une superintelligence capable d’utiliser l’IA pour accélérer récursivement ses propres progrès. Il reconnaît également que le problème de l’alignement d’un tel système n’est toujours pas résolu.
Ce chiffre de 10% n’est donc ni un consensus scientifique ni une probabilité démontrée. Il s’agit de l’évaluation personnelle d’un spécialiste du domaine. Elle reste néanmoins révélatrice du degré d’inquiétude qui existe au sein même des laboratoires développant les systèmes les plus avancés.
Quand la technologie devient une question politique
L’affaire pose finalement une question de gouvernance.
Si OpenAI ralentit mais qu’Anthropic continue, ou inversement, la compétition demeure. Si les entreprises américaines ralentissent tandis que leurs concurrentes étrangères accélèrent, le même raisonnement recommence à l’échelle géopolitique.
C’est pourquoi la question ne peut probablement plus être réduite à la bonne volonté des entreprises. Elle concerne désormais la régulation, la coopération internationale et la définition collective du niveau de risque acceptable.
Les scénarios catastrophistes défendus par certains chercheurs restent contestés et rien ne prouve qu’une superintelligence autonome et incontrôlable soit inévitable. Les bénéfices potentiels de l’IA sont, eux aussi, considérables.
Mais la démission de Jacob Coxon met en lumière une contradiction difficile à évacuer : ceux qui construisent les systèmes les plus puissants reconnaissent eux-mêmes qu’ils ne savent pas encore résoudre tous les problèmes de contrôle qu’ils pourraient poser.
Dès lors, une question dépasse toutes les autres : jusqu’où peut-on accélérer avant de savoir comment freiner ?
