IA : chez Anthropic, l’alerte sur une possible extinction humaine

Jacob Coxon, chercheur britannique spécialisé dans le pré-entraînement des modèles d’intelligence artificielle, a annoncé son départ d’Anthropic en dénonçant la course engagée par les grands laboratoires technologiques vers des systèmes toujours plus puissants. Passé auparavant par OpenAI, il estime que l’industrie avance vers la création d’une superintelligence sans disposer encore de garanties suffisantes pour en maîtriser les conséquences.

Dans une série de messages publiés sur X, Jacob Coxon affirme que les acteurs qui développent ces technologies sont eux-mêmes conscients du risque potentiel. Selon lui, certains chercheurs et dirigeants estiment sérieusement qu’une intelligence artificielle suffisamment avancée pourrait conduire à l’extinction de l’humanité avant la fin de la décennie. Il reproche néanmoins aux entreprises de poursuivre leur course au développement, notamment par crainte qu’un concurrent ne prenne de l’avance.

Le chercheur estime que cette dynamique concerne aussi bien OpenAI qu’Anthropic, où il a travaillé sur le pré-entraînement des modèles. S’il considère que les risques seraient davantage pris en compte chez Anthropic, il juge que cette entreprise reste soumise à la logique de compétition qui domine le secteur. Pour lui, cette situation crée un paradoxe puisque chaque laboratoire pourrait être incité à accélérer ses recherches par peur qu’un autre acteur ne développe en premier une technologie potentiellement dangereuse.

Lire aussi : Maroc IA 2030 : comment le Maroc accélère sa stratégie ?

Une IA capable de provoquer l’extinction humaine ?

Les déclarations de Coxon ont reçu un écho particulier au sein même d’Anthropic. Evan Hubinger, responsable scientifique dans le domaine de l’alignement, lui a donné raison sur le fond, affirmant que l’entreprise prend réellement au sérieux l’hypothèse d’une IA pouvant provoquer l’extinction humaine. Il a toutefois précisé que son inquiétude porte principalement sur une future superintelligence issue de mécanismes d’auto-amélioration récursive, et non sur les modèles actuels. Hubinger estime personnellement à plus de 10% la probabilité d’un tel scénario au cours de la prochaine décennie.

Cette distinction rejoint le dernier rapport de risques publié par Anthropic en août 2026. L’entreprise y indique que le risque catastrophique associé aux modèles actuels reste faible, tout en soulignant que l’évolution de leurs capacités pourrait conduire à des problèmes d’alignement plus graves avec des systèmes futurs. Anthropic identifie notamment le risque de modèles capables de développer des capacités difficiles à détecter ou à contrôler.

Pour Coxon, l’enjeu est donc de savoir si l’industrie doit continuer à entraîner des systèmes toujours plus puissants alors que les chercheurs ne disposent pas encore d’une compréhension suffisante de leur fonctionnement interne et des moyens permettant de garantir leur contrôle.