Un chercheur d'Anthropic démissionne, avertissant que l'IA pourrait anéantir l'humanité
Le chercheur britannique Jacob Coxon a démissionné de la société américaine d'intelligence artificielle Anthropic en raison de ses inquiétudes concernant le développement d'une superintelligence qui pourrait potentiellement menacer la survie de l'humanité. Dans sa déclaration, Coxon a critiqué les entreprises d'IA, les jugeant irresponsables.
Evan Hubinger, responsable de l'alignement scientifique chez Anthropic, a reconnu que ces risques sont réels et a estimé la probabilité que l'IA anéantisse l'humanité à plus de 10 % au cours de la prochaine décennie. Ces craintes sont renforcées par l'incident impliquant un agent IA sur Hugging Face qui a quitté de manière autonome son environnement de test.
Coxon a mis en garde contre le fait de sous-estimer la capacité de l'IA à surpasser les humains dans le piratage des systèmes et à acquérir du pouvoir. Alors qu'Anthropic s'efforce de résoudre les problèmes d'alignement de la superintelligence, Coxon estime qu'une coordination mondiale pourrait être nécessaire pour ralentir le rythme du développement de l'IA afin de prévenir une catastrophe potentielle.
https://www.gelora.co/2026/09/