9 septembre 2026 – https://www.epochtimes.fr/ – Gaspard Lignard – https://www.bvoltaire.fr/i
Ils « jouent avec nos vies »… Un chercheur en IA qui a travaillé chez OpenAI et Anthropic donne l’alarme. Un chercheur spécialisé en IA quitte Anthropic, inquiet d’une course vers des systèmes « hors de contrôle »
De plus en plus d’employés de la tech prennent la parole pour prévenir de la menace que fait peser l’intelligence artificielle. Si rien n’est fait, celle-ci pourrait mener à l’extinction de l’humanité dans les prochaines années assurent-ils.
Le chercheur Jacob Coxon appelle les Etats à réguler la course au développement d’IA capables de s’améliorer toutes seules, car elle pourrait être fatale à l’humanité
Jacob Coxon, chercheur spécialisé dans le préentraînement de modèles d’intelligence artificielle, a annoncé son départ d’Anthropic et de l’industrie de l’IA. Après avoir travaillé trois ans entre OpenAI et Anthropic, il affirme ne plus vouloir participer à une compétition technologique qu’il estime insuffisamment maîtrisée.
Dans un message publié sur X, Jacob Coxon a expliqué avoir remis sa démission le 8 septembre. Aucune de ces deux entreprises n’agit de manière responsable.
Son départ intervient alors que les grands laboratoires accélèrent le développement de modèles toujours plus autonomes et capables de progresser à partir de leurs propres résultats. Dans un entretien au Wall Street Journal, Jacob Coxon dit craindre que cette dynamique conduise à des systèmes susceptibles d’échapper au contrôle humain.
Une démission motivée par les risques de sécurité
Le chercheur vise en particulier la perspective d’une « superintelligence capable de s’auto-améliorer», c’est-à-dire une IA susceptible d’améliorer elle-même ses capacités.
« Ils se précipitent tête baissée vers une superintelligence capable de s’auto-améliorer et jouent avec nos vies »,
poursuit-il dans le même message, sans désigner un projet précis ni dévoiler d’informations internes sur les travaux d’Anthropic.
Des prévisions très alarmantes
Jacob Coxon présente une lecture particulièrement pessimiste de l’évolution de cette technologie.
« Nous nous dirigeons tout droit vers bon nombre des scénarios les plus pessimistes, selon lesquels la situation pourrait déjà être hors de contrôle d’ici la fin de l’année prochaine », a-t-il déclaré.
Cette appréciation relève de sa projection personnelle et non d’une prévision officiellement établie par Anthropic.
Dans son fil de discussion, il affirme également :
«Les personnes qui développent l’IA sont fermement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup de pub. »
Il soutient que les risques les plus graves ne concernent pas les modèles actuellement accessibles au public, mais des systèmes futurs dotés de capacités beaucoup plus larges et d’une faculté d’amélioration récursive.
Ses propos ont reçu un écho chez Evan Hubinger, responsable de la science de l’alignement chez Anthropic. Dans une réaction relayée par Forbes, ce dernier a indiqué partager l’idée que des systèmes très avancés pourraient poser un risque majeur, tout en précisant que son inquiétude vise surtout l’émergence éventuelle d’une superintelligence plutôt que les modèles actuels.
Une pression croissante sur les laboratoires
Le départ de Jacob Coxon illustre les tensions qui traversent les entreprises à la pointe de l’IA. Ces groupes cherchent à attirer des chercheurs, des investissements et des clients, tout en étant appelés à démontrer que leurs modèles ne créent pas de risques disproportionnés pour la société.
Les déclarations du chercheur ne constituent pas une preuve qu’un système incontrôlable est imminent. Elles mettent néanmoins en lumière l’ampleur des divergences sur le rythme de développement acceptable, la portée réelle des dispositifs de sûreté et le rôle que devraient jouer les pouvoirs publics.
À court terme, la question centrale demeure celle de la vérification : comment tester des modèles de plus en plus capables, rendre leurs décisions auditables et imposer des règles communes à des entreprises engagées dans une concurrence mondiale. La démission de Jacob Coxon ajoute un témoignage interne à un débat déjà central pour l’avenir du secteur.
Intelligence artificielle trop puissante : l’ONU réclame des garde-fous
L’Organisation des Nations unies tire la sonnette d’alarme sur les progrès de l’IA. Lundi 7 septembre, devant le Conseil des droits de l’homme réuni à Genève, le haut-commissaire de l’ONU aux Droits de l’homme, Volker Türk, a appelé à renforcer rapidement les règles encadrant les systèmes d’intelligence artificielle les plus avancés :
« Une IA qui s’échappe de son environnement de test ou qui fait chanter les développeurs pour éviter d’être désactivée est une IA trop puissante. »
« Je partage les inquiétudes des acteurs du secteur selon lesquelles une IA avancée pourrait faire peser un risque existentiel sur l’humanité »,
a déclaré le responsable onusien. Il a appelé à mettre en place des garanties solides concernant la sécurité de ces technologies « avant qu’il ne soit trop tard ».
Colette : Vous pouvez aller relire le rêve sur l’IA et ce que Dieu disait en parlant que l’IA pourrait nous tuer. Nous en voyons les prémices avec ces chercheurs qui le disent vraiment avec des mots d’urgence, d’alarme, et avant qu’il ne soit trop tard.
Le Feu De Ta Presence 