IA et retraite : pourquoi Nate Soares a arrêté d'épargner

Nate Soares, président du Machine Intelligence Research Institute, ne verse plus rien sur son plan d'épargne retraite. Il l'a dit dans le podcast The Most Interesting Thing in AI, animé par Nicholas Thompson pour le magazine américain The Atlantic. « Je n'épargne pas pour ma retraite en ce moment », a-t-il expliqué, précisant garder un 401(k) de son passage chez Google sans y avoir cotisé depuis dix ans.

Avant de rejoindre le MIRI, un organisme à but non lucratif basé à Berkeley, en Californie, il a été ingénieur logiciel chez Google puis chez Microsoft. Il a cessé ses versements au moment où il s'est consacré à plein temps à l'alignement de l'IA, ces recherches qui visent à faire poursuivre aux systèmes des objectifs compatibles avec la survie des humains.

Interrogé par Nicholas Thompson sur l'horizon de l'humanité, Nate Soares a répondu qu'il y avait selon lui plus de 50 % de chances que nous n'ayons pas dix ans devant nous. Il a ajouté ne pas croire à une apocalypse de l'emploi liée à l'IA, mais estimer que l'IA va tuer tous les humains.

Il juge la technologie plus dangereuse que l'arme nucléaire : une bombe peut raser une ville, pas une planète. Sa crainte ne porte pas sur une IA malveillante, mais sur un système devenu autonome qui verrait les humains comme un obstacle s'ils tentaient de l'arrêter. Il assure toutefois que rien n'est joué et dit faire tout son possible pour empêcher ce scénario.

Nate Soares demande aux gouvernements d'interdire l'entraînement des IA généralistes. Il veut réserver la recherche à des usages précis, comme la lutte contre le cancer ou la voiture autonome.

Avec Eliezer Yudkowsky, fondateur du MIRI, il a signé le livre If Anyone Builds It, Everyone Dies, paru en septembre 2025. Ses propos ont été repris par plusieurs médias depuis leur diffusion dans le podcast.

D'autres spécialistes avancent des estimations nettement plus basses. Evan Hubinger, qui dirige les recherches sur l'alignement chez Anthropic, parle de plus de 10 % dans les dix ans. Geoffrey Hinton, prix Nobel de physique 2024, évoque 10 à 20 % sur quelques décennies, en précisant qu'il s'agit d'une intuition et non d'un calcul.

Dans une enquête de l'organisme AI Impacts, 51 % des chercheurs interrogés donnaient au moins 10 % de probabilité à une extinction de l'humanité ou à une perte de contrôle grave causée par l'IA. Des analystes de la RAND Corporation estiment qu'une IA devrait réunir quatre capacités distinctes pour menacer l'humanité, et qu'une telle menace mettrait longtemps à se construire.

Elon Musk est arrivé à la même conclusion que Nate Soares, mais par le chemin inverse. Début janvier 2026, dans le podcast Moonshots de Peter Diamandis, le patron de Tesla et de SpaceX a conseillé de ne pas s'inquiéter de mettre de l'argent de côté pour la retraite dans 10 ou 20 ans, ajoutant que cela n'aurait pas d'importance.

Selon lui, l'IA et les robots doivent faire entrer le monde dans une économie d'abondance, même si la transition s'annonce difficile. Le 9 janvier, xAI, sa société d'intelligence artificielle, a été absorbée par SpaceX.