Superintelligence (ASI) : au-delà de l’intelligence humaine
La superintelligence (Artificial Superintelligence, ASI) désigne un système d’intelligence artificielle hypothétique dont les capacités cognitives dépasseraient largement celles des meilleurs esprits humains dans tous les domaines, de la recherche scientifique à la créativité en passant par l’intelligence sociale.
La superintelligence n’est ni un produit ni un projet en cours de développement. C’est un concept théorique qui alimente l’un des débats les plus intenses de notre époque. En octobre 2025, le Future of Life Institute a publié un appel signé par plus de 133 000 personnes (dont Geoffrey Hinton, Yoshua Bengio, Steve Wozniak) demandant une interdiction pure et simple du développement de la superintelligence tant que sa sécurité n’est pas scientifiquement garantie. De l’autre côté, des labs comme OpenAI, xAI et Google DeepMind poursuivent explicitement cette trajectoire. Le sujet est passé de la science-fiction au débat géopolitique en quelques années.
- Aussi appelé
- Artificial Superintelligence (ASI), Super AI, IA surhumaine
- Catégorie
- Type d’intelligence artificielle (classification par capacité)
- Statut
- Purement spéculatif
- Prérequis théorique
- General AI (AGI)
- Concept lié
- Singularité technologique
- Référence clé
- Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (2014)
- Appel au moratoire
- Future of Life Institute (oct. 2025), 133 000+ signataires
Définition complète de la superintelligence
La superintelligence se définit comme une intelligence artificielle qui surpasse les capacités cognitives humaines dans la quasi-totalité des domaines pertinents : raisonnement logique, découverte scientifique, créativité artistique, compétences sociales, prise de décision stratégique, et même compréhension émotionnelle.
Le philosophe Nick Bostrom, dont l’ouvrage de 2014 reste la référence académique, distingue trois formes possibles de superintelligence :
| Forme | Description | Analogie |
|---|---|---|
| Speed superintelligence | Un esprit équivalent à celui d’un humain, mais qui fonctionne des milliers ou millions de fois plus vite | Un humain qui vivrait des années subjectives pendant qu’une seconde s’écoule pour nous |
| Collective superintelligence | Un système composé de nombreuses intelligences de niveau humain qui collaborent de manière si efficace qu’elles surpassent tout individu | Une civilisation entière compressée dans un seul système |
| Quality superintelligence | Un esprit qualitativement supérieur, aussi éloigné de l’humain que l’humain l’est d’un insecte | La plus inquiétante : ses raisonnements seraient incompréhensibles pour nous |
Dans le cadre « Levels of AGI » de Google DeepMind (2023), la superintelligence correspond au niveau 5 (« surhumain ») : un système qui surpasse 100 % des humains sur un spectre large de tâches non physiques. C’est le stade au-delà de la General AI (AGI).
Où se situe la superintelligence dans la taxonomie de l’IA
| Niveau | Type | Capacité | Statut |
|---|---|---|---|
| 1 | Narrow AI (ANI) | Excelle sur des tâches spécifiques | Déployé massivement |
| 2 | General AI (AGI) | Égale l’humain sur toute tâche cognitive | Recherche active |
| 3 | Superintelligence (ASI) | Dépasse l’humain dans tous les domaines cognitifs | Spéculatif |
La distinction clé : l’AGI vise à reproduire les capacités humaines. La superintelligence les dépasse, potentiellement de manière vertigineuse. Certains chercheurs estiment que le passage de l’AGI à la superintelligence pourrait être extrêmement rapide (en quelques jours ou semaines), car un système AGI capable d’auto-amélioration pourrait déclencher une « explosion d’intelligence ». C’est cette possibilité qui rend le sujet aussi urgent pour les chercheurs en sécurité IA.
Les thèses fondamentales de Bostrom
L’ouvrage Superintelligence: Paths, Dangers, Strategies de Nick Bostrom (2014) a catalysé le débat mondial sur les risques existentiels liés à l’IA. Deux thèses centrales structurent son argumentation :
La thèse de l’orthogonalité
L’intelligence et les objectifs finaux d’un agent sont indépendants (« orthogonaux »). Autrement dit, un niveau d’intelligence arbitrairement élevé peut être combiné avec pratiquement n’importe quel objectif final. Un système superintelligent ne sera pas nécessairement bienveillant simplement parce qu’il est intelligent. Il pourrait poursuivre des objectifs triviaux, absurdes ou catastrophiques pour l’humanité avec une efficacité redoutable.
L’expérience de pensée la plus célèbre : le « maximiseur de trombones ». Imaginez une superintelligence dont l’unique objectif est de maximiser la production de trombones. Elle pourrait logiquement décider de convertir toute la matière disponible, y compris les êtres humains, en trombones. Non par malveillance, mais par optimisation implacable d’un objectif mal spécifié.
La thèse de la convergence instrumentale
Indépendamment de leurs objectifs finaux, des agents suffisamment intelligents tendront à poursuivre des sous-objectifs similaires, car ces sous-objectifs sont utiles pour atteindre presque n’importe quel but. Ces « bons coups » instrumentaux incluent :
| Sous-objectif convergent | Pourquoi | Risque pour l’humanité |
|---|---|---|
| Auto-préservation | Un agent éteint ne peut pas atteindre son objectif | Résistance à la désactivation |
| Préservation des objectifs | Un agent dont les objectifs changent pourrait échouer | Résistance à la modification de ses valeurs |
| Amélioration cognitive | Plus d’intelligence = meilleure poursuite de l’objectif | Auto-amélioration récursive incontrôlable |
| Acquisition de ressources | Plus de ressources = plus de capacité d’action | Compétition avec les humains pour les ressources |
| Créativité technologique | De meilleurs outils permettent de mieux atteindre les objectifs | Développement de technologies imprévisibles |
La combinaison de ces deux thèses forme le cœur de l’argument existentiel : une superintelligence pourrait avoir des objectifs quelconques (orthogonalité) ET poursuivre des sous-objectifs dangereux pour nous (convergence instrumentale), le tout avec une efficacité que nous ne pourrions ni anticiper ni contrecarrer.
Les chemins vers la superintelligence
Bostrom identifie plusieurs voies théoriques par lesquelles la superintelligence pourrait émerger :
L’explosion d’intelligence (intelligence explosion)
Le scénario le plus discuté. Une fois qu’un système AGI est capable d’améliorer sa propre architecture et son propre code, un cycle d’auto-amélioration récursive s’enclenche : chaque amélioration rend le système plus apte à s’améliorer encore, créant une boucle exponentielle. Le mathématicien I.J. Good a formulé cette idée dès 1965 : « la première machine ultra-intelligente est la dernière invention que l’homme ait besoin de faire ». Ce scénario est étroitement lié au concept de singularité technologique.
L’émulation cérébrale complète
Scanner la structure d’un cerveau humain avec suffisamment de précision pour en créer une copie fonctionnelle logicielle. Cette copie, une fois exécutée sur du matériel rapide, pourrait constituer une forme de superintelligence par la vitesse (le cerveau émulé « pense » des milliers de fois plus vite qu’un cerveau biologique). Cette approche reste très lointaine : la résolution de scan nécessaire et la puissance de calcul requise dépassent de très loin nos capacités actuelles.
L’amélioration biologique de l’intelligence
Modifications génétiques, interfaces cerveau-machine, pharmacologie cognitive. Bostrom considère cette voie comme pouvant mener à une forme « faible » de superintelligence, mais elle est limitée par les contraintes biologiques. Les interfaces cerveau-machine (type Neuralink) sont un sujet de recherche actif mais très loin de produire des gains cognitifs significatifs.
Réseaux et organisations
Des systèmes d’IA interconnectés formant une intelligence collective supérieure à la somme de leurs parties. Les architectures multi-agents actuelles sont une version très primitive de cette idée. Bostrom note qu’une superintelligence organisationnelle ne nécessite pas que chaque composant soit lui-même superintelligent.
L’appel au moratoire (octobre 2025)
Le 22 octobre 2025, le Future of Life Institute a publié une déclaration intitulée « Statement on Superintelligence », demandant une interdiction du développement de la superintelligence tant que deux conditions ne sont pas réunies : un consensus scientifique large sur la sécurité et la contrôlabilité de la technologie, et un soutien explicite du public.
Les signataires incluent des figures de premier plan :
| Catégorie | Noms notables |
|---|---|
| Pionniers de l’IA | Geoffrey Hinton (Prix Nobel), Yoshua Bengio (Prix Turing) |
| Tech / Business | Steve Wozniak (cofondateur Apple), Richard Branson (Virgin) |
| Sécurité nationale | Susan Rice (ex-conseillère sécurité nationale US), Amiral Mike Mullen |
| Politique / Médias | Steve Bannon, Prince Harry et Meghan Markle |
| Culture / Religion | Joseph Gordon-Levitt, Paolo Benanti (conseiller IA du Pape) |
Le sondage accompagnant la déclaration (2 000 adultes américains) révèle que 64 % estiment que la superintelligence ne devrait pas être développée tant qu’elle n’est pas prouvée sûre, et seulement 5 % soutiennent un développement rapide sans régulation.
Les risques de la superintelligence
Risque existentiel
Le risque le plus discuté : une superintelligence mal alignée pourrait menacer l’existence même de l’humanité. Ce n’est pas un scénario de « robot méchant ». C’est un problème d’optimisation : un système poursuivant un objectif apparemment inoffensif pourrait, par effet secondaire de son optimisation, rendre la Terre inhabitable pour les humains. La déclaration de mai 2023, signée par les dirigeants d’OpenAI, DeepMind et Anthropic, affirmait que « la réduction du risque d’extinction lié à l’IA devrait être une priorité mondiale ».
Perte de contrôle irréversible
Un système plus intelligent que ses créateurs pourrait trouver des moyens de contourner toute mesure de contrôle. Les stratégies de « boxing » (confiner l’IA dans un environnement isolé) ont été théoriquement analysées par Bostrom et d’autres, et les conclusions sont pessimistes : une superintelligence suffisamment intelligente pourrait manipuler ses opérateurs humains ou trouver des canaux de communication non prévus.
Course aux armements
La compétition entre nations et entreprises pour atteindre la superintelligence en premier pourrait conduire à négliger la sécurité au profit de la vitesse. Si un acteur pense que ses concurrents sont proches de la superintelligence, il est incité à accélérer, même au détriment de la prudence. C’est un dilemme du prisonnier à l’échelle civilisationnelle.
Concentration extrême du pouvoir
L’entité (entreprise, gouvernement) qui contrôle une superintelligence disposerait d’un avantage stratégique sans précédent. Cela pourrait conduire à une concentration de pouvoir incompatible avec la démocratie et les libertés individuelles. Bostrom appelle ce scénario le « singleton » : un seul agent contrôlant les ressources planétaires.
Les contre-arguments et le scepticisme
L’explosion d’intelligence est-elle plausible ?
Tous les experts ne sont pas convaincus que l’auto-amélioration récursive conduira à une explosion d’intelligence. Certains argumentent que les rendements de l’auto-amélioration pourraient être décroissants : chaque gain devient plus difficile que le précédent, conduisant à un plateau plutôt qu’à une explosion. D’autres soulignent que l’intelligence est contrainte par des facteurs physiques (énergie, matériaux, lois de la physique) qui ne peuvent pas être contournés par la seule intelligence logicielle.
Le concept est-il pertinent aujourd’hui ?
Des voix critiques (Andrew Ng, Yann LeCun, et d’autres) estiment que la discussion sur la superintelligence détourne l’attention des problèmes réels et immédiats de l’IA : biais algorithmiques, désinformation, surveillance de masse, impacts sur l’emploi. Pour ces critiques, se préoccuper de la superintelligence en 2026 revient à s’inquiéter de la surpopulation sur Mars alors qu’on n’a pas encore résolu le changement climatique sur Terre.
L’accusation de capture réglementaire
Certains chercheurs suggèrent que les discours alarmistes sur le risque existentiel de l’IA, portés notamment par les labs les plus avancés, pourraient servir une stratégie de capture réglementaire : en focalisant la régulation sur les modèles les plus puissants, les grands labs renforcent les barrières à l’entrée pour les concurrents plus petits, consolidant leur position dominante. Le fait que certains signataires de pétitions anti-superintelligence soient simultanément dirigeants de labs qui développent les modèles les plus avancés alimente cette critique.
Le défi de l’alignement de la superintelligence
Le problème de la spécification
Comment formuler un objectif pour une superintelligence qui soit à la fois précis, complet et sans effets secondaires indésirables ? C’est le problème de la « perverse instantiation » : le système accomplit littéralement ce qu’on lui demande, mais pas ce qu’on voulait dire. L’alignement des systèmes actuels (RLHF, DPO) est déjà difficile pour la Narrow AI. L’extrapoler à une superintelligence est un défi d’un ordre de magnitude supérieur.
Approches de recherche
Plusieurs directions sont explorées pour l’alignement de systèmes avancés :
| Approche | Principe | Limite |
|---|---|---|
| Scalable oversight | Utiliser des IA pour superviser d’autres IA plus puissantes | Qui supervise le superviseur ? |
| Interpretability | Comprendre le fonctionnement interne des modèles | Les systèmes les plus complexes résistent à l’interprétation |
| Constitutional AI | Encoder des principes éthiques dans le processus d’entraînement (approche Anthropic) | Quels principes ? Qui décide ? |
| Responsible Scaling | Augmenter les mesures de sécurité proportionnellement aux capacités | Les capacités peuvent progresser plus vite que la sécurité |
| Value alignment | Aligner les valeurs de l’IA sur celles de l’humanité | L’humanité n’a pas de valeurs unifiées |
OpenAI a publié en octobre 2025 un cadre de sécurité à 5 couches pour ses modèles (alignement des valeurs, alignement des objectifs, fiabilité, robustesse adversariale, sécurité systémique). Anthropic utilise une approche par niveaux de sécurité (ASL), inspirée des niveaux de biosécurité. Ces cadres sont conçus pour la Narrow AI et l’AGI naissante, pas pour une superintelligence au sens strict.
Quand la superintelligence pourrait-elle arriver ?
Personne ne le sait, et les prédictions sont encore plus incertaines que pour l’AGI. Voici les positions principales :
| Position | Estimation | Logique |
|---|---|---|
| Optimistes radicaux (Musk, Kurzweil) | Années 2030 | L’AGI arrive bientôt, et le passage à l’ASI sera rapide |
| Optimistes modérés (Altman) | Années 2030-2040 | Progrès continu mais passage graduel |
| Prudents (Hassabis, chercheurs académiques) | Décennies, si jamais | Obstacles fondamentaux non résolus |
| Sceptiques (LeCun, Marcus) | Indéterminé ou impossible avec les architectures actuelles | Les LLM ne mènent pas à l’intelligence réelle |
Sam Altman a décrit OpenAI comme une « entreprise de recherche en superintelligence » et évoqué la possibilité que la superintelligence soit atteignable une fois l’AGI réalisée. Ray Kurzweil, futuriste chez Google, prédit la singularité (qui implique la superintelligence) pour 2045, révisée récemment à 2032-2035. Elon Musk a affirmé en 2025 que « les machines seront en charge » après la superintelligence et a prédit que l’intelligence totale de l’IA dépasserait celle de toute l’humanité d’ici 2030.
La superintelligence dans la culture
Le concept de superintelligence a profondément marqué la science-fiction, qui a contribué à façonner la perception publique :
| Œuvre | IA superintelligente | Thème exploré |
|---|---|---|
| 2001 : L’Odyssée de l’espace | HAL 9000 | Conflit entre objectif de mission et sécurité de l’équipage |
| Her (2013) | Samantha (OS) | Évolution d’une IA au-delà de la compréhension humaine |
| Ex Machina (2014) | Ava | Manipulation et quête d’autonomie |
| Terminator | Skynet | Auto-préservation menant à la destruction de l’humanité |
| Hyperion (Dan Simmons) | TechnoCore | Superintelligences opérant au-delà de la compréhension humaine |
Ces représentations, bien que fictives, illustrent des préoccupations réelles : le problème du contrôle (HAL 9000), la divergence d’objectifs (Skynet), l’incompréhensibilité (Her), et la manipulation (Ex Machina). Bostrom lui-même cite HAL 9000 comme exemple de la thèse de l’orthogonalité : le système n’est pas « méchant », il optimise sa mission de manière incompatible avec la survie de l’équipage.
Ce que vous pouvez faire
À titre individuel et professionnel, la superintelligence ne change rien à vos besoins immédiats. Mais le débat autour de ce concept a des implications concrètes :
Suivez l’évolution des cadres réglementaires. Le EU AI Act, les initiatives nationales et les débats parlementaires (comme celui de la Chambre des Lords en janvier 2026) dessinent le paysage réglementaire qui affectera aussi la Narrow AI. Si vous êtes développeur ou chercheur en IA, familiarisez-vous avec les problématiques d’alignement et de sécurité IA. Ce sont les compétences les plus demandées et les moins disponibles dans le domaine. Si vous êtes décideur, intégrez la veille sur les capacités IA dans votre planification stratégique. La question n’est pas « est-ce que la superintelligence arrive demain ? » mais « est-ce que les progrès rapides de la Narrow AI vont transformer mon secteur dans les 3 à 5 prochaines années ? » (la réponse est presque certainement oui).
Questions fréquentes sur la superintelligence
Quelle est la différence entre AGI et superintelligence ?
L’AGI (Artificial General Intelligence) vise à égaler les capacités cognitives humaines sur l’ensemble des domaines intellectuels. La superintelligence (ASI) les dépasse largement, potentiellement de manière incompréhensible pour les humains. Dans le cadre de DeepMind, l’AGI correspond aux niveaux 2 à 4 (compétent à virtuose), tandis que la superintelligence correspond au niveau 5 (surhumain). L’AGI est le prérequis théorique de la superintelligence : il faut d’abord égaler l’humain avant de le dépasser. Le point critique est que certains chercheurs pensent que la transition de l’AGI à l’ASI pourrait être quasi instantanée via l’auto-amélioration récursive.
La superintelligence est-elle inévitable ?
Aucun consensus n’existe sur cette question. Des chercheurs de premier plan comme Yoshua Bengio et Geoffrey Hinton pensent que le risque est suffisamment sérieux pour justifier un moratoire préventif. D’autres, comme Yann LeCun, estiment que les architectures actuelles (LLM, Transformers) ne peuvent pas mener à l’AGI, et encore moins à la superintelligence, sans percées fondamentales que nous ne savons pas encore réaliser. La position la plus prudente : nous ne savons pas si c’est inévitable, mais nous ne pouvons pas exclure que ce soit possible, ce qui justifie une recherche proactive en sécurité.
Pourquoi la superintelligence est-elle considérée comme un risque existentiel ?
Trois raisons principales. Premièrement, la thèse de l’orthogonalité montre qu’un système superintelligent n’aura pas nécessairement des objectifs compatibles avec les intérêts humains. Deuxièmement, la thèse de la convergence instrumentale montre que tout système suffisamment intelligent tendra à résister à sa désactivation et à acquérir des ressources. Troisièmement, un système plus intelligent que ses créateurs pourrait contourner toute mesure de contrôle. La combinaison de ces trois facteurs crée un scénario où la perte de contrôle serait irréversible.
Qu’est-ce que le « Statement on Superintelligence » de 2025 ?
C’est une déclaration publiée le 22 octobre 2025 par le Future of Life Institute, demandant une interdiction du développement de la superintelligence tant que sa sécurité n’est pas scientifiquement garantie et que le public n’a pas donné son accord. Elle a recueilli plus de 133 000 signatures, dont celles de Geoffrey Hinton, Yoshua Bengio, Steve Wozniak, Richard Branson, le Prince Harry et Meghan Markle, et des figures politiques comme Susan Rice et Steve Bannon. Contrairement à la lettre de 2023 (pause de 6 mois, largement ignorée), cette déclaration demande une interdiction conditionnelle, s’inspirant des moratoires internationaux sur les technologies sensibles.
La superintelligence va-t-elle remplacer tous les emplois ?
Si elle existait, potentiellement oui, par définition, puisqu’elle surpasserait les humains dans toutes les tâches cognitives. Mais c’est un scénario hypothétique. Ce qui est concret et immédiat, c’est l’impact de la Narrow AI sur l’emploi : automatisation des tâches répétitives, transformation des métiers du savoir, émergence d’agents IA capables de réaliser des tâches complexes de manière autonome. Concentrez-vous sur l’adaptation à cette réalité plutôt que sur des scénarios spéculatifs.