Il y a deux options sur la table pour la superintelligence.
Pas trois. Pas un menu. Deux.
La première : on continue. On accélère. On traite le risque comme un vrai risque — alignment, evals, compute, concurrence, ingénieurs dont la peau est dans le jeu. On accepte un pari ouvert. Admettons le chiffre qui circule : 10 % de chances que ça tourne très mal, 90 % de chances d’une civilisation d’abondance où les gens sont libres.
La seconde : on pause en Occident, ou on confie la super IA à l’État et à ses bureaucrates. On achète le sentiment d’être protégés.
Cette seconde option a deux propriétés que presque personne n’écrit jusqu’au bout.
Elle mène systématiquement à une techno-dictature.
Et elle ne réduit pas les chances d’annihilation.
Le reste du débat est du brouillard autour de ça.
Benjamin Franklin avait déjà nommé le mécanisme, il y a deux cent soixante-dix ans :
« Ceux qui renonceraient à la liberté essentielle pour acheter un peu de sécurité temporaire ne méritent ni l’une ni l’autre. »
On ajoute souvent, et c’est juste : ils finissent par perdre les deux.
Regarde ce que fait vraiment l’option 2.
Un État qui tient la superintelligence ne « régule » pas un logiciel. Il tient le levier de la production, de la vérité publique, de la surveillance, de l’allocation, de la guerre et du récit. Il n’existe aucun précédent où un appareil de cette puissance, une fois saisi, le rend. Ce n’est pas parce que les fonctionnaires sont des monstres. C’est parce que l’incentive est monstrueux. Le pouvoir de tout voir et de tout orienter attire ceux qui veulent tout voir et tout orienter. Ensuite le système sélectionne. La dystopie orwellienne n’est plus un scénario parmi d’autres. C’est le point d’arrivée.
Et le contrat de sécurité est faux.
La pause occidentale n’arrête pas l’histoire. Elle arrête un camp. Le savoir est là. Les puces sont là. Les chercheurs sont là. Pékin ne signera pas un traité pour se mutiler. Ses labos, son Parti, traitent l’IA comme un levier de puissance, de contrôle intérieur et de projection. Si l’Occident se ligote « par prudence », la Chine prend l’avance décisive. Bessent l’a dit sans poésie : on ne peut pas pauser, parce que les Chinois ne pauseront pas. Si l’autre gagne, rien d’autre ne compte.
Donc l’option 2 ne compresse pas les 10 %. Elle les déplace. Elle les concentre. Elle les donne à un acteur qui n’a aucune raison d’optimiser pour ta liberté, et toutes les raisons d’optimiser pour le contrôle. Tu n’as pas moins d’annihilation. Tu as annihilation possible *plus* tutelle certaine. Le pire des deux mondes, vendu comme sagesse.
L’option 1 est inconfortable. C’est pour ça qu’elle est haïe.
Oui, une intelligence qui s’améliore elle-même plus vite que nous ne la comprenons, ce n’est plus de la science-fiction de 2010. Des chercheurs partent en claquant la porte. Des labos écrivent qu’ils courent trop vite. Le risque n’est pas une invention. Il faut le compresser. Tout faire : recherche de sûreté, transparence forcée par la concurrence, limites concrètes sur ce qui s’emballe, responsables nommés, pas des communiqués.
Mais « tout faire » ne veut pas dire livrer les clés.
C’est inarrêtable au sens fort. Pas difficile. Inarrêtable. Chaque fois que l’Occident a cru geler une technologie pour se rassurer — électricité, atome, réseau, logiciel — quelqu’un d’autre l’a prise. La pause n’est pas un bouton off. C’est un transfert de monopole civilisational. Tes villes, tes usines, tes armées, tes écoles, tes conversations passeront par une intelligence dont les valeurs n’auront pas été négociées ici. Elles auront été arbitrées ailleurs. « On sera tous chinois bientôt » n’est pas une vanne. C’est la description d’un stack unique.
Le calcul, une fois débarrassé du moralisme, est simple.
10 % contre 90 %, on peut travailler les 10 % sans vendre la liberté essentielle.
100 % de cage, on ne mitige pas. On y entre.
Le choix rationnel n’est pas le déni du danger. C’est le refus du marché de dupes. On n’achète pas la sécurité en livrant le levier. On réduit le risque en courant plus vite que le mal, en public, sous concurrence, avec des bâtisseurs — pas avec un Gosplan de la cognition.
Franklin ne vendait pas un slogan. On lui proposait un chèque : la sécurité cash contre l’abandon du droit de se gouverner. Il a dit non.
C’est le même chèque.
La superintelligence est un pari pour le meilleur et pour le pire. Le pire existe. Le meilleur aussi : une civilisation où la rareté recule, où le travail idiot disparaît, où l’abondance casse les prétextes de tutelle.
Si on lâche la liberté pour acheter le sentiment d’être protégés par l’État, on n’aura ni l’utopie ni la protection. On aura la tutelle. Et on l’aura pour longtemps.
Deux options. Une seule laisse le futur encore disputable.
Accélérer n’est pas une religion. C’est le seul chemin où le risque reste un risque — au lieu de devenir une sentence.View quoted post on X
