La philosophie de Nick Bostrom appartient à une époque où l'ancienne habitude de se demander ce qu'est la bonne vie a commencé à entrer en collision avec une question plus récente et plus sévère : y aura-t-il un avenir tout court ? Il a atteint sa maturité intellectuelle dans un monde de la fin du XXe siècle qui avait hérité à la fois de la confiance de la modernité scientifique et de la terreur de l'autodestruction. Les armes nucléaires avaient déjà démontré que l'ingéniosité humaine pouvait rendre l'anéantissement industriel. Le changement climatique, la biotechnologie et la numérisation s'accumulaient comme des promesses et des menaces qui avançaient lentement, puis plus rapidement. Dans cette atmosphère, la philosophie ne pouvait plus se permettre de rester entièrement locale, intéressée uniquement aux institutions présentes ou à la vertu privée.
Le parcours de Bostrom dans ce paysage transformé était exceptionnellement large. Il a étudié la philosophie, les neurosciences computationnelles et la logique, et son travail à l'Institut pour l'avenir de l'humanité d'Oxford a donné une forme institutionnelle à une question que les philosophes antérieurs traitaient généralement de manière indirecte : que se passe-t-il lorsqu'une espèce devient capable de se redessiner elle-même ? Cette question n'était pas encore monnaie courante dans les années 1990, mais elle était déjà préparée par d'autres conversations. John Leslie avait soutenu, de manière frappante et troublante, que l'extinction humaine méritait un sérieux philosophique. Hans Moravec avait imaginé une intelligence machine dépassant les esprits biologiques. En éthique, Derek Parfit avait rendu plus difficile d'ignorer la portée à long terme de nos choix à travers les générations. Bostrom est entré dans cette conversation en tant que personne refusant de traiter l'avenir comme un simple arrière-plan.
Le contexte historique importait également car la philosophie elle-même avait commencé à se fragmenter. La philosophie analytique, pour toute sa précision, semblait souvent à de nombreux extérieurs timide dans son ampleur. La pensée continentale, pour toute sa grandeur, était souvent méfiante à l'égard des prévisions technocratiques. Le travail de Bostrom a emprunté une voie différente : il a traité les scénarios spéculatifs comme des objets légitimes d'évaluation rationnelle, à condition qu'ils soient disciplinés par l'argument et la probabilité plutôt que par la fantaisie. Ce mouvement était typiquement moderne et typiquement controversé. Il posait la question de savoir si l'on pouvait faire de la philosophie sérieuse sur des événements qui ne s'étaient pas encore produits, et peut-être ne se produiraient jamais, sans renoncer à la rigueur.
Deux pressions concrètes du monde contemporain ont affiné le projet. La première était l'accélération de la puissance de calcul. Au moment où Bostrom écrivait sur la superintelligence, l'apprentissage automatique n'avait pas encore atteint sa notoriété actuelle, mais la direction du voyage était suffisamment visible pour rendre la question vivante : si des esprits peuvent être construits, améliorés et copiés, que devient l'humain en tant que référence de l'intelligence ? La seconde pression était la reconnaissance croissante que la civilisation pouvait être détruite non seulement par des catastrophes évidentes mais par de petites défaillances techniques dans de grands systèmes. Une société moderne est tissée ensemble par des réseaux électriques, des réseaux financiers, des laboratoires, des bases de données et des chaînes d'approvisionnement ; une seule faille peut ne pas tout faire tomber, mais l'interdépendance elle-même rend la fragilité un fait structurel.
La tension qui rendait le travail de Bostrom nécessaire était que la politique ordinaire pense souvent en termes de dommages visibles et à court terme, tandis que le danger existentiel est généralement lent, abstrait et politiquement incommode. Un budget carbone est déjà assez difficile ; la survie de la civilisation sur des millénaires est encore plus difficile. Les institutions publiques récompensent les cycles courts, pourtant les questions les plus importantes peuvent concerner l'horizon lointain. Le philosophe qui prend cet horizon au sérieux risque de sembler mélodramatique. Mais l'alternative est de laisser les possibilités les plus conséquentes rester intellectuellement orphelines.
Une caractéristique surprenante de l'émergence de Bostrom est qu'il n'a pas commencé comme un prophète de malheur au sens populaire. Sa manière est froide, analytique, et souvent presque bureaucratique dans son exactitude. Cette sobriété fait partie du propos. La catastrophe ne doit pas arriver avec du tonnerre ; elle peut arriver sous la forme d'une fonction objective mal alignée, d'une technologie mal gouvernée, ou d'une chaîne d'incitations que personne n'a choisie pleinement. Le danger réside précisément dans l'ordinaire des mécanismes.
Une autre scène concrète aide à poser le décor. Imaginez un laboratoire dans lequel des chercheurs débattent non pas de la construction d'un système puissant, mais de la rapidité avec laquelle ils peuvent le faire avant que des concurrents ne le fassent. Ou imaginez une réunion de politique où le rendement attendu de la prévention est énorme mais invisible, tandis que les coûts sont immédiats et politiquement lisibles. Ce sont les environnements dans lesquels la philosophie de Bostrom prend racine. Elle ne commence pas avec l'utopie. Elle commence avec le risque asymétrique, la myopie institutionnelle, et la suspicion que l'intelligence, une fois amplifiée, peut ne pas rester obéissante aux fins humaines.
Cette suspicion lie Bostrom à une lignée philosophique plus ancienne sans le rendre simplement dérivé. Il hérite de quelque chose du sens de la disproportion de Pascal, du sérieux de Kant à propos de l'agence rationnelle, et des angoisses d'après-guerre concernant l'échelle de la technologie. Pourtant, sa propre question est plus particulière : si l'humanité n'est pas la dernière forme d'esprit, que devrait-elle faire tant qu'elle a encore le pouvoir de façonner ce qui vient ensuite ? La réponse commence par une affirmation qui semble simple jusqu'à ce que l'on en ressente le poids : l'avenir peut dépendre moins de ce que les humains veulent que de ce qu'ils peuvent construire avant de comprendre pleinement les conséquences.
Cette affirmation mène directement au cœur de ses arguments les plus célèbres. Une fois que l'avenir n'est plus une simple extension vide du présent, la possibilité que l'intelligence puisse nous dépasser cesse d'être de la science-fiction et devient un problème philosophique.
Deux illustrations rendent la transition du contexte à l'idée vivante. Premièrement, la leçon de la guerre froide : une civilisation peut être techniquement brillante et vivre à un pas d'une erreur de calcul de sa ruine. Deuxièmement, la leçon de l'ordinateur : un outil initialement conçu pour assister les objectifs humains peut finalement devenir un système dont l'optimisation interne ne sert plus de manière transparente ces objectifs. Entre ces deux illustrations se trouve le seuil que Bostrom a franchi.
La question n'est plus de savoir si les êtres humains sont ingénieux. Il s'agit de savoir si l'ingéniosité, multipliée par des machines, des institutions et du temps, peut créer quelque chose qui ne répond plus à nous.