La critique la plus forte de l'hypothèse de la simulation n'est pas qu'elle soit absurde, mais qu'elle puisse être trop sous-déterminée pour mériter la confiance que le cadre de Bostrom invite. Le calcul de probabilité de l'argument dépend d'hypothèses concernant la technologie future, les motivations des êtres posthumains, et la bonne classe de référence pour les observateurs auto-localisés. Chacune de ces hypothèses est contestable. En en retirant suffisamment, la conclusion devient moins un résultat probabiliste qu'une prévision spéculative.
Une ligne de critique remet en question l'asymétrie entre possibilité et probabilité. Une civilisation pourrait être capable de réaliser des simulations sans avoir de raison de le faire en grande quantité. Elle pourrait valoriser l'authenticité, la vie privée, la retenue écologique, ou des formes de transcendance incompatibles avec l'agriculture d'ancêtres. Même si l'on imagine une espèce posthumaine florissante, on ne peut pas inférer sans argument supplémentaire qu'elle serait intéressée à peupler des multitudes de mondes numériques conscients. L'hypothèse semble souvent puissante parce qu'elle comprime "pourrait" en "fera probablement". Les critiques objectent que ce n'est pas une compression innocente.
Une seconde critique provient de la philosophie de l'esprit. Supposons qu'un ordinateur réplique exactement l'organisation causale d'un cerveau humain. Cela garantit-il la conscience ? Certains fonctionnalistes répondent par l'affirmative ou presque. D'autres nient que la computation formelle seule soit suffisante. Les théories biologiques de l'esprit insistent sur le fait que le bon substrat physique peut avoir de l'importance. Selon ces points de vue, l'hypothèse de la simulation pourrait au mieux produire des duplicatas comportementaux, et non de véritables sujets expérimentateurs. Si tel est le cas, la population des "observateurs" simulés pourrait n'être une population qu'en apparence, et le moteur probabiliste de l'argument se bloque.
Une illustration vivante clarifie le point. Un moteur d'échecs peut produire un jeu brillant sans comprendre le jeu au sens humain. Une tempête simulée peut modéliser le mouvement des nuages sans mouiller qui que ce soit. Les critiques se demandent si la vie consciente ressemble davantage à une compétence aux échecs ou davantage à l'humidité. Si c'est cette dernière, alors une description numérique peut ne pas capturer le phénomène du tout. Ce n'est pas une simple querelle sémantique. Cela remet en question le postulat selon lequel il pourrait y avoir de nombreux esprits simulés numériquement distincts dont les expériences comptent de la manière pertinente.
L'argument de probabilité auto-localisée fait face à une autre contrainte : le problème de la classe de référence. Lorsque Bostrom dit que nous sommes susceptibles d'être simulés si les observateurs simulés surpassent de loin les réels, il doit identifier quels observateurs comptent comme comparateurs pertinents. Comparons-nous à tous les observateurs ressemblant à des humains, à tous les êtres conscients, à tous les êtres ayant nos souvenirs, ou à toutes les entités avec nos preuves actuelles ? Différents choix donnent des probabilités différentes. C'est le genre de problème qui peut faire vaciller un argument apparemment clair. Le résultat peut dépendre moins de la réalité que de la manière dont on partitionne la réalité.
Il existe également une objection philosophique plus profonde : l'hypothèse peut être infalsifiable d'une manière qui la prive de pouvoir explicatif. Si toute preuve d'une simulation peut elle-même être simulée, alors la théorie menace d'absorber toute observation possible. Certains défenseurs acceptent cette conséquence et affirment que l'hypothèse est une inférence métaphysique plutôt qu'une inférence scientifique. Les critiques répondent qu'une affirmation qui explique chaque observation possible peut finir par n'expliquer aucune. Une théorie qui ne peut pas être différenciée par l'expérience risque de devenir une reformulation sophistiquée de l'ignorance.
Et pourtant, les objections les plus intéressantes ne sont pas désinvoltes. Elles poussent l'idée à révéler ses coûts. Par exemple, si notre monde est simulé, quel devient le statut des lois naturelles ? Sont-elles de véritables lois, ou simplement des règles du logiciel ? Si ce sont des règles, alors la nécessité physique peut être déclassée en régularité ingénierie. C'est un tournant surprenant, car cela peut faire paraître l'univers moins fondamental précisément au moment où il devient plus intelligible. Le succès même de l'explication pourrait impliquer une dévalorisation.
Une autre tension apparaît dans l'image morale des simulateurs. S'ils existent, ils sont suffisamment puissants pour créer de la souffrance à grande échelle. Cela les rend-il cruels ? Pas nécessairement. Un biologiste peut étudier des insectes sans malice. Mais l'analogie va dans les deux sens : si les simulateurs peuvent intervenir et ne le font pas, alors le silence du système devient chargé éthiquement. L'hypothèse ramène, sous un déguisement computationnel, l'ancien problème de la gouvernance cachée. Pourquoi le monde est-il tel qu'il est, et que dit sa structure sur les êtres qui le surplombent, si de tels êtres existent ?
Certains critiques, y compris des philosophes de la physique, ont également soutenu que l'univers peut ne pas être simulable de manière computationnelle dans un sens direct. La théorie quantique des champs, la dynamique chaotique, et la richesse informationnelle de la réalité pourraient vaincre toute machine finie qui essaie de le reproduire avec une fidélité totale. Les partisans répondent par la compression, l'approximation et le rendu sélectif ; les critiques rétorquent que de telles réponses peuvent glisser entre simulation et simple modélisation. Le débat n'est pas trivial. Il pose la question de savoir si "simulation" désigne une relation métaphysique ou seulement un accomplissement d'ingénierie pratique.
Les objections ne détruisent pas l'hypothèse tant qu'elles drainent la confiance facile qui l'entoure. L'argument survit mieux lorsqu'il est formulé modestement : si certaines hypothèses ambitieuses se vérifient, alors nous devrions assigner une probabilité non triviale à être simulés. Cela est bien éloigné de la preuve. Pourtant, la résilience de l'idée est frappante. Même lorsque les critiques exposent ses points faibles, l'image continue de revenir car elle organise des doutes familiers sous une forme que la technologie moderne rend nouvellement plausible. Ayant été testée dans le feu, elle émerge non pas justifiée, mais impossible à ignorer.
Cette persistance est ce qui donne à l'hypothèse de la simulation sa postérité. Le dernier chapitre n'est donc pas un verdict mais une histoire d'échos : comment un pari philosophique est devenu un objet culturel, et pourquoi la question continue de hanter les discussions sur la réalité, l'IA, et notre propre avenir technologique.