Une fois la pièce imaginée, la vision plus large de Searle se précise. L'expérience de pensée n'a jamais été conçue comme une énigme autonome ; elle était un levier pour une philosophie de l'esprit plus large. Au cœur de cette philosophie se trouve la revendication que les esprits sont des phénomènes biologiques, et que l'intentionnalité est une caractéristique réelle des cerveaux, et non quelque chose qui serait conjuré par une simple description formelle. Searle s'attaquait à une ligne de faille qui traversait la confiance du XXe siècle tardif dans le calcul : si un système pouvait être spécifié entièrement par des règles, pouvait-il ainsi devenir un esprit ? Sa réponse était non, et la Chambre Chinoise était le moyen le plus clair de mettre cette réponse en lumière.
Pour rendre cette revendication intelligible, Searle distingue avec soin entre syntaxe et sémantique. La syntaxe concerne les propriétés formelles des symboles : leur forme, leur ordre et leur manipulation régie par des règles. La sémantique concerne le sens, la référence et l'objectivité. Un programme informatique, selon Searle, est entièrement syntaxique. Il peut préserver des relations formelles, mais ces relations formelles ne suffisent pas à elles seules à produire un esprit. Cette distinction est le moteur de l'ensemble de l'argument. Elle confère également à la Chambre Chinoise sa force particulière : la pièce est remplie de symboles, de tables et de procédures, pourtant rien dans la configuration ne garantit qu'un symbole soit jamais en rapport avec quoi que ce soit pour la personne à l'intérieur.
Une première illustration est la différence entre une calculatrice et la personne qui comprend l'arithmétique. La calculatrice effectue des opérations avec une fiabilité étonnante, et elle peut même surpasser la vitesse humaine. Mais le mathématicien humain peut reconnaître ce que signifie un résultat, remarquer un schéma et comprendre pourquoi une preuve fonctionne. Le point de Searle n'est pas que les calculatrices sont inutiles ; c'est que leur compétence découle de l'interprétation imposée par les utilisateurs et les concepteurs, et non d'une compréhension intrinsèque. Les symboles ne se réfèrent à rien pour la machine. Dans la logique du chapitre, cela a de l'importance car cela marque une frontière entre performance et compréhension, entre un résultat généré correctement et un résultat saisi comme un résultat.
Une deuxième illustration apparaît dans la célèbre "réponse des systèmes", que Searle anticipe et résiste. La réponse dit que peut-être l'homme dans la pièce ne comprend pas le chinois, mais que l'ensemble du système le fait. La réponse de Searle est d'internaliser le système : supposons que l'homme mémorise les règles, les tables, les réponses, jusqu'à ce qu'il incarne effectivement l'ensemble de l'opération. Si la compréhension est toujours absente au niveau de l'homme-plus-règles, alors simplement élargir l'appareil formel ne résout pas le problème. La pression demeure : où, exactement, le sens entre-t-il ? La Chambre Chinoise est conçue de telle sorte qu'aucune béquille externe ne peut sauver la revendication que la syntaxe seule devient sémantique. Même si la pièce était agrandie de cartes de repères manuscrites à un archive plus élaborée d'instructions, l'incertitude centrale resterait intacte.
Ici, la théorie s'élargit en une défense du naturalisme biologique. Searle soutient que la conscience et l'intentionnalité sont des caractéristiques de niveau supérieur produites par les processus physiques du cerveau, tout comme la digestion est produite par les opérations de l'estomac. Mais contrairement à la digestion, la conscience a un caractère intérieur et subjectif. Le cerveau n'est pas spécial parce qu'il est immatériel ; il est spécial parce qu'il possède des pouvoirs causaux qui soutiennent l'expérience de première personne. Un ordinateur, en revanche, exécute un programme, et la seule mise en œuvre d'un programme ne génère pas de contenu sémantique intrinsèque. La distinction n'est pas simplement une comptabilité philosophique. C'est la revendication qu'un système physique peut être décrit formellement sans que cette description capture ce que cela fait d'être à l'intérieur.
Ce mouvement est souvent mal compris comme étant anti-computationnel dans un sens grossier. Ce n'est pas le cas. Searle ne nie pas que les cerveaux calculent dans un sens large, métaphorique ou même littéral. Il nie que le calcul, spécifié de manière abstraite, soit suffisant pour la mentalité. À son avis, le même programme formel pourrait en principe être exécuté sur des substrats physiques très différents, mais l'indépendance du substrat n'est pas suffisante pour produire la compréhension à moins que le substrat lui-même ait les bons pouvoirs causaux. Le poids de l'argument ne repose pas sur une machine en particulier, mais sur la relation entre la description formelle de n'importe quelle machine et le fait vécu de la compréhension.
Cela conduit à une conséquence frappante. Si Searle a raison, alors un robot parfait fait du mauvais type de matière pourrait être aussi dépourvu d'esprit que la pièce. Inversement, un système semblable à un cerveau pourrait comprendre même s'il n'est pas un ordinateur numérique au sens pertinent. Le débat tourne donc autour de ce qui compte comme une mise en œuvre et si l'intentionnalité est intrinsèque ou simplement assignée par un interprète. La pièce n'est pas juste une pièce ; c'est un cas de test pour l'ontologie du sens. En arrière-plan se tient une anxiété historique plus large : si des machines de plus en plus sophistiquées, admirées pour leurs résultats, pourraient un jour être prises pour des porteurs d'une véritable compréhension simplement parce que leurs résultats devenaient plus fluides, plus précis et plus convaincants.
Une autre distinction importante dans le système plus large de Searle est celle entre les faits relatifs à l'observateur et les faits indépendants de l'observateur. L'argent, les conventions linguistiques et les programmes informatiques dépendent fortement de la reconnaissance collective. Mais les expériences conscientes, si elles existent, ne sont pas simplement des questions de statut assigné. Cela aide à expliquer pourquoi la Chambre Chinoise semble si percutante : elle expose la tentation de confondre l'attribution sociale avec une véritable présence mentale. Une étiquette, une fonction ou un usage peuvent être attribués de l'extérieur ; l'expérience intérieure ne peut pas, selon Searle, être réduite au même type d'attribution publique. C'est pourquoi l'expérience de pensée ne remet pas seulement en question une théorie technique de l'intelligence artificielle. Elle remet en question une habitude de pensée qui traite l'équivalence formelle comme une identité métaphysique.
Le système s'étend également à la langue et à la politique d'une manière plus discrète. Si le sens ne peut pas être réduit à une manipulation formelle, alors le discours sur les personnes, les droits et la responsabilité ne peut pas non plus être réduit à des surfaces comportementales. Il y a ici une résonance morale, bien que Searle n'ait pas présenté l'argument principalement comme une philosophie politique. Une société qui confond simulations et réalités peut devenir complaisante à l'égard des institutions, des technologies et peut-être même de sa propre compréhension de soi. Le danger n'est pas simplement que les machines soient surestimées. C'est que la distinction entre ce qui ressemble simplement à de la pensée et ce qui est véritablement de la pensée pourrait s'estomper dans le discours public, où la performance de surface porte souvent plus d'autorité que le processus invisible.
On ne doit pas exagérer la clarté de la théorie. La vision plus large de Searle laisse des questions difficiles sur la manière dont la biologie génère la subjectivité. Pourtant, l'élégance du système réside dans son économie : un programme formel n'est pas suffisant car le sens nécessite des pouvoirs causaux qu'un simple programme n'a pas. La pièce révèle que les symboles peuvent être déplacés sans jamais être vécus. Son austérité fait partie de sa persuasivité. Il n'y a pas d'appareil élaboré dans l'image originale, pas de machinerie cachée, seulement un homme, un livre de règles et une langue qu'il ne comprend pas. Cette simplicité même est ce qui rend l'argument difficile à éviter.
À son plein rayonnement, donc, la Chambre Chinoise n'est pas seulement une réfutation d'une thèse sur l'IA. C'est une déclaration sur la relation entre les systèmes physiques et la vie intérieure, entre l'interprétation et le contenu intrinsèque, entre ce qui peut être décrit formellement et ce qui doit d'une manière ou d'une autre être vécu. L'idée se tient maintenant à son plus large rayon. Elle demande aux lecteurs de regarder au-delà des résultats réussis et de se demander ce qui, le cas échéant, se cache en dessous. Dans les mains de Searle, cette question n'est pas un ornement philosophique décoratif mais un défi décisif : si l'intérieur est vide, aucun degré de correction externe ne peut le remplir. La question suivante est de savoir si cela peut survivre à la résistance la plus forte.