La Stanza Cinese ha provocato una resistenza immediata e insolitamente duratura perché sembrava rivelare qualcosa che molti filosofi e scienziati informatici non volevano concedere: che un comportamento perfetto potrebbe comunque essere vuoto. Tuttavia, le obiezioni non erano evasive a buon mercato. Alcune di esse colpivano direttamente la struttura dell'argomento, e le risposte di Searle, sebbene spesso incisive, non dissolvono ogni preoccupazione. Il dibattito è diventato una di quelle rare controversie intellettuali in cui un singolo articolo poteva viaggiare ben oltre i seminari di filosofia, costringendo scienziati informatici, teorici cognitivi e, in seguito, ricercatori di intelligenza artificiale a prendere posizione su una questione che era al contempo tecnica ed esistenziale: superare il test equivale a comprendere?
La prima e più famosa obiezione è la risposta dei sistemi. Se l'uomo nella stanza non comprende il cinese, forse la stanza nel suo insieme lo fa. Questa risposta ha una forza naturale perché molti sistemi complessi hanno proprietà che nessun singolo componente possiede. Nessun neurone vede un volto, eppure il cervello lo fa. Un singolo tubo non produce una sinfonia, eppure l'orchestra lo fa. La risposta di Searle, come notato in precedenza, è insistere sul fatto che aggiungere più struttura formale non crea comprensione a meno che l'insieme non abbia una semantica intrinseca. Ma i critici sostengono che questa risposta rischia di supporre ciò che deve essere dimostrato: che la comprensione deve risiedere in un soggetto interno locale piuttosto che nell'attività organizzata di un sistema. Il punto di pressione dell'argomento è facile da esprimere e difficile da rimuovere. Se un sistema delle dimensioni di una stanza può produrre risposte cinesi affidabili in casi infiniti, cosa manca esattamente oltre all'insistenza di Searle che nulla dentro di lui "afferra" la lingua?
Una seconda obiezione proviene dalla risposta del robot. Forse un manipolatore di simboli disincarnato non può comprendere il cinese, ma un robot che interagisce con il mondo attraverso telecamere, motori e sensori potrebbe. Il significato, secondo questo punto di vista, è radicato nel contatto causale con l'ambiente, non nella pura sintassi. Qui la critica non è che la stanza di Searle sia impossibile, ma che sia artificialmente impoverita. Il linguaggio naturale è inserito nella pratica mondana; un corpo conta. La stanza, sigillata dal mondo, potrebbe quindi omettere esattamente ciò di cui la cognizione ha bisogno. In termini di dibattito, la stanza è troppo pulita, troppo sterile, troppo lontana dal traffico ordinario di riferimento, azione e correzione che la vera comprensione sembra richiedere. Se una macchina fosse costruita per muoversi attraverso un mondo, per raccogliere oggetti, per fallire e adattarsi, allora forse i simboli cesserebbero di essere semplici segni su carta e diventerebbero strumenti di contatto.
Una terza obiezione è la risposta del simulatore cerebrale. Se la stanza imita semplicemente la struttura formale di un parlante cinese, ciò potrebbe non essere sufficiente; ma cosa succede se il programma simula i veri processi causali del cervello del parlante cinese al giusto livello di dettaglio? La posizione di Searle sembra implicare che la simulazione sia sempre insufficiente. Eppure molti filosofi sospettano che se si riproduce l'organizzazione causale pertinente, si è fatto più che simulare; si è replicato il fenomeno stesso. Il disaccordo qui non è banale. Riguarda se la mente dipenda da una biologia specifica del substrato o da un'organizzazione funzionale. La posizione di Searle, come ha ripetutamente sottolineato in seguito, è che il cervello non è incidentale. Ma i critici hanno risposto che a meno che non si possa identificare una proprietà speciale dei neuroni biologici che nessun duplicato formale potrebbe mai catturare, l'affermazione che la "vera" comprensione richiede tessuto a base di carbonio sembra un'asserzione in attesa di prove.
Una svolta sorprendente nel dibattito è che l'argomento contro l'IA forte è diventato anche una fonte di diverse reinterpretazioni. Alcuni filosofi hanno trattato la Stanza Cinese come un attacco a tutto il funzionalismo; altri l'hanno vista come diretta solo contro versioni eccessivamente semplici del computazionalismo. Gli scienziati cognitivi, nel frattempo, spesso hanno concesso che nessuna sintassi disincarnata da sola potrebbe spiegare il significato, pur difendendo modelli più ricchi in cui corpo, mondo e pratica sociale aiutano a generare comprensione. In questo senso, la stanza ha costretto il campo a diventare meno astratto e più ecologicamente attento. Ha spostato l'attenzione verso l'esterno dalla camera sigillata verso le condizioni sotto le quali i simboli acquisiscono uso, scopo e forza.
La tensione più profonda riguarda l'ambizione esplicativa di Searle. Egli insiste sul fatto che la coscienza è un fatto biologico, ma la Stanza Cinese stessa ci dice poco su come i cervelli la producono. Questo ha lasciato i critici a dire che aveva confutato una teoria senza fornire un'alternativa positiva. Nella filosofia della mente, ciò non è un difetto fatale, ma è significativo. Una potente obiezione non diventa automaticamente una teoria completa. La stanza può esporre un divario nel funzionalismo informatico, eppure la questione di cosa riempia quel divario rimane aperta. Il successo stesso dell'argomento come critica ha reso la sua incompletezza più visibile: ha illuminato il problema mostrando ciò che non poteva essere catturato da sole regole formali, ma non ha ancora fornito una mappa della macchina nascosta che lo fa.
Un'altra difficoltà è lo status dell'intenzionalità stessa. Se il significato richiede un'intenzionalità intrinseca, allora bisogna spiegare come l'intenzionalità intrinseca sorga in primo luogo. Searle dice che i cervelli ce l'hanno in virtù dei loro poteri causali, ma quella risposta può sembrare un promissory note a meno che non vengano forniti i dettagli. La stanza espone l'assenza di comprensione nella macchina, ma non illumina di per sé la nascita della comprensione in un essere umano. Questo non è un problema di contabilità minore. È un problema di registro concettuale. Se l'obiettivo è distinguere la semantica genuina dal semplice giocolare di simboli, allora il resoconto deve alla fine dire come la semantica entri nel mondo e attraverso quale percorso un organismo vivente venga a significare qualcosa per se stesso o per gli altri.
C'è anche una preoccupazione antropologica. Lo scenario rischia di introdurre un'immagine particolarmente occidentale della comprensione come una luce interiore che si accende o non si accende. Alcuni filosofi influenzati dalla fenomenologia o dal pragmatismo sostengono che l'intelligenza è distribuita attraverso l'attività, la pratica e il coinvolgimento nel mondo, non rinchiusa in un teatro privato. Secondo tali punti di vista, la Stanza Cinese perde di vista il carattere incarnato, pubblico e socialmente supportato della cognizione. Il costo della chiarezza di Searle potrebbe essere un'immagine eccessivamente intellettualizzata della mente. Ciò che appare, nella geometria ordinata della stanza, come una confutazione decisiva potrebbe in realtà riflettere un contesto altamente ristretto: un operatore solitario, una porta chiusa, una scatola di istruzioni e nessuna forma di vita circostante.
Eppure l'argomento rimane difficile da respingere perché può essere fatto mordere anche dopo tutte le risposte tecniche. Si possono immaginare robot migliori, ambienti più ricchi e simulazioni più complesse. Ma la domanda di base persiste: potrebbe un sistema superare ogni test esterno e ancora mancare di qualsiasi afferrare interiore? Se la risposta è sì, allora nessun successo formale garantisce comprensione. Se la risposta è no, allora abbiamo bisogno di una teoria che spieghi perché no. Il fuoco ha fatto il suo lavoro. La stanza è stata testata, ma non silenziata. La tensione non è solo eleganza filosofica; è pratica e storica. Una generazione di entusiasmo per l'IA dipendeva, in parte, dalla speranza che programmi sempre più sofisticati avrebbero risolto la questione attraverso le prestazioni. La Stanza Cinese ha insistito sul fatto che le prestazioni potrebbero ancora lasciare intatto il mistero centrale.
Questa tensione irrisolta spiega perché la Stanza Cinese perdura. Non è perché tutti siano d'accordo con Searle, ma perché le obiezioni non cancellano semplicemente l'argomento; lo approfondiscono. L'esperimento mentale sopravvive come una sfida a qualsiasi teoria che tratti il significato come un sottoprodotto del calcolo da solo, e continua a costringere i difensori dell'intelligenza artificiale a dire esattamente dove inizia la comprensione. Il suo risultato più duraturo non è che abbia chiuso il caso, ma che si sia rifiutata di lasciare che il caso fosse chiuso prematuramente.