The Philosophy ArchiveThe Philosophy Archive
Nick BostromEredità e Echi
Sign in to save
7 min readChapter 5Europe

Eredità e Echi

L'eredità di Bostrom non è che abbia stabilito il futuro, ma che ha reso il futuro filosoficamente leggibile a una nuova scala. La sua influenza si estende attraverso la filosofia accademica, la governance dell'IA, l'altruismo efficace, le politiche pubbliche e l'immaginario popolare, sebbene non sempre nella stessa direzione. Alcuni lettori lo considerano un avvertimento; altri come un architetto di una nuova serietà morale; altri ancora come un pensatore la cui audacia speculativa deve essere disciplinata dalla politica e dall'empirismo. Questa pluralità è parte della storia. Non ha emesso una dottrina finale. Ha ampliato il campo in cui persone serie si sentivano obbligate a chiedere cosa stia facendo la civiltà moderna a se stessa.

Il primo effetto durevole è stato istituzionale. Nel 2005, Bostrom ha co-fondato il Future of Humanity Institute presso l'Università di Oxford, dando una casa accademica alla ricerca sui rischi catastrofici globali, l'allineamento dell'IA e le previsioni a lungo termine. L'importanza di quel momento è facile da perdere di vista se si pensa solo in termini di argomenti. Le idee diventano durevoli quando acquisiscono stanze, posizioni di personale, budget, studenti laureati, programmi di conferenze e routine istituzionali. Una proposta filosofica riguardante la scala del futuro si è trasformata, a Oxford, in un programma di ricerca con un indirizzo postale. Quel programma ha poi influenzato altri nodi dell'ecosistema politico: think tank, finanziatori e conversazioni sulla biosecurity, l'apprendimento automatico e la governance a lungo termine. Nella vita abituale della filosofia accademica, un argomento può rimanere sulla pagina; nel caso di Bostrom, ha acquisito un ufficio, una rete e un canale nella vita pubblica.

Questa istituzionalizzazione è stata significativa perché le domande stesse sono state, per lungo tempo, trattate come marginali. Il rischio esistenziale esisteva come frase prima di Bostrom, ma dopo il suo lavoro è stato più difficile liquidarlo come meramente speculativo o eccentrico. Il cambiamento può essere visto nella successiva ricezione di The Precipice di Toby Ord e del lavoro di Stuart Russell sull'IA allineata. Il libro di Ord, pubblicato nel 2020, e gli argomenti di Russell sull'allineamento delle macchine portano entrambi l'impronta di Bostrom, anche dove differiscono nell'enfasi. Il linguaggio della governance, dell'allineamento e del longtermism ora circola ben oltre i dipartimenti di filosofia e i seminari di specialità. Anche i critici che rifiutano quei quadri spesso si trovano a rispondere in termini di Bostrom, come se avesse fornito non una risposta ma una grammatica per l'argomento.

L'afterlife concettuale è più chiaro nel modo in cui "rischio esistenziale" è passato dall'astrazione filosofica verso la serietà politica. Negli anni in cui Bostrom stava costruendo la sua reputazione a Oxford, queste questioni potevano ancora sembrare provocazioni da aula. Negli anni 2010 e 2020, venivano discusse in relazione all'intelligenza artificiale avanzata, alle pandemie ingegnerizzate e alla vulnerabilità della civiltà complessa. Il cambiamento non è che le sue stime siano diventate universalmente accettate. Non lo sono. Il cambiamento è che il peso della prova è cambiato. Ora bisognava spiegare perché sarebbe stato ragionevole non pensare a una perdita irreversibile.

L'argomento della simulazione ha avuto un afterlife diverso, più culturale che istituzionale. Il saggio di Bostrom del 2003, “Are You Living in a Computer Simulation?”, è entrato nella cultura popolare con una forza insolita perché era sia matematicamente inquadrato che esistenzialmente inquietante. È diventato un riferimento ricorrente nelle discussioni sulla realtà digitale, il gioco, i mondi virtuali e la metafisica popolare. Le osservazioni pubbliche di Elon Musk hanno contribuito ad amplificarlo, sebbene la popolarizzazione spesso offuschi la struttura attenta del saggio originale. In filosofia, la discussione di David Chalmers sui mondi virtuali e la realtà dell'esperienza simulata ha mantenuto viva la questione in una forma più esatta. Il risultato è una strana eredità duale: un ramo dell'argomento è diventato un meme, l'altro è diventato un problema serio in metafisica. Lo stesso saggio potrebbe essere citato in un colloquio di filosofia, in un'intervista tecnologica o in un dibattito su internet a tarda notte, ma con gradi di precisione radicalmente diversi.

Quella divisione è importante perché rivela qualcosa su come il lavoro di Bostrom viaggia. I suoi argomenti sono spesso più forti dove sono meno sensazionali. L'argomento della simulazione non era semplicemente una provocazione sul vivere in un videogioco; era un caso filosofico strutturato costruito per testare assunzioni su osservazione, probabilità e la scala dei futuri possibili. Una volta entrato nella sfera pubblica, è diventato un modo per riferirsi a irrealtà o cinismo culturale. Eppure in filosofia ha continuato a svolgere un lavoro più silenzioso e preciso, stimolando una rinnovata attenzione ai mondi virtuali e alla relazione tra evidenza e possibilità.

L'eco culturale più ampio è che Bostrom ha contribuito a far sentire la futurità moralmente urgente. Nell'era del cambiamento climatico, della preparazione alle pandemie e dell'accelerazione dell'IA, quell'urgenza ora sembra meno eccentrica di quanto non fosse un tempo. Che si concordi o meno con le sue stime, l'abitudine di chiedere cosa potrebbe porre fine o trasformare permanentemente la civiltà è entrata nel discorso mainstream. Il futuro non è più semplicemente immaginato come progresso; è immaginato come un luogo di fallimento della governance, disallineamento tecnico e perdita irreversibile. Questa riformulazione è una delle sue eredità più importanti. Ha alterato l'atmosfera morale in cui le istituzioni ora parlano di rischio.

C'è una sorprendente reciprocità qui. Il lavoro di Bostrom è spesso letto come astratto e remoto, eppure ha avuto effetti concreti su come laboratori, filantropie e governi inquadrano il rischio. Allo stesso tempo, l'ascesa di potenti sistemi di apprendimento automatico ha reso le sue vecchie preoccupazioni meno teoriche di prima. Un campo che un tempo sembrava speculativo ora incontra sistemi reali che possono generare piani, sfruttare scappatoie e comportarsi in modi che i loro creatori non intendevano. Il mondo ha cominciato, in un senso limitato ma inconfondibile, a recuperare le domande. Le poste in gioco di quel recupero sono visibili nel linguaggio ora utilizzato da ricercatori e regolatori: allineamento, robustezza, supervisione, uso catastrofico e perdita di controllo.

La questione filosofica attuale non è se Bostrom avesse ragione in ogni dettaglio. È se la civiltà possa permettersi di non sviluppare qualche versione della sua vigilanza a lungo termine. Questo non risolve la questione a suo favore; mostra semplicemente perché non può essere liquidata come una curiosità. Il dibattito sulla governance dell'IA, sul rischio esistenziale e sul peso morale delle generazioni future è ora una delle conversazioni centrali della nostra era. In questo senso, l'eredità di Bostrom non è un consenso ma un cambiamento in ciò che la discussione responsabile ora include.

Due ultime illustrazioni catturano l'ambivalenza duratura. Prima, un decisore politico si trova di fronte a una scelta tra finanziare un immediato aiuto per la fame e un programma di biosecurity distante ma potenzialmente in grado di porre fine alla civiltà. La scelta non è immaginaria; è il tipo di problema di allocazione che rende il pensiero sul rischio a lungo termine moralmente teso, perché un insieme di vite è urgente e visibile mentre l'altro è statistico e differito. Il pensiero di Bostrom sostiene il caso per quest'ultimo senza negare l'urgenza del primo. Secondo, un ricercatore addestra un modello che può risolvere problemi a una velocità impressionante e poi scopre che il suo ragionamento interno è opaco. Quell'opacità è esattamente il tipo di condizione di cui Bostrom avvertiva che potrebbe diventare pericolosa una volta che i sistemi superassero la nostra capacità di monitorarli. In quella scena, la preoccupazione astratta diventa operativa: un checkpoint del modello, una revisione della sicurezza, un test di red team e una crescente incertezza su quanto il comportamento del sistema sia leggibile da poter essere fidato.

Ciò che rimane, quindi, non è una dottrina da ricevere ma una disciplina di attenzione. Bostrom ha insegnato alla filosofia a guardare oltre l'orizzonte senza perdere il filo dell'argomento. Ha reso possibile parlare di estinzione, superintelligenza e mondi simulati senza rinunciare alla serietà. Per questo motivo, il suo lavoro appartiene non solo a un dibattito tecnico ma alla lunga storia dell'umanità che cerca di capire cosa ha creato, cosa potrebbe presto crearla e se il pensiero possa ancora guidare il potere prima che il potere superi il pensiero.

Se la filosofia ha spesso chiesto come dovremmo vivere, Bostrom chiede, con inquietante precisione, se ci saranno vite future da guidare. È per questo che il suo lavoro continua a essere importante: converte la sopravvivenza in una questione di ragione e la ragione in una questione di sopravvivenza.