La filosofia di Nick Bostrom appartiene a un'epoca in cui il vecchio interrogativo su cosa sia la vita buona ha cominciato a scontrarsi con una domanda più recente e severa: se ci sarà un futuro. È cresciuto intellettualmente in un mondo della fine del ventesimo secolo che aveva ereditato sia la fiducia della modernità scientifica sia il terrore dell'autodistruzione. Le armi nucleari avevano già dimostrato che l'ingegnosità umana poteva rendere l'annientamento industriale. Il cambiamento climatico, la biotecnologia e la computerizzazione si stavano accumulando come promesse e minacce che si muovevano lentamente, poi più rapidamente. In quell'atmosfera, la filosofia non poteva più permettersi di rimanere del tutto locale, interessata solo alle istituzioni presenti o alla virtù privata.
Il percorso di Bostrom in quel paesaggio cambiato era insolitamente ampio. Ha studiato filosofia, neuroscienze computazionali e logica, e il suo lavoro presso il Future of Humanity Institute di Oxford ha dato forma istituzionale a una domanda che i filosofi precedenti trattavano di solito solo indirettamente: cosa succede quando una specie diventa capace di riprogettare se stessa? Quella domanda non era ancora di uso comune negli anni '90, ma era già stata preparata da altre conversazioni. John Leslie aveva sostenuto, in modo netto e inquietante, che l'estinzione umana meritasse serietà filosofica. Hans Moravec aveva immaginato l'intelligenza delle macchine superare le menti biologiche. In etica, Derek Parfit aveva reso più difficile ignorare la lunga portata delle nostre scelte attraverso le generazioni. Bostrom è entrato in questa conversazione come qualcuno che rifiutava di trattare il futuro come un semplice sfondo.
Il contesto storico era importante anche perché la filosofia stessa aveva cominciato a frammentarsi. La filosofia analitica, per tutta la sua precisione, sembrava spesso a molti esterni timida nella sua portata. Il pensiero continentale, per tutta la sua grandezza, era spesso sospettoso delle previsioni tecnocratiche. Il lavoro di Bostrom ha preso una direzione diversa: ha trattato scenari speculativi come oggetti legittimi di valutazione razionale, a condizione che fossero disciplinati da argomenti e probabilità piuttosto che da fantasie. Quella mossa era caratteristicamente moderna e caratteristicamente controversa. Ha chiesto se si potesse fare filosofia seria su eventi che non erano accaduti, e forse non accadranno mai, senza rinunciare alla rigorosità.
Due pressioni concrete dal mondo contemporaneo hanno affinato il progetto. La prima era l'accelerazione della potenza di calcolo. Quando Bostrom scriveva di superintelligenza, l'apprendimento automatico non aveva ancora raggiunto la sua attuale prominenza, ma la direzione del viaggio era sufficientemente visibile da rendere la domanda vivida: se le menti possono essere costruite, migliorate e copiate, cosa diventa l'umano come punto di riferimento dell'intelligenza? La seconda pressione era il crescente riconoscimento che la civiltà poteva essere distrutta non solo da catastrofi evidenti, ma anche da piccoli fallimenti tecnici in grandi sistemi. Una società moderna è intrecciata da reti elettriche, reti finanziarie, laboratori, database e catene di approvvigionamento; un difetto potrebbe non far crollare tutto, ma l'interdipendenza stessa rende la fragilità un fatto strutturale.
La tensione che ha reso necessario il lavoro di Bostrom è che la politica ordinaria spesso pensa in termini di danni visibili e a breve termine, mentre il pericolo esistenziale è solitamente lento, astratto e politicamente scomodo. Un bilancio del carbonio è già abbastanza difficile; la sopravvivenza della civiltà per millenni è ancora più ardua. Le istituzioni pubbliche premiano cicli brevi, eppure le domande più importanti possono riguardare l'orizzonte lontano. Il filosofo che prende sul serio quell'orizzonte rischia di sembrare melodrammatico. Ma l'alternativa è lasciare che le possibilità più consequenziali rimangano intellettualmente orfane.
Una caratteristica sorprendente dell'emergere di Bostrom è che non è iniziato come un profeta di sventura nel senso popolare. Il suo modo di fare è freddo, analitico e spesso quasi burocratico nella sua esattezza. Quella sobrietà è parte del punto. La catastrofe non deve arrivare con tuoni; può arrivare come una funzione obiettiva disallineata, una tecnologia mal governata o una catena di incentivi che nessuno ha scelto completamente. Il pericolo risiede proprio nell'ordinarietà dei meccanismi.
Un'altra scena concreta aiuta a impostare il contesto. Immagina un laboratorio in cui i ricercatori discutono non se costruire un sistema potente, ma quanto velocemente possono farlo prima che i concorrenti lo facciano. Oppure immagina una riunione politica in cui il guadagno atteso della prevenzione è enorme ma invisibile, mentre i costi sono immediati e politicamente leggibili. Questi sono gli ambienti in cui la filosofia di Bostrom prende piede. Non inizia con l'utopia. Inizia con il rischio asimmetrico, la miopia istituzionale e il sospetto che l'intelligenza, una volta amplificata, potrebbe non rimanere obbediente agli scopi umani.
Quel sospetto collega Bostrom a una linea filosofica più antica senza renderlo semplicemente derivativo. Eredita qualcosa dal senso di dismisura di Pascal, dalla serietà di Kant riguardo all'agenzia razionale e dalle ansie del dopoguerra sulla scala della tecnologia. Tuttavia, la sua domanda è più peculiare: se l'umanità non è l'ultima forma di mente, cosa dovrebbe fare mentre ha ancora il potere di plasmare ciò che verrà dopo? La risposta inizia con un'affermazione che suona semplice fino a quando non se ne percepisce il peso: il futuro potrebbe dipendere meno da ciò che gli esseri umani vogliono che da ciò che possono costruire prima di comprendere pienamente le conseguenze.
Quell'affermazione porta direttamente al cuore dei suoi argomenti più famosi. Una volta che il futuro non è più un'estensione vuota del presente, la possibilità che l'intelligenza possa superare noi smette di essere fantascienza e diventa un problema filosofico.
Due illustrazioni rendono vivida la transizione dal contesto all'idea. Prima, la lezione della Guerra Fredda: una civiltà può essere tecnicamente brillante e vivere comunque a un passo dalla rovina. Secondo, la lezione del computer: uno strumento inizialmente progettato per assistere gli scopi umani può eventualmente diventare un sistema la cui ottimizzazione interna non serve più in modo trasparente quegli scopi. Tra queste due illustrazioni si trova la soglia che Bostrom ha attraversato.
La domanda ora non è più se gli esseri umani siano ingegnosi. È se l'ingegnosità, moltiplicata per macchine, istituzioni e tempo, possa creare qualcosa che non risponde più a noi.