Che cos'è la singolarità tecnologica?

Zoltan Istvan è un futurista, autore di The Transhumanist Wager, fondatore e candidato presidenziale per il Partito Transumanista. Ogni tanto scrive per Motherboard a proposito del futuro che va oltre le capacità naturali dell'uomo.

Il concetto di singolarità tecnologica è roba tosta da capire. Persino gli esperti hanno definizioni diverse. Vernor Vinge, responsabile della diffusione dell'idea negli anni Novanta, crede che si tratti del momento in cui una superintelligenza renderà obsoleto il modo in cui gli esseri umani capiscono le cose. Ray Kurzweil di Google dice che si tratta di un "periodo futuro durante il quale il ritmo del cambiamento tecnologico sarà così rapido e avrà un impatto così radicale, che la vita umana sarà trasformata in maniera irreversibile." Kevin Kelly, editor fondatore di Wired, dice, "La singolarità è quel punto in cui tutti i cambiamenti avvenuti nell'arco dell'ultimo milione di anni saranno superati dal cambiamento che avviene nei prossimi cinque minuti." Persino i teologi cristiani hanno detto la loro, riferendosi alla cosa come "il rapimento dei nerd."

La mia definizione personale della singolarità è: il punto in cui una mente umana perfettamente funzionante aumenta in maniera radicale ed esponenziale la sua intelligenza e le sue capacità grazie all'unione fisica con la tecnologia.

Tutte queste definizioni condividono una premessa basilare—che la tecnologia accelererà il progresso dell'intelligenza al punto che l'essere umano biologico non sarà più sufficiente per capire cosa sta succedendo.

Il che rende una singolarità tecnologica anche qualcosa di quasi-spirituale, perché qualsiasi cosa che va oltre la nostra comprensione è un mistero. Vale la pena notare che persino gli scettici e i luddisti che disprezzano il concetto di singolarità non hanno dubbi sul fatto che sia quella la direzione in cui la razza umana sta andando.

Nel marzo 2015, ho pubblicato un articolo su Motherboard intitolato A Global Arms Race to Create a Superintelligent AI is Looming. L'articolo ragionava sul concetto secondo cui le nazioni dovrebbero operarsi al massimo per sviluppare un'intelligenza artificiale, perché il paese che la produrrà per primo finirà con tutta probabilità a governare il mondo ad infinitum, dato che la AI controllerebbe le altre tecnologie e il loro sviluppo sul pianeta.

L'articolo ha generato molti commenti ponderati su Reddit Futurology, LessWrong, e altre parti. Tendo a non partecipare ai commenti sui miei stessi articoli, ma li leggo sempre e con molta attenzione. Qualcosa nella message board di questo articolo mi ha fatto riflettere sulla possibilità di una singolarità "nazionalistica"—in altre parole, una singolarità esclusiva o privata.

Se siete tecnofili come me, forse credete anche voi che la chiave per raggiungere la singolarità è doppia: la creazione di una superintelligenza, e la capacità di unire gli esseri umani con la suddetta intelligenza. Senza queste due cose, è probabilmente impossibile arrivarci. Con queste due cose, è probabilmente inevitabile.

Al momento, la tecnologia per collegare un cervello umano con una macchina è già in arrivo. Infatti, centinaia di migliaia di persone nel mondo posseggono qualche genere di impianto cerebrale, e l'anno scorso ricercatori in due paesi diversi sono riusciti a comunicare telepaticamente. Sono stati trasmessi pensieri da una mente all'altra usando un'interfaccia, senza dire mezza parola.

Alcuni esperti come Kurzweil credono che tra 25 anni potremmo già essere in grado di caricare la nostra intera coscienza in una macchina. Sono tendenzialmente d'accordo con lui, e penso che potrebbe persino succedere prima, tra 15 o 20 anni.

Il punto è questo: Se una AI appartenesse esclusivamente ad una nazione (plausibile), e la tecnologia per collegare cervelli umani e macchine si sviluppasse a sufficienza (plausibile a sua volta), allora potremmo finire per avere una nazione sola che controlla la via per la singolarità.

Per quanto suoni folle, è possibile che la nazione in controllo potrebbe cominciare a offrire ai propri cittadini l'opportunità di caricarsi interamente nelle macchine, in preparazione alla singolarità. È naturale chiedersi se a questo punto ci sarebbero due entità distinte—una biologica e una caricata—per ogni essere umano che ha fatto questa scelta, ma si potrà deciderlo solo al momento giusto, e a farlo saranno probabilmente i governi e la legge.

Inoltre, una volta caricato, il tuo te tesso digitale sarebbe in grado di interagire con il te stesso biologico? Sarebbero in grado di aiutarsi a vicenda? O la legge costringerebbe ad un aut-aut, in cui la versione biologica delle persone caricate è costretta a rimanere congelata criogenicamente o è addirittura eliminata del tutto?

Comunque la si guardi, è roba futuristica bella strana. E porta con sé molte questioni etiche importanti, se davvero—come credono alcuni tecnologi—la singolarità ci porterà a una realtà completamente nuova, o addirittura ad un paradiso digitale. E avere un governo o una nazione sola a controllarlo, o a cercare di renderlo accessibile esclusivamente ai suoi cittadini, sembra una cosa potenzialmente di dubbia moralità.

E se, ad esempio, l'America creasse una AI per prima, e la usasse per ottenere una singolarità esclusiva per gli Americani?

(Storicamente, la cosa non sarebbe tanto diversa da quello che sostengono molte religioni, come il Cristianesimo o l'Islam. In entrambe, solo certi tipi di persone possono accedere al paradiso. Chi rimane fuori, è destinato a torture eterne. Questo concetto di esclusività è la ragione principale per cui sono diventato ateo a 18 anni.)

E se, in uno scenario anche peggiore, un governo permettesse solo ai più benestanti di oltrepassare la porta per la singolarità—per connettersi direttamente alla superintelligente AI? E se quel governo desse l'accesso solo a funzionari d'alto ordine? Ad esempio, come gestirebbe questo genere di potere Vladimir Putin? E parliamo di un potere terrificante. Alla fine, saremmo connessi ad una superintelligenza e saremmo probabilmente in grado di riscrivere i codici di tutte le armi nucleari del mondo, fermare le dighe e gli impianti energetici e creare virus per spegnere il Wi-Fi in tutto il mondo, se volessimo.

Di certo, poste davanti a questa scelta, molte persone preferirebbero non sottoporsi proprio alla singolarità. Sospetto che molti sceglierebbero di rimanere come sono sulla Terra. Alcune di quelle persone, però, vorrebbero acquistare la tecnologia necessaria per la singolarità. Potrebbero volerla vendere, e offrire un giro in cambio di soldi a coloro che desiderano avere una singolarità. Neanche a dirlo, persone o corporazioni potrebbero cercare di brevettarla. Quello che venderesti è il cammino verso potere infinito e immortalità.

Discorsi etici come questi sul fatto che qualcuno o qualche gruppo possa controllare, brevettare o rubare la singolarità portano in ultima istanza ad un'altra questione cruciale: la Disparità della Singolarità.

La persona o gruppo che fa esperienza della singolarità per primo, proteggerà e conservarà il potere e l'intelligenza acquisiti nel processo di singolarità—ovvero farà tutto il possibile per diminuire l'accumulo di potere e intelligenza dell'esperienza di singolarità per gli altri. In questo modo, i Singolaritiani originali possono garantirsi il potere e l'esistenza per sempre.

Nel mio romanzo filosofico The Transhumanist Wager, questo tipo di pensiero appartiene all'Omnipotender, un individuo che cerca attivamente e lotta per avere più potere possibile, e basa le sue azioni su questi sforzi.

Non sto cercando di decretare cosa sia buono o cattivo, morale o immorale. Sto solo spiegando come il fenomeno della singolarità potrebbe facilmente evolversi. Ammesso che io abbia ragione, e che la tecnologia continui a svilupparsi rapidamente, la persona che diventerà l'omnipotender a capo della Terra è già nata.

Ovviamente, i religiosi apprezzeranno la cosa, perché una persona del genere ha il potenziale per rappresentare l'Anticristo come anche la seconda venuta di Gesù, elementi importanti nelle credenze apocalittiche sia cristiane che mussulmane. Almeno la "Fine dei Tempi" sarà così giunta, e i fanatici religiosi potranno gridarlo, finalmente.

La buona notizia è che, forse, una singolarità non è un evento esclusivo. Forse possono esserci molte singolarità.

Una singolarità sarà qualcosa tipo un fenomeno di coscienza, Saremo quasi tutti digitali e interconnessi tramite macchine, ma saremo ancora in grado di riconoscere noi stessi, i nostri valori, i nostri ricordi, i nostri propositi—altrimenti non credo che andremmo fino in fondo. All'apice della singolarità, la nostra intelligenza comincerà a crescere spaventosamente. MI aspetto che il programma delle nostre menti sarà in grado di essere riscritto e aggiornato quasi instantaneamente, in tempo reale. Penso che l'hardware attraverso cui esisteremmo—qualunque forma abbia—sarà anche in grado di essere rimodellato in tempo reale. Impareremo come riassemblare i processori e le loro particelle in quel momento, su richiesta, probabilmente con la stessa agilità e velocità che usiamo quando pensiamo a qualcosa, per esempio a risolvere un problema matematico. Capiremo le regole e penseremo a ciò che vogliamo, e spunterà la migliore risposta, strategia, o sentiero. Saremo fin troppo efficienti in queste cose. Ad un certo punto non vedremo alcuna differenza tra materia, energia, giudizio e noi stessi.

Quello che conta è che non ci importerà granché di quello che rimane sulla Terra. In un giorno o forse solo un paio di ore, la singolarità ci trasformerà in una forma di energia che si può organizzare con la massima efficienza, forse in un trilione di menti su un milione di Terre.

Se la singolarità andrà così, allora, sulla superficie, non ci sarebbero grossi incidenti etici per singolarità nazionali o private, perché le altre nazioni o gruppi potrebbero implementare le loro con calma. A ogni modo, la domanda seria è: come farebbero le persone a protegersi da chi, nella singolarità, decidesse che non vale la pena conservare la Terra e i suoi abitanti, o, peggio, volesse rendere schiavi tutti quelli sulla Terra? Non c'è una risposta chiara, ma la domanda da sola mi fa guardare storto alla singolarità esattamente come guardo storto all'idea di un Dio onnipotente e di un paradiso. Non mi piace qualsiasi entità o gruppo che abbia tutto quel potere su qualcun altro.