Quello che segue è il primo capitolo estratto da Artificial You di Susan Schneider, pubblicato in Italia da Il Saggiatore. Ringraziamo l’autrice e l’editore per la gentile concessione.

Magari non ci pensate tutti i giorni, ma siete circondati dall’intelligenza artificiale (IA). È presente quando fate una ricerca su Google. È presente quando i campioni mondiali di Jeopardy! e di go vengono battuti. Non solo: migliora anche di minuto in minuto. Non abbiamo ancora, però, un’IA general purpose, che sia in grado di sostenere autonomamente una conversazione intelligente, mettere in relazione idee differenti su più argomenti e magari superare l’uomo per intelligenza. Questo tipo di IA è messo in scena in film come Lei ed Ex Machina; è un’idea che potrebbe affascinarvi, come di solito fanno le storie di fantascienza.

Il mio sospetto, però, è che non siamo tanto lontani dalla realizzazione di quegli scenari. Lo sviluppo dell’intelligenza artificiale è spinto dalle forze di mercato e dall’industria militare: miliardi di dollari vengono investiti nella costruzione di assistenti domestici intelligenti, di supersoldati robot e di supercomputer che imitano il funzionamento del cervello umano. Il governo giapponese ha lanciato un’iniziativa finalizzata all’utilizzo degli androidi per la cura degli anziani della nazione, in previsione di una carenza di lavoratori di questo tipo.

Data l’attuale velocità del suo sviluppo, l’IA potrebbe passare all’intelligenza artificiale generale (IAG) entro i prossimi decenni. L’IAG è un’intelligenza che, come quella umana, può combinare fra loro nozioni provenienti da diverse aree tematiche e mostrare flessibilità e buon senso. In effetti, l’IA è già progettata per superare molte professioni umane entro i prossimi decenni. Secondo un recente sondaggio, per esempio, gli studiosi di IA più quotati si aspettano che l’IA «svolga la maggior parte delle professioni umane almeno altrettanto bene quanto un tipico essere umano» con una probabilità del 50 per cento entro il 2050 e con una probabilità del 90 per cento entro il 2070.

Ho detto che molti osservatori hanno lanciato moniti sull’eventualità dell’IA superintelligente: un’intelligenza sintetica che supera gli esseri umani più intelligenti in tutti i domini, compreso il ragionamento sulla base del buon senso e le abilità sociali. Tale superintelligenza potrebbe distruggerci, avvisano. Al contrario, Ray Kurzweil, un futurista attualmente ingegnere capo di Google, descrive un’utopia tecnologica che porrà fine all’invecchiamento, alle malattie, alla povertà e alla scarsità di risorse. Kurzweil ha persino discusso dei potenziali vantaggi connessi allo stringere amicizia con sistemi di intelligenza artificiale personalizzati, come il programma senziente Samantha del film Lei.

La singolarità

Kurzweil e altri transumanisti sostengono che ci stiamo rapidamente avvicinando a una «singolarità tecnologica», un punto in cui l’IA supererà di gran lunga l’intelligenza umana e sarà in grado di risolvere problemi che noi prima non eravamo in grado di risolvere, con conseguenze imprevedibili per la civiltà e la natura umane.

Il concetto di singolarità proviene dalla matematica e dalla fisica, in particolare dalla nozione di buco nero. I buchi neri sono corpi «singolari» nello spazio e nel tempo, in cui le usuali leggi fisiche decadono. Per analogia, una singolarità tecnologica è destinata a produrre una crescita tecnologica rapidissima e ad apportare enormi cambiamenti alla civiltà. Le regole in base alle quali l’umanità ha funzionato per migliaia di anni cesseranno bruscamente di essere valide. Rien ne va plus.

È possibile che le innovazioni tecnologiche non si presenteranno in un fuoco di fila così rapido da portare a una singolarità vera e propria, per la quale il mondo cambia praticamente dalla sera alla mattina. Non per questo possiamo permetterci di sottovalutare il punto centrale: dobbiamo fare i conti con la probabilità che nel prosieguo del xxi secolo gli umani non siano ancora a lungo gli esseri più intelligenti del pianeta: le più grandi intelligenze sulla Terra potrebbero essere sintetiche.

In effetti, penso che già intuiamo i motivi per dire che l’intelligenza sintetica ci supererà. Già oggi i microchip sono un mezzo per eseguire calcoli più velocemente dei nostri neuroni. Mentre scrivo questo capitolo, il computer più veloce del mondo è il supercomputer Summit, presso l’Oak Ridge National Laboratory nel Tennessee. La velocità di Summit è di 200 petaflop, ossia 200 milioni di miliardi di calcoli al secondo. Per fare ciò che Summit riesce a fare in un batter d’occhio occorrerebbe che tutte le persone sulla Terra eseguissero un calcolo ogni istante di ogni giorno per 305 giorni.

Certo, la velocità non è tutto. Se il metro di valutazione non sono i calcoli aritmetici, il nostro cervello è molto più potente, dal punto di vista computazionale, del computer Summit. È il prodotto di 3,8 miliardi di anni di evoluzione (l’età stimata della vita sul pianeta) e ha dedicato le sue capacità al riconosci‐ mento di modelli, all’apprendimento rapido e altre sfide pratiche per la sopravvivenza. I neuroni, singolarmente, possono essere lenti, ma sono organizzati in un sistema parallelo, che fa ancora mangiare la polvere ai moderni sistemi di intelligenza artificiale. L’IA, d’altro canto, ha margini di miglioramento quasi illimitati. Potrebbe non passare molto tempo prima che venga progettato un supercomputer in grado di pareggiare o addirittura superare l’intelligenza del cervello umano, attraverso l’ingegneria inversa del cervello e il miglioramento dei suoi algoritmi o anche grazie all’elaborazione di nuovi algoritmi non basati in alcun modo sul funzionamento del cervello.

Inoltre, un’intelligenza artificiale può essere scaricata in più dispositivi alla volta, può essere facilmente salvata e modificata e può sopravvivere in condizioni impossibili per la vita biologica, per esempio i viaggi interstellari. I nostri cervelli, per quanto potenti possano essere, sono limitati dal volume della scatola cranica e dal nostro metabolismo; l’IA, in netto contrasto, potrebbe arrivare ad abbracciare l’intera rete Internet e persino a costruire un «computronio» su scala galattica: un enorme supercomputer che utilizza per i suoi calcoli tutta la materia all’interno di una galassia. Nel lungo periodo non c’è semplicemente competizione: l’intelligenza artificiale sarà di gran lunga più capace e durevole di noi.

La fallacia dei Pronipoti

Nulla di quanto detto significa necessariamente che noi umani perderemo il controllo dell’IA condannandoci all’estinzione, come dicono alcuni. Se potenziamo la nostra intelligenza mediante tecnologie IA, forse possiamo tenere il passo rispetto all’intelligenza artificiale. Ricordate, l’intelligenza artificiale non servirà solo per avere robot e supercomputer migliori.

Nel film Guerre stellari e nel cartone animato I pronipoti (The Jetsons), gli esseri umani sono circondati da sofisticate IA, pur rimanendo di per sé non potenziati. Lo storico Michael Bess ha chiamato questo fatto «La fallacia dei Pronipoti» (The Jetsons Fallacy). In realtà, l’IA non si limiterà a trasformare il mondo: trasformerà anche gli uomini. Maglie neurali, ippocampi artificiali, processori cerebrali per curare i disturbi dell’umore: sono solo alcune delle tecnologie già in fase di sviluppo atte ad alterare la mente. Dunque il Centro per la Progettazione Mentale non è poi così inverosimile. Anzi, si tratta di una plausibile estrapolazione delle attuali tendenze tecnologiche.

Il cervello umano viene considerato sempre più come qualcosa che può essere violato, come un computer. Solo negli Stati Uniti ci sono già molti progetti che sviluppano tecnologie di impianto cerebrale per il trattamento di malattie mentali, disabilità motorie, ictus, demenza, autismo e altro ancora. I trattamenti medici di oggi daranno inevitabilmente luogo ai potenziamenti di domani. Dopo tutto, la gente desidera essere più intelligente, più efficiente o semplicemente avere una maggiore capacità di godersi il mondo. Aziende di intelligenza artificiale come Google, Neuralink e Kernel stanno sviluppando a tale scopo modi per fondere gli umani con le macchine. Entro i prossimi decenni potremmo diventare cyborg.

Transumanesimo

Il settore di ricerca è nuovo, ma vale la pena sottolineare che le idee di base circolano da molto più tempo, sotto forma di un movimento filosofico‐culturale noto come transumanesimo. Julian Huxley ha coniato il termine «transumanesimo» nel 1957, scrivendo che nel prossimo futuro «la specie umana sarà sulla soglia di un nuovo tipo di esistenza, diversa dalla nostra esistenza attuale quanto quest’ultima è differente dall’uomo di Pechino».

Il transumanesimo sostiene che la specie umana è ora in una fase relativamente acerba e che la sua evoluzione verrà alterata dallo sviluppo delle tecnologie. Gli uomini del futuro saranno ben diversi dalla loro attuale incarnazione, sia a livello fisico sia a livello mentale; in effetti assomiglieranno a certe raffigurazioni presenti nei racconti di fantascienza. Avranno un’intelligenza radicalmente avanzata, saranno prossimi all’immortalità, stringeranno profonde amicizie con le IA e avranno caratteristiche fisiche elettive. I transumanisti condividono la convinzione che un tale risultato sia decisamente desiderabile, sia per lo sviluppo individuale sia per quello della nostra specie nel suo complesso.

Nonostante richiamino in qualche modo la fantascienza, molti dei progressi tecnologici tratteggiati dal transumanesimo sembrano in buona misura possibili: in effetti, le fasi iniziali di quel cambiamento radicale potrebbero trovarsi in alcuni sviluppi tecnologici che o sono già presenti (se non generalmente diffusi) o, secondo molti osservatori dei settori scientifici pertinenti, sono in procinto di arrivare. Per esempio, il Future of Humanity Institute della Oxford University, un importante gruppo transumanista, ha pubblicato un rapporto sui requisiti tecnologici necessari a caricare una mente in una macchina. Un’agenzia del Dipartimento della Difesa degli Stati Uniti ha finanziato un programma, Synapse, con cui si cerca di sviluppare un computer che assomigli al cervello umano per forma e per funzioni. Ray Kurzweil ha persino discusso i potenziali vantaggi di formare amicizie, tipo quella del film Lei, con sistemi di intelligenza artificiale personalizzati. Tutto intorno a noi, i ricercatori si stanno sforzando di trasformare la fantascienza in fatto scientifico.

Potreste essere sorpresi di apprendere che mi considero io stessa una transumanista, eppure è così. Ho appreso per la prima volta del transumanesimo da studentessa universitaria presso la University of California a Berkeley, quando mi sono unita agli Extropiani, un gruppo transumanista primigenio. Dopo aver sfogliato la collezione di racconti di fantascienza del mio ragazzo e aver letto i contenuti della listserv degli Extropiani, sono rimasta affascinata dalla visione transumanista di una tecnotopia sulla Terra. Spero ancora che le tecnologie emergenti ci forniranno un’estensione radicale della vita, che contribuiranno a porre fine alla scarsità di risorse e alle malattie e persino a migliorare le nostre vite mentali, se lo desidereremo.

Qualche parola di avvertenza

La sfida è come andare da qui a là a fronte di un’incertezza radicale. Nessun libro scritto oggi potrebbe prevedere con precisione i contorni dello spazio di progettazione mentale, e i misteri filosofici sottostanti potrebbero non diminuire al progredire della nostra conoscenza scientifica e delle nostre capacità tecnologiche.

Vale la pena ricordare due motivi importanti per cui la visione del futuro è opaca. Innanzitutto, sappiamo che esistono alcune incognite. Non possiamo sapere con certezza quando i computer quantistici diventeranno di uso comune, per esempio. Non possiamo dire se e in che modo certe tecnologie basate sull’IA saranno regolate, o se le misure di sicurezza in ambito IA saranno efficaci. Né, credo, ci sono risposte facili e inconfutabili alle domande filosofiche che discuteremo in questo libro. Ma poi ci sono le incognite che non conosciamo: gli eventi futuri, come i cambiamenti politici, le innovazioni tecnologiche o le scoperte scientifiche che possono prenderci completamente alla sprovvista.

Nei prossimi capitoli prendiamo in esame una delle grandi incognite conosciute: il puzzle dell’esperienza cosciente. Impareremo come nasce questo enigma nel caso umano e poi ci chiederemo: come possiamo addirittura riconoscere una coscienza in esseri potenzialmente molto diversi da noi sul piano intellettivo e che potrebbero persino essere fatti da substrati diversi? Un buon punto di partenza consiste semplicemente nel rendersi conto della profondità del problema.