Cos'è la Singolarità?


Se trovate un qualsiasi errore di traduzione in questo documento e volete correggerlo, oppure collaborare al  Machine Intelligence Research Institute traducendo un altro nostro documento, scrivete a : jake@intelligence.org.

Traduttore: Michele Gianella

La Singolarità è la creazione tecnologica di un'intelligenza più-che-umana. Ci sono diverse tecnologie spesso menzionate come dirette in questa direzione. Quella menzionata più di frequente è probabilmente l'Intelligenza Artificiale, ma ce ne sono altre: interfacce dirette mente-macchina, potenziamento biologico del cervello, ingegneria genetica, scansioni del cervello a risoluzione ultra-alta seguite da emulazioni al computer. Sembra che alcune di queste tecnologie arriveranno probabilmente molto prima delle altre, ma ci sono nondimeno diverse tecnologie indipendenti tutte dirette verso la Singolarità – molte diverse tecnologie che, se raggiungessero una certa soglia di sofisticazione, permetterebbero la creazione dell'intelligenza ultra-umana.

Un futuro che contiene menti più intelligenti di quelle umane è molto diverso, nel senso che va al di là delle visioni tradizionali di un futuro piano di gadget migliori e più grandi. Vernor Vinge in origine coniò il termine “Singolarità” nell'osservare che, proprio come il nostro modello della fisica smette di valere quando prova a modellare la Singolarità al centro di un buco nero, il nostro modello del mondo smette di valere quando prova a modellare un futuro che contiene entità dall’intelligenza ultra-umana.

L'intelligenza umana è alle fondamenta della tecnologia umana; tutta la tecnologia è in definitiva il prodotto dell'intelligenza. Se la tecnologia può a sua volta potenziare l'intelligenza, questo chiude il cerchio, creando un feedback positivo. Menti più intelligenti saranno più efficaci nel costruire menti ancora più piccole. Questo loop appare in tutta la sua evidenza nel caso di un'IA che migliora il suo stesso codice sorgente, ma emergerebbe anche, sia pure a velocità inizialmente inferiori, da umani dotati di interfacce cervello-macchina inferiori che creino la generazione successiva di interfacce mente-macchina, o umani biologicamente aumentati al lavoro su un progetto di Intelligenza Artificiale.

Alcune delle tecnologie Singolaritariane più efficaci, come l'Intelligenza Artificiale e le interfacce mente-macchina, offrono la possibilità di un'intelligenza a un tempo più rapida e più potente. Rispetto al creare una migliore intelligenza, accelerare l'intelligenza è al confronto irrilevante; nondimeno, le potenziali differenze nella velocità meritano di essere menzionate perché sono davvero enormi. I neuroni umani operano inviando segnali elettrochimici che si propagano alla velocità di picco di 150 metri al secondo, nei neuroni più rapidi. Al confronto, la velocità della luce è 300,000,000 di metri al secondo, due milioni di volte superiore. Similmente, la maggior parte dei neuroni umani può scaricare al massimo 200 volte al secondo; e forse persino questa stima eccede la capacità neuronale di processare l'informazione, visto che la maggior parte delle moderne teorie del processamento dell'informazione dei neuroni sostiene che l'informazione sia trasportata dalla frequenza dello spike train più che dai singoli segnali. Al confronto, i moderni processori oggi vantano velocità di circa 2GHz – dieci milioni di volte tanto – e ancora in crescita esponenziale. Quanto meno, dovrebbe essere fisicamente possibile ottenere un'accelerazione nel pensiero di un milione ad uno, un tasso al quale un anno soggettivo trascorrerebbe in 31 secondi oggettivi. A questo ritmo l'intero intervallo di tempo soggettivo da Socrate, dell'antica Grecia, ai giorni nostri scorrerebbe in 22 ore oggettive.

Inoltre gli umani effettuano calcoli patendo l’esistenza di un limite superiore, costituito dalla dimensione dei loro cervelli. Attualmente, si stima che il tipico cervello umano contenga qualcosa come 100 miliardi di neuroni e cento trilioni di sinapsi.

È una quantità enorme di forza bruta di calcolo, al confronto coi computer di oggi -  anche se, dovendo scrivere programmi da eseguire su un processore da 200 Hz, avremmo bisogno anche di un massiccio parallelismo, per fare alcunché in tempo reale. Ad ogni modo, nell'industria dei computer, gli “standard” aumentano esponenzialmente, con un tipico raddoppio ogni uno o due anni. La Legge di Moore originale dice che il numero dei transistor per unità di superficie del silicio raddoppia ogni diciotto mesi; oggi c'è una Legge di Moore per la velocità dei processori, una Legge di Moore per la RAM, una Legge di Moore per la capacità di storage per dollaro, una Legge di Moore per la connettività ad Internet, e per una dozzina di altre varianti.

Da parte nostra, l'intera evoluzione dei moderni umani negli ultimi cinque milioni di anni ha richiesto un aumento della capacità cerebrale di sole tre volte, e una aumento di sei volte della corteccia prefrontale. Al momento, non possiamo aumentare le nostre capacità cerebrali più di così: col tempo, in realtà, gradualmente perdiamo i neuroni (forse avrete sentito che gli umani usano solo il 10% dei loro cervelli. Purtroppo, è una leggenda urbana non solo infondata, ma semplicemente contraddetta dalle neuroscienze.) Un'Intelligenza Artificiale sarebbe diversa. Alcune discussioni della Singolarità suppongono che il momento critico, nella storia, non si avrà quando sarà realizzata la prima AI di livello umano, ma qualche anno dopo, quando l'incedere della Legge di Moore produrrà menti AI due o quattro volte superiori a quelle umane. Ciò implica ignorare la possibilità che la prima invenzione dell'Intelligenza artificiale sia seguita dall'acquisto, la presa a prestito o l'annessione in modo meno formale di una proporzione sostanziale di tutta la potenza di calcolo dell'Internet di allora –che forse disporrà di una capacità di calcolo centinaia o migliaia di volte maggiore di quella di cui sarà orginariamente dotata l’Intelligenza Artificiale.

Ma il vero cuore della Singolarità è l'idea di una migliore intelligenza, o di menti più intelligenti. Gli umani non sono solo scimmie più grandi; siamo scimmie migliori. Questa è la parte della Singolarità più difficile da discutere – è semplice osservare un neurone ed un transistor ed asserire che uno è lento e l'altro è veloce, ma la mente è più difficile da comprendere. A volte la discussione sulla Singolarità tende a concentrarsi su cervelli più rapidi o più grandi, perché è relativamente più semplice discutere dei cervelli che delle menti; sono più semplici da visualizzare e da descrivere.

Questo non significa che il soggetto sia intrattabile; la parte III del nostro “Livelli di organizzazione nell'Intelligenza Generale” cerca di discutere alcuni specifici progetti di miglioramento dell'intelligenza umana, ma ciò presuppone l'adozione di una specifica teoria dell'intelligenza, di cui non discuteremo in questa sede.

Ad ogni modo, il fatto che menti più intelligenti siano più difficili da discutere di cervelli più rapidi e più grandi non dimostra che le menti più intelligenti siano più difficili da costruire – vanno calibrate con più attenzione, certamente, ma il problema non è necessariamente meno trattabile. Potrebbe persino darsi che sia possibile ottenere aumenti significativi dell'intelligenza semplicemente aggiungendo ulteriore potenza di calcolo al cervello umano esistente -  sebbene questo non sia ancora noto. Quel che è noto è che evolversi da scimmie ad esseri umani non ha richiesto aumenti esponenziali della dimensione cerebrale o aumenti della velocità di calcolo di migliaia di volte.

Rispetto agli scimpanzé, gli umani hanno cervelli tre volte più rapidi, aree prefrontali sei volte più grandi, e un DNA al 98,4% simile; dato che il genoma umano ha 3 miliardi di coppie di basi, questo significa che al massimo 12 milioni di byte di software aggiuntivo trasforma gli scimpanzé in umani. E niente, nella nostra storia evolutiva, suggerisce che l'evoluzione abbia trovato sempre più difficile costruire cervelli sempre più intelligenti; semmai, l'evoluzione ominide è sembrata accelerare nel tempo, bruciando tappe evolutive in tempi sempre più brevi.

Ma tralasciamo momentaneamente la questione di come costruire menti più intelligenti e chiediamoci cosa significhi “più-che-umana”. Come la definizione di base della Singolarità mette in evidenza, è proprio questo il punto in cui la nostra abilità di estrapolare fallisce. Un consesso di scimmie avrebbe potuto prevedere la nascita dell'intelligenza umana, o capirla se la si fosse spiegata loro? Se è per questo, anzi, il 15 secolo avrebbe potuto prevedere il 20esimo, per non dire il 21esimo? Nulla è cambiato nel cervello umano, dal 15esimo secolo; e se è vero che le persone del 15esimo secolo non sarebbero riuscite a prevedere i successivi 500 anni, cosa ci fa pensare che noi, a parità di intelligenza, potremo fare previsioni migliori su un'intelligenza più-che-umana?

Siccome abbiamo una storia pregressa di previsioni “da qui ad un secolo” sbagliate, abbiamo imparato a diffidarne: sappiamo che il normale progresso umano, con un secolo di tempo a disposizione, crea un gap che le previsioni umane non riescono a colmare. Ma non abbiamo imparato la stessa lezione per quanto riguarda i significativi progressi nell’intelligenza, perché l’ultimo vero miglioramento nell’intelligenza si è verificato 100,000 anni fa. L’avvento dell’umanità moderna crea un gap enormemente più largo del gap tra il 15esimo ed il 20esimo secolo. Quel miglioramento nell’intelligenza ha creato l’intero ambiente del progresso umano, che include tutto il progresso tra il 15esimo ed il 20esimo secolo. È un gap così grande che dall’altro lato non troviamo previsioni fallite, ma nessuna previsione.

L’intelligenza ultra-umana, quella più rapida dell’umana e quella che si auto-migliora sono tutte intercollegate. L’essere più intelligente ti rende più semplice capire come costruire cervelli più rapidi, o migliorare la tua stessa mente. A sua volta, poter rimodellare la tua mente non è solo un modo di avviare un percorso di auto-miglioramento ricorsivo; avere pieno accesso al tuo codice sorgente costituisce, di per sé, un livello di intelligenza che gli umani non hanno. L'auto-miglioramento è di gran lunga più difficile dell'ottimizzazione del codice; nondimeno, una mente con la capacità di riscrivere il proprio codice sorgente può rendersi potenzialmente anche più rapida. E cervelli più rapidi hanno a che vedere anche con menti più intelligenti; accelerare un'intera mente non la rende più intelligente, ma aggiungere potenza di calcolo ai processi cognitivi sottostanti l'intelligenza è tutta un'altra faccenda.

Malgrado le interrelazioni, tuttavia, il momento chiave è la nascita dell'intelligenza ultra-umana, piuttosto che l'auto-miglioramento ricorsivo di un'intelligenza ultra-umana, perché è quella a rendere il futuro radicalmente diverso dal passato. A questa intelligenza non servono menti un milione di volte più rapide di quelle umane, o una sequela di miglioramenti in una ripida curva di auto-miglioramento ricorsivo. Una mente significativamente al di sopra del livello umanamente possibile rappresenterebbe una Singolarità. Il fatto che probabilmente non dovremo affrontare un “solo” miglioramento non significa che quel singolo miglioramento non abbia un impatto.

Mettete insieme un'intelligenza più rapida, una più potente e una che si auto-migliora ricorsivamente, ed il risultato è un evento così enorme che non restano metafore per descriverlo. Non c'è più nulla con cui confrontarlo.

La Singolarità è più che enorme, ma può iniziare con qualcosa di piccolo. Un'intelligenza più-che-umana, una volta creata, troverà più semplice creare menti ancora più intelligenti. Sotto questo profilo, la dinamica della Singolarità assomiglia ad altri casi in cui piccole cause possono sortire grandi effetti; toccare la prima tessera in una catena del domino, iniziare una valanga con un fiocco di neve, perturbare un oggetto in fragile equilibrio (la civilizzazione tecnologica umana occupa uno stato metastabile in cui la Singolarità fa da attrattore; una volta che il sistema inizia a trasformarsi nel nuovo stato, la trasformazione accelera). Serve solo una tecnologia -  l'Intelligenza artificiale, le interfacce cervello-macchina, o forse qualcosa d’imprevisto – che avanzi fino al punto da creare menti ultra-umane. Quel singolo progresso tecnologico sarà l'equivalente contemporaneo della prima soluzione chimica auto-replicante che ha dato origine alla vita sulla Terra.

Per ulteriori informazioni, continuate con “Perché lavorare alla Singolarità?