Questo saggio, originariamente pubblicato in otto brevi parti, si propone di condensare le attuali conoscenze sull'intelligenza artificiale.
Esplora lo stato di sviluppo dell'IA, ne esamina le sfide e i pericoli, presenta il lavoro degli scienziati più significativi e descrive le principali previsioni sui possibili risultati dell'IA. Questo progetto è un adattamento e un importante accorciamento del saggio in due parti AI Revolution di Tim Urban di Wait But Why .
L'ho accorciato di un fattore 3, ho ricreato tutte le immagini e l'ho modificato un po'.
Per saperne di più sul perché/come l'ho scritto, leggi qui .
Introduzione
Supponendo che l'attività scientifica umana continui senza grandi interruzioni, l'intelligenza artificiale potrebbe rivelarsi la trasformazione più positiva della nostra storia o, come molti temono, la nostra invenzione più pericolosa in assoluto.
La ricerca sull'intelligenza artificiale è sulla buona strada per sviluppare un computer dotato di capacità cognitive pari a quelle del cervello umano, molto probabilmente entro tre decenni (cronologia nel capitolo 5).
Da quanto previsto dalla maggior parte degli scienziati dell'intelligenza artificiale, questa invenzione potrebbe consentire miglioramenti molto rapidi (chiamati decollo rapido) verso qualcosa di molto più potente: la super intelligenza artificiale, un'entità più intelligente dell'intera umanità messa insieme (ulteriori informazioni sull'ASI nel capitolo 3).
Non stiamo parlando di un futuro immaginario. Il primo livello di sviluppo dell'IA sta gradualmente apparendo nella tecnologia che utilizziamo ogni giorno. Con ogni anno che passa, questi progressi accelereranno e la tecnologia diventerà più complessa, avvincente e onnipresente.
Continueremo ad esternalizzare sempre più tipi di lavoro mentale ai computer, sconvolgendo ogni aspetto della nostra realtà: il modo in cui organizziamo noi stessi e il nostro lavoro, formiamo comunità e viviamo il mondo.
Crescita esponenziale
Il principio guida del progresso tecnologico
Per comprendere in modo più intuitivo i principi guida della rivoluzione dell'intelligenza artificiale, prendiamo innanzitutto le distanze dalla ricerca scientifica.
Vorrei invitarvi a prendere parte a una storia.
Immagina di aver ricevuto una macchina del tempo e di aver ricevuto l'incarico di riportare qualcuno dal passato. L'obiettivo è di scioccarlo mostrandogli i progressi tecnologici e culturali del nostro tempo, a tal punto che questa persona eseguirebbe SAFD (Spinning Around From Disbelief).
 |
Arriviamo ai primi anni del 1800, recuperiamo un tizio e lo riportiamo nel 2016.
Voi,
"...portarlo in giro e guardarlo reagire a tutto. È impossibile per noi capire cosa significherebbe per lui vedere capsule luccicanti sfrecciare su un'autostrada, parlare con persone che erano state dall'altra parte dell'oceano prima quel giorno, guardare gli sport che si svolgevano a 1.000 miglia di distanza, ascoltare un'esibizione musicale avvenuta 50 anni prima e giocare con... [un] magico rettangolo magico che potrebbe usare per catturare un'immagine della vita reale o registrare un momento di vita, generare una mappa con un punto blu paranormale in movimento che gli mostra dove si trova, guardare il volto di qualcuno e chiacchierare con lui anche se si trova dall'altra parte del paese, e mondi di altre inconcepibili stregonerie." 1Non ci vuole molto. Dopo due minuti è SAFDing.
Ora, entrambi volete provare la stessa cosa, vedere qualcuno che gira intorno dall'incredulità , ma nell'era del vostro nuovo amico. Dal momento che 200 anni hanno funzionato, fate un salto indietro al 1600 e portate un tizio al 1800.
Lui è sicuramente sinceramente interessato a ciò che vede. Tuttavia, lo senti con sicurezza: SAFD non gli succederà mai. Senti che devi fare un salto indietro di nuovo, ma da qualche parte radicalmente più lontano.
Ti decidi a tornare indietro di 15.000 anni, ai tempi,
"...prima che la prima rivoluzione agricola desse origine alle prime città e al concetto di civiltà." 2Porti qualcuno dal mondo dei cacciatori-raccoglitori e gli mostri,
"...i vasti imperi umani del 1750 con le loro chiese torreggianti, le loro navi che attraversavano l'oceano, il loro concetto di essere 'dentro' e la loro enorme montagna di conoscenza e scoperta umana collettiva e accumulata" 3 - in forma di libri. Non ci vuole molto.Nei primi due minuti fa SAFDing.
Adesso siete in tre, enormemente emozionati di farlo di nuovo.
Sai che non ha senso tornare indietro di altri 15.000, 30.000 o 45.000 anni. Devi fare un salto indietro, ancora, radicalmente più lontano. Quindi prendi un tizio di 100.000 anni fa e cammini con lui in grandi tribù con gerarchie sociali organizzate e sofisticate.
Incontra una varietà di armi da caccia, utensili sofisticati, vede il fuoco e per la prima volta sperimenta il linguaggio sotto forma di segni e suoni. Hai capito, deve essere immensamente strabiliante.
Dopo due minuti è SAFDing.
Quindi cosa è successo? Perché l'ultimo tizio ha dovuto saltare → 100.000 anni, il successivo → 15.000 anni, e il tizio che stava saltando ai nostri tempi solo → 200 anni?
 |
"Ciò accade perché le società più avanzate hanno la capacità di progredire a un ritmo più veloce rispetto alle società meno avanzate, perché sono più avanzate. [Nel 1800] l'umanità sapeva di più e aveva una tecnologia migliore…" 4 ,...quindi non c'è da stupirsi che siano riusciti a fare progressi maggiori rispetto all'umanità di 15.000 anni fa.
Il tempo necessario per raggiungere l'obiettivo SAFD si è ridotto da circa 100.000 a circa 200 anni e, se guardiamo al futuro, si ridurrà ulteriormente.
Ray Kurzweil , esperto e scienziato di intelligenza artificiale, prevede che,
"... il progresso equivalente al XX secolo si è verificato tra il 2000 e il 2014 e un altro progresso equivalente al XX secolo si verificherà entro il 2021, in soli sette anni 5 …
Un paio di decenni dopo, egli ritiene che il progresso equivalente al XX secolo si verificherà più volte nello stesso anno, e persino più tardi, in meno di un mese 6 … Kurzweil ritiene che il XXI secolo raggiungerà 1.000 volte il progresso del XX secolo." 7
"La logica suggerisce anche che se la specie più avanzata su un pianeta continua a compiere balzi in avanti sempre più grandi a un ritmo sempre più veloce, a un certo punto farà un balzo così grande da alterare completamente la vita così come la conosce e la percezione che ha di cosa significhi essere umani.
Un po' come l'evoluzione ha continuato a fare grandi passi avanti verso l'intelligenza, fino a quando, alla fine, ha compiuto un balzo così grande verso l'essere umano da modificare completamente il significato della vita di qualsiasi creatura sul pianeta Terra.
E se passi un po' di tempo a leggere cosa sta succedendo oggi nella scienza e nella tecnologia, inizi a vedere molti segnali che suggeriscono silenziosamente che la vita, così come la conosciamo oggi, non può resistere al balzo che verrà dopo." 8
La strada verso l'intelligenza artificiale generale
Intelligenza artificiale, o IA, è un termine generico che indica il progresso dell'intelligenza nei computer.
Nonostante le opinioni discordanti sull'argomento, la maggior parte degli esperti concorda sul fatto che esistano tre categorie, o calibri, di sviluppo dell'intelligenza artificiale.
Sono:
- ANI: Intelligenza Artificiale Ristretta 1° calibro di intelligence. "AI specializzata in un'area. C'è un'AI che può battere il campione mondiale di scacchi a scacchi, ma è l'unica cosa che fa." 9
- AGI: Intelligenza Artificiale Generale Calibro di intelligenza di 2° livello. AI che raggiunge e poi supera il livello di intelligenza di un essere umano, il che significa che ha la capacità di "ragionare, pianificare, risolvere problemi, pensare in modo astratto, comprendere idee complesse, imparare rapidamente e imparare dall'esperienza". 10
Dove ci troviamo attualmente?
- ASI: Super Intelligenza Artificiale 3° calibro di intelligenza. AI che raggiunge un livello di intelligenza più intelligente di tutta l'umanità messa insieme - "che va da appena un po' più intelligente... a un trilione di volte più intelligente". 11
"Ad oggi, gli esseri umani hanno conquistato il calibro più basso dell'IA - ANI - in molti modi, ed è ovunque:" 12
"Le auto sono piene di sistemi ANI, dal computer che determina quando entrano in funzione i freni antibloccaggio, al computer che regola i parametri dei sistemi di iniezione del carburante." 13Gli aerei passeggeri sono pilotati quasi esclusivamente da ANI, senza l'ausilio di esseri umani.
"La ricerca di Google è un grande cervello ANI con metodi incredibilmente sofisticati per classificare le pagine e capire cosa mostrarti in particolare. Lo stesso vale per il Newsfeed di Facebook." 14
I filtri antispam delle e-mail "iniziano con un carico di informazioni su come capire cosa è spam e cosa non lo è, e poi imparano e adattano la loro intelligenza alle tue preferenze specifiche". 15
" L'auto a guida autonoma di Google , attualmente in fase di test, conterrà sistemi ANI robusti che le consentiranno di percepire e reagire al mondo circostante." 16I sistemi ANI così come sono ora non sono particolarmente spaventosi.
"Il tuo telefono è una piccola fabbrica ANI... navighi usando la tua app di mappe, ricevi consigli musicali personalizzati da Pandora, controlli le previsioni del tempo per domani, parli con Siri." 17
"I migliori giocatori di Dama, Scacchi, Scrabble, Backgammon e Otello del mondo sono ora tutti sistemi ANI." 18
"I sistemi ANI sofisticati sono ampiamente utilizzati in settori e industrie come quello militare, manifatturiero e finanziario (i trader algoritmici ad alta frequenza basati sull'intelligenza artificiale rappresentano più della metà delle azioni azionarie scambiate sui mercati statunitensi 19 )." 20
Nel peggiore dei casi, un ANI difettoso o mal programmato può causare una catastrofe isolata come un incidente aereo, un malfunzionamento di una centrale nucleare o,Ogni nuova innovazione ANI aggiunge silenziosamente un altro mattone sulla strada verso AGI e ASI." 22
"un disastro dei mercati finanziari (come il Flash Crash del 2010, quando un programma ANI reagì nel modo sbagliato a una situazione inaspettata e causò un breve crollo del mercato azionario, portandosi dietro 1.000 miliardi di dollari di valore di mercato, solo una parte dei quali fu recuperata quando l'errore fu corretto)...
Ma sebbene l'ANI non abbia la capacità di rappresentare una minaccia esistenziale, dovremmo considerare questo ecosistema sempre più vasto e complesso di ANI relativamente innocui come un precursore dell'uragano che sta per arrivare e che cambierà il mondo.
 |
Ecco come l'auto a guida autonoma di Google vede il mondo. Immagine basata sul video dell'Embedded Linux Conference 2013 - KEYNOTE Auto a guida autonoma di Google
Cosa c'è dopo? Le sfide per raggiungere l'AGI
"Niente ti farà apprezzare l'intelligenza umana come scoprire quanto sia incredibilmente difficile provare a creare un computer intelligente quanto noi...Perché "le cose difficili, come il calcolo, la strategia del mercato finanziario e la traduzione linguistica... sono incredibilmente facili per un computer, mentre le cose facili, come la vista, il movimento, lo spostamento e la percezione, sono incredibilmente difficili per lui" 24 ?
Costruisci un computer in grado di moltiplicare numeri di dieci cifre in una frazione di secondo: incredibilmente facile.
Costruirne uno che possa guardare un cane e dire se è un cane o un gatto: spettacolarmente difficile. Creare un'IA che possa battere qualsiasi essere umano a scacchi? Fatto. Creare uno che possa leggere un paragrafo dal libro illustrato di un bambino di sei anni e non solo riconoscere le parole, ma capirne il significato?
Google sta attualmente spendendo miliardi di dollari per cercare di farlo." 23
"Le cose che ci sembrano facili sono in realtà incredibilmente complicate.
Sembrano facili solo perché queste capacità sono state ottimizzate in noi (e nella maggior parte degli animali) da centinaia di milioni di anni di evoluzione animale.
Quando allunghi la mano verso un oggetto, i muscoli, i tendini e le ossa della spalla, del gomito e del polso eseguono istantaneamente una lunga serie di operazioni fisiche, insieme ai tuoi occhi, per consentirti di muovere la mano in linea retta attraverso le tre dimensioni...
D'altro canto, moltiplicare grandi numeri o giocare a scacchi sono attività nuove per le creature biologiche e non abbiamo avuto il tempo di sviluppare una competenza in esse, quindi un computer non ha bisogno di impegnarsi troppo per batterci." 25
Un esempio divertente…
Quando guardi la figura A,
Se un'intelligenza artificiale deve essere intelligente quanto il cervello umano, deve accadere una cosa cruciale: l'IA,
Tuttavia, Ray Kurzweil ha sviluppato un metodo per stimare i cps totali del cervello umano.
Arrivò a questa stima prendendo i cps da una regione del cervello e moltiplicandoli proporzionalmente per il peso di quella regione, rispetto al peso dell'intero cervello.
Tuttavia, la legge di Moore , storicamente attendibile , afferma:
Visualizzazione basata sul grafico di Ray Kurzweil e analisi dal suo libro The Singularity is Near
Questa dinamica,
La parte più difficile della creazione di un'AGI è imparare a sviluppare il suo software.
 |
Quando guardi la figura A,
"sia tu che un computer potete capire che si tratta di un rettangolo con due distinte tonalità, alternate. Finora pareggiamo." 26Immagine B.
"Non hai problemi a dare una descrizione completa dei vari cilindri opachi e traslucidi, delle stecche e degli angoli 3D, ma il computer fallirebbe miseramente. Descriverebbe ciò che vede, una varietà di forme bidimensionali in diverse tonalità, che è in realtà ciò che c'è." 27
"Il tuo cervello sta facendo un sacco di cose sofisticate per interpretare la profondità implicita, la miscelazione delle tonalità e l'illuminazione della stanza che l'immagine sta cercando di ritrarre." 28Guardando l'immagine C,
"un computer vede un collage bidimensionale bianco, nero e grigio, mentre tu vedi facilmente di cosa si tratta realmente" 29 - una foto di una ragazza e di un cane in piedi su una riva rocciosa.
"E tutto ciò che abbiamo appena menzionato è ancora solo l'acquisizione di informazioni visive e la loro elaborazione. Per essere intelligente a livello umano, un computer dovrebbe capire cose come la differenza tra sottili espressioni facciali, la distinzione tra essere compiaciuti, sollevati e contenti" 30 .In che modo i computer potranno raggiungere capacità ancora più elevate, come il ragionamento complesso, l'interpretazione dei dati e l'associazione di idee provenienti da campi diversi (conoscenza generale di dominio)?
"Costruire grattacieli, mandare gli esseri umani nello spazio, capire i dettagli del Big Bang: tutto è molto più facile che comprendere il nostro cervello o come realizzare qualcosa di altrettanto fantastico.Ferramenta per l'edilizia
Ad oggi, il cervello umano è l'oggetto più complesso nell'universo conosciuto." 31
Se un'intelligenza artificiale deve essere intelligente quanto il cervello umano, deve accadere una cosa cruciale: l'IA,
"deve essere uguale alla capacità di calcolo grezza del cervello. Un modo per esprimere questa capacità è nei calcoli totali al secondo che il cervello potrebbe gestire." 32La sfida è che attualmente solo alcune regioni del cervello vengono misurate con precisione.
Tuttavia, Ray Kurzweil ha sviluppato un metodo per stimare i cps totali del cervello umano.
Arrivò a questa stima prendendo i cps da una regione del cervello e moltiplicandoli proporzionalmente per il peso di quella regione, rispetto al peso dell'intero cervello.
"Lo ha fatto un sacco di volte con varie stime professionali di diverse regioni, e il totale è sempre arrivato nella stessa direzione: circa 10 16 , o 10 quadrilioni di cps." 33Ma Tianhe-2 è anche mostruoso,
"Attualmente, il supercomputer più veloce del mondo, il Tianhe-2 della Cina , ha effettivamente superato quel numero, attestandosi a circa 34 quadrilioni di cps." 34
"occupando 720 metri quadrati di spazio, utilizzando 24 megawatt di potenza (il cervello funziona con soli 20 watt ) e costando 390 milioni di dollari per la costruzione. Non particolarmente applicabile all'uso su larga scala, o persino alla maggior parte dell'uso commerciale o industriale per ora." 35Attualmente siamo solo a circa 10 10 (10 trilioni) di cps per 1.000 $.
"Kurzweil suggerisce di pensare allo stato dei computer osservando quanti cps si possono acquistare per 1.000 $. Quando quel numero raggiungerà il livello umano, 10 quadrilioni di cps, allora significherà che l'AGI potrebbe diventare una parte molto reale della vita." 36
Tuttavia, la legge di Moore , storicamente attendibile , afferma:
"che la massima potenza di calcolo del mondo raddoppia approssimativamente ogni due anni, il che significa che il progresso dell'hardware dei computer, come il progresso umano generale nel corso della storia, cresce in modo esponenziale 37 … proprio al passo con la traiettoria prevista da questo grafico:" 38
 |
Visualizzazione basata sul grafico di Ray Kurzweil e analisi dal suo libro The Singularity is Near
Questa dinamica,
"ci mette sulla buona strada per arrivare entro il 2025 a un computer accessibile che rivaleggia con la potenza del cervello...Software di costruzione
Ma la potenza di calcolo pura e semplice non rende un computer generalmente intelligente: la domanda successiva è: come possiamo portare l'intelligenza di livello umano a tutta quella potenza?" 39
La parte più difficile della creazione di un'AGI è imparare a sviluppare il suo software.
"La verità è che nessuno sa davvero come renderlo intelligente: stiamo ancora discutendo su come rendere un computer intelligente quanto un essere umano e capace di capire cosa sono un cane, un film di serie B scritto in modo bizzarro e un film mediocre." 40Ma ci sono un paio di strategie.
Questi sono i tre più comuni:
1. Copia il funzionamento del cervello
L'idea più semplice è quella di copiare il cervello e costruire un'architettura del computer che sia il più possibile simile alla struttura del cervello.
Un esempio,
"è la rete neurale artificiale. Inizia come una rete di 'neuroni' transistor, collegati tra loro con input e output, e non sa nulla, come un cervello infantile.Il secondo approccio al plagio, più radicale, è l'emulazione dell'intero cervello.
Il modo in cui "apprende" è quando cerca di svolgere un compito, ad esempio il riconoscimento della scrittura a mano, e all'inizio le sue attivazioni neurali e le successive ipotesi di decifrazione di ogni lettera saranno del tutto casuali.
Ma quando gli viene detto che ha indovinato qualcosa, le connessioni dei transistor nei percorsi di attivazione che hanno creato quella risposta vengono rafforzate; quando gli viene detto che ha sbagliato, le connessioni di quei percorsi vengono indebolite.
Dopo molti tentativi e feedback, la rete ha formato autonomamente percorsi neurali intelligenti e la macchina è stata ottimizzata per il compito." 41
Gli scienziati prendono un cervello vero, lo tagliano in un gran numero di piccole fette per osservare le connessioni neurali e replicarle in un computer come software. Se quel metodo avrà mai successo, avremo,
"un computer ufficialmente capace di fare tutto ciò di cui è capace il cervello: avrebbe solo bisogno di imparare e raccogliere informazioni...2. Introdurre l'evoluzione nei computer
Quanto siamo lontani dal raggiungere l'emulazione dell'intero cervello? Bene, finora siamo stati in grado di emulare il cervello di un verme piatto lungo 1 mm, che consiste di soli 302 neuroni totali." 42
Per mettere tutto questo in prospettiva, il cervello umano è composto da 86 miliardi di neuroni collegati da migliaia di miliardi di sinapsi.
"Il fatto è che, anche se potessimo emulare un cervello, sarebbe come cercare di costruire un aeroplano copiando i movimenti delle ali di un uccello: spesso, le macchine sono progettate al meglio utilizzando un approccio nuovo e orientato alle macchine, non imitando esattamente la biologia." 43Se il cervello è troppo complesso per essere replicato digitalmente, potremmo provare a emulare l'evoluzione.
Questo processo utilizza i cosiddetti algoritmi genetici.
"Un gruppo di computer proverebbe a svolgere dei compiti e quelli di maggior successo verrebbero incrociati tra loro, fondendo metà della loro programmazione in un nuovo computer.I vantaggi dell'evoluzione artificiale rispetto a quella biologica sono la velocità e l'approccio orientato agli obiettivi.
Quelli meno riusciti verrebbero eliminati." 44
"Nel corso di moltissime iterazioni, questo processo di selezione naturale produrrebbe computer sempre migliori.
La sfida sarebbe quella di creare un ciclo di valutazione e riproduzione automatizzato in modo che questo processo evolutivo possa funzionare da solo." 45
3. "Fai in modo che tutta questa faccenda sia un problema del computer, non nostro" 46
L'ultimo concetto è il più semplice, ma probabilmente il più spaventoso di tutti.
"Costruiremmo un computer le cui due competenze principali sarebbero la ricerca sull'intelligenza artificiale e la codifica dei cambiamenti al suo interno, consentendogli non solo di apprendere, ma anche di migliorare la propria architettura.Questo è il modo più probabile per ottenere l'AGI nel prossimo futuro, a nostra conoscenza.
Insegneremmo ai computer a diventare informatici in modo che possano auto-sviluppare il proprio sviluppo." 47
Tutti questi progressi software possono sembrare lenti o un po' intangibili, ma come accade nella scienza, una piccola innovazione può improvvisamente accelerare il ritmo degli sviluppi.
Un po' come le conseguenze della rivoluzione copernicana: la scoperta che improvvisamente ha reso molto più facile calcolare tutti i complessi calcoli matematici delle traiettorie dei pianeti, il che ha reso possibile una moltitudine di altre innovazioni.
Inoltre, il,
"la crescita esponenziale è intensa e ciò che sembra un progresso a passo di lumaca può rapidamente aumentare." 48
 |
Visualizzazione basata sul grafico
di Mother Jones " Benvenuti, signori dei robot. Per favore, non licenziateci ?"
La strada verso la super intelligenza artificiale
È molto probabile che a un certo punto raggiungeremo l'AGI:
software che ha raggiunto un'intelligenza pari o superiore a quella umana.
Ciò significa che in quel preciso momento i computer saranno capaci quanto noi? In realtà, niente affatto: i computer saranno molto più efficienti.
Essendo elettronici, avranno i seguenti vantaggi:
Velocità
"I neuroni del cervello raggiungono il massimo a circa 200 Hz, mentre i microprocessori odierni... funzionano a 2 GHz, ovvero 10 milioni di volte più velocemente." 51Memoria
Dimenticare o confondere le cose è molto più difficile in un mondo artificiale. I computer possono memorizzare più cose in un secondo di quante un essere umano possa fare in dieci anni. La memoria di un computer è anche più precisa e ha una capacità di archiviazione molto maggiore.
Prestazione
"I transistor dei computer sono più precisi dei neuroni biologici e hanno meno probabilità di deteriorarsi (e possono essere riparati o sostituiti se ciò accade). Anche il cervello umano si affatica facilmente, mentre i computer possono funzionare senza sosta, al massimo delle prestazioni, 24 ore su 24, 7 giorni su 7." 52Capacità collettiva
Il lavoro di gruppo è incredibilmente impegnativo a causa della comunicazione che richiede molto tempo e delle complesse gerarchie sociali. Più grande diventa il gruppo, più lento diventa il risultato di ogni persona.
L'intelligenza artificiale, d'altro canto, non è biologicamente limitata a un solo corpo, non avrà problemi di cooperazione con gli esseri umani ed è in grado di sincronizzare e aggiornare il proprio sistema operativo.
Esplosione di intelligenza
Dobbiamo renderci conto che l'intelligenza artificiale,
"non considererebbero l'"intelligenza a livello umano" come una pietra miliare importante - è solo un indicatore rilevante dal nostro punto di vista - e non avrebbero motivo di "fermarsi" al nostro livello.
E dati i vantaggi che avrebbe su di noi anche un'intelligenza artificiale equivalente a quella umana, è abbastanza ovvio che colpirebbe l'intelligenza umana solo per un breve istante prima di lanciarsi nel regno dell'intelligenza superiore a quella umana." 53La vera distinzione tra gli esseri umani e l'ASI non sarebbe il vantaggio in termini di velocità di intelligenza, ma,
"nella qualità dell'intelligence, che è qualcosa di completamente diverso.Ciò che rende gli esseri umani così tanto più capaci intellettualmente degli scimpanzé non è una differenza nella velocità di pensiero: è il fatto che il cervello umano contiene una serie di moduli cognitivi sofisticati che consentono cose come rappresentazioni linguistiche complesse, pianificazione a lungo termine o ragionamento astratto, che il cervello degli scimpanzé non ha.
Accelerare il cervello di uno scimpanzé di migliaia di volte non lo porterebbe al nostro livello: anche dopo un decennio di apprendimento, non sarebbe in grado di capire come... " 54 assemblare un modello Lego semi-complicato consultando il relativo manuale, qualcosa che un giovane essere umano potrebbe realizzare in pochi minuti.
"Ci sono mondi di funzioni cognitive umane di cui uno scimpanzé non sarà mai capace, non importa quanto tempo passi a provarci." 55
"E nello schema della gamma di intelligenza biologica... il divario tra l'intelligenza di qualità tra scimpanzé e uomo è minimo." 56
 |
"la sua aumentata capacità cognitiva rispetto a noi sarebbe vasta quanto il divario tra scimpanzé e umani... E come l'incapacità dello scimpanzé di assorbire..." 57 che tipo di magia avviene nel meccanismo di una maniglia di una porta - "non saremo mai in grado di comprendere le cose... [una macchina di quell'intelligenza] può fare, anche se la macchina cercasse di spiegarcele... E questo è solo due gradini sopra di noi." 58
"Una macchina sul penultimo gradino di quella scala sarebbe per noi come noi lo siamo per le formiche." 59
"Una superintelligenza di quella portata non è qualcosa che possiamo minimamente afferrare, così come un calabrone non può comprendere l'economia keynesiana. Nel nostro mondo, intelligente significa un QI di 130 e stupido significa un QI di 85 - non abbiamo una parola per un QI di 12.952." 60
"Ma il tipo di superintelligenza di cui stiamo parlando oggi è qualcosa che va ben oltre qualsiasi cosa su questa scala. In un'esplosione di intelligenza, in cui più una macchina diventa intelligente, più velocemente è in grado di aumentare la propria intelligenza, una macchina potrebbe impiegare anni per passare da..." 61 ,Quando ciò accade,
...l'intelligenza di una formica rispetto a quella di un essere umano medio, ma potrebbero volerci solo altri 40 giorni per raggiungere l'intelligenza di Einstein.
"lavora per migliorare la sua intelligenza, con un intelletto di livello Einstein, ha vita più facile e può fare balzi più grandi. Questi balzi lo renderanno molto più intelligente di qualsiasi essere umano, consentendogli di fare balzi ancora più grandi." 62Da quel momento in poi, seguendo la regola degli avanzamenti esponenziali e utilizzando la velocità e l'efficienza dei circuiti elettrici, potrebbero volerci solo 20 minuti per saltare un altro passaggio,
"e quando sarà a dieci passi sopra di noi, potrebbe saltare con balzi di quattro passi ogni secondo che passa.
Ecco perché dobbiamo renderci conto che è decisamente possibile che subito dopo la grande notizia sulla prima macchina che ha raggiunto un'intelligenza artificiale di livello umano, potremmo trovarci ad affrontare la realtà di coesistere sulla Terra con qualcosa che si trova qui sulla scalinata (o forse un milione di volte più in alto):" 63
 |
"E poiché abbiamo appena stabilito che è un'attività senza speranza cercare di comprendere la potenza di una macchina che si trova solo due gradini sopra di noi, affermiamo concretamente una volta per tutte che non c'è modo di sapere cosa farà l'ASI o quali saranno le conseguenze per noi.
Chi finge il contrario non capisce cosa significa superintelligenza." 64
"Se i nostri miseri cervelli fossero in grado di inventare il Wi-Fi, allora qualcosa di 100 o 1.000 o 1 miliardo di volte più intelligente di noi non dovrebbe avere problemi a controllare il posizionamento di ogni singolo atomo nel mondo nel modo che preferisce, in qualsiasi momento: tutto ciò che consideriamo magico, ogni potere che immaginiamo abbia un Dio supremo sarà un'attività tanto banale per l'ASI quanto accendere un interruttore della luce lo è per noi." 65"Per quanto ci riguarda, se un'ASI venisse alla luce, sulla Terra ci sarebbe ora un Dio onnipotente , e la domanda più importante per noi è:
Sarà un dio buono?" 66Cominciamo dal lato positivo della storia.
Come può l'ASI cambiare il nostro mondo?
Speculazioni su due tecnologie rivoluzionarie
Nanotecnologia
La nanotecnologia è un'idea che emerge "in quasi tutto ciò che si legge sul futuro dell'intelligenza artificiale". 67
È la tecnologia che funziona su scala nanometrica, da 1 a 100 nanometri.
"Un nanometro è un milionesimo di millimetro. L'intervallo da 1 nm a 100 nm comprende i virus (100 nm di diametro), il DNA (10 nm di larghezza) e cose piccole come molecole come l'emoglobina (5 nm) e molecole di medie dimensioni come il glucosio (1 nm).
Se/quando conquisteremo la nanotecnologia, il passo successivo sarà la capacità di manipolare singoli atomi, che sono solo un ordine di grandezza più piccoli (~.1 nm)." 68Per mettere tutto questo in prospettiva, immagina un essere umano molto alto in piedi sulla Terra, con una testa che arriva fino alla Stazione Spaziale Internazionale (431 km/268 mi di altezza).
Il gigante sta allungando la mano verso il basso (30 km/19 miglia di larghezza) per costruire,
"oggetti che utilizzano materiali di dimensioni comprese tra un granello di sabbia [0,25 mm] e un bulbo oculare [2,5 cm]." 69
 |
"Una volta che avremo perfezionato la nanotecnologia, potremo usarla per realizzare dispositivi tecnologici, vestiti, cibo, una varietà di prodotti biologici (cellule sanguigne artificiali, piccoli distruttori di virus o cellule cancerose, tessuti muscolari, ecc.): qualsiasi cosa.In un mondo che utilizza la nanotecnologia, il costo di un materiale non è più legato alla sua scarsità o alla difficoltà del suo processo di fabbricazione, ma è determinato dalla complessità della sua struttura atomica.
In un mondo nanotecnologico, un diamante potrebbe essere più economico di una gomma per matita." 70
Uno dei metodi proposti per l'assemblaggio nanotecnologico è quello di realizzare,
"uno che potrebbe autoreplicarsi, e poi lasciare che il processo di riproduzione trasformi quell'uno in due, quei due poi si trasformino in quattro, quattro in otto, e in circa un giorno, ce ne sarebbero alcuni trilioni pronti per partire." 71Ma cosa succederebbe se questo processo andasse storto o se i terroristi riuscissero a impossessarsi della tecnologia?
Immaginiamo uno scenario in cui i nanobot,
"sarebbe progettato per consumare qualsiasi materiale a base di carbonio per alimentare il processo di replicazione e, spiacevolmente, tutta la vita è a base di carbonio. La biomassa della Terra contiene circa 10 45 atomi di carbonio.Non siamo ancora in grado di sfruttare la nanotecnologia, nel bene e nel male.
Un nanobot sarebbe composto da circa 10 6 atomi di carbonio, quindi ci vorrebbero 10 39 nanobot per consumare tutta la vita sulla Terra, il che avverrebbe in 130 replicazioni.
Gli scienziati pensano che un nanobot potrebbe replicarsi in circa 100 secondi, il che significa che questo semplice errore porrebbe fine a ogni forma di vita sulla Terra in 3,5 ore." 72
"E non è chiaro se stiamo sottovalutando o sopravvalutando quanto sarà difficile arrivarci. Ma non sembra che siamo così lontani. Kurzweil prevede che ci arriveremo entro il 2020. 73Immortalità
I governi sanno che la nanotecnologia potrebbe rappresentare uno sviluppo epocale... Gli Stati Uniti, l'Unione Europea e il Giappone 74 hanno investito finora più di 5 miliardi di dollari 75
"Poiché tutti sono sempre morti, viviamo nell'ipotesi... che la morte sia inevitabile. Pensiamo all'invecchiamento come al tempo: entrambi continuano a muoversi e non c'è niente che tu possa fare per fermarlo." 76Per secoli, poeti e filosofi si sono chiesti se la coscienza non debba seguire la stessa strada del corpo.
WB Yeats ci descrive come,
"un'anima legata ad un animale morente." 77Richard Feynman , fisico premio Nobel, vede la morte da un punto di vista puramente scientifico:
"È una delle cose più straordinarie che in tutte le scienze biologiche non vi sia alcun indizio circa la necessità della morte.Teoria dei grandi attrattori di specie
Se affermiamo che vogliamo realizzare il moto perpetuo, studiando la fisica abbiamo scoperto abbastanza leggi da capire che o è assolutamente impossibile oppure le leggi sono sbagliate.
Ma non è stato ancora scoperto nulla in biologia che indichi l'inevitabilità della morte.
Ciò mi suggerisce che non è affatto inevitabile e che è solo questione di tempo prima che i biologi scoprano cosa ci sta causando problemi e che quella terribile malattia universale o temporaneità del corpo umano venga curata." 78
Se consideriamo la storia della vita biologica sulla Terra, scopriamo che finora il 99,9% delle specie si è estinto.
Nick Bostrom , professore di Oxford e specialista di intelligenza artificiale,
"chiama l'estinzione uno stato di attrazione, un luogo in cui le specie... cadono e da cui nessuna specie torna mai." 79
 |
"E mentre la maggior parte degli scienziati dell'intelligenza artificiale... riconosce che l'ASI avrebbe la capacità di portare gli esseri umani all'estinzione, molti credono anche che, se usate in modo proficuo, le capacità dell'ASI potrebbero essere utilizzate per portare i singoli esseri umani e la specie nel suo insieme a un secondo stato di attrazione: l'immortalità della specie." 80
 |
"L'evoluzione non aveva una buona ragione per estendere la nostra durata di vita più di quanto non sia oggi... Da un punto di vista evolutivo, l'intera specie umana può prosperare con una durata di vita di oltre 30 anni" per ogni singolo essere umano.
È abbastanza lungo da riprodursi e crescere i figli... quindi non c'è motivo per cui le mutazioni verso una vita insolitamente lunga siano favorite nel processo di selezione naturale." 81
Anche se,
"se riparassi o sostituissi perfettamente le parti di un'auto ogni volta che una di esse inizia a consumarsi, l'auto funzionerebbe per sempre. Il corpo umano non è diverso, è solo molto più complesso......costituendo un DNA programmato organicamente, che teoricamente è possibile manipolare.
Sembra assurdo, ma il corpo è solo un mucchio di atomi…" 82 ,
E qualcosa di potente come l'ASI potrebbe aiutarci a padroneggiare l'ingegneria genetica.
Ray Kurzweil ritiene che,
"i materiali artificiali saranno sempre più integrati nel corpo... Gli organi potrebbero essere sostituiti da versioni di macchine super avanzate che funzionerebbero per sempre e non si guasterebbero mai." 83I globuli rossi potrebbero essere perfezionati da,
"nanobot di globuli rossi, in grado di muoversi autonomamente, eliminando del tutto la necessità di un cuore...Il teorico della nanotecnologia Robert A. Freitas ha già progettato sostituti delle cellule del sangue che, se un giorno implementati nel corpo, consentirebbero a un essere umano di correre per 15 minuti senza riprendere fiato...
[Kurzweil] arriva persino al cervello e ritiene che potenzieremo le nostre attività mentali al punto che gli esseri umani saranno in grado di pensare miliardi di volte più velocemente" 84 integrando componenti elettrici e potendo accedere ai dati online.
"Alla fine, Kurzweil ritiene che gli esseri umani raggiungeranno un punto in cui saranno completamente artificiali, un momento in cui guarderemo indietro al materiale biologico e penseremo a quanto fosse incredibilmente primitivo che gli esseri umani fossero fatti di quell'85 e che invecchiassero, soffrissero di cancro, permettessero a fattori casuali come microbi, malattie, incidenti di danneggiarci o farci scomparire."
Quando arriverà la prima macchina...
Diventare super-intelligenti?
Previsioni dei massimi esperti di intelligenza artificiale
Quanto tempo ci vorrà prima che la prima macchina raggiunga la superintelligenza? Non sorprende che le opinioni siano molto diverse e questo è un acceso dibattito tra scienziati e pensatori.
Molti, come il professor Vernor Vinge , lo scienziato Ben Goertzel , il co-fondatore di Sun Microsystems Bill Joy o, il più famoso, l'inventore e futurista Ray Kurzweil , concordano con l'esperto di apprendimento automatico Jeremy Howard quando pubblica questo grafico durante un TED Talk :
 |
" Le meravigliose e terrificanti implicazioni dei computer che possono imparare ."
"Queste persone credono fermamente che questo accadrà presto, che la crescita esponenziale sia in atto e che l'apprendimento automatico, sebbene ora ci stia prendendo di mira solo lentamente, ci supererà nel giro di pochi decenni.Cronologia dell'intelligenza artificiale generale
"Altri, come il co-fondatore di Microsoft Paul Allen , lo psicologo ricercatore Gary Marcus , l'informatico della New York University Ernest Davis e l'imprenditore tecnologico Mitch Kapor , ritengono che pensatori come Kurzweil stiano sottovalutando ampiamente la portata della sfida [e che la transizione richiederà in realtà molto più tempo] …
"Il campo di Kurzweil ribatterebbe che l'unica sottovalutazione in atto è la scarsa considerazione della crescita esponenziale, e paragonerebbe gli scettici a coloro che osservavano la lenta crescita di Internet nel 1985 e sostenevano che non c'era modo che potesse avere un impatto significativo nel prossimo futuro.
"I dubbiosi potrebbero ribattere che il progresso necessario per fare progressi nell'intelligenza diventa anche esponenzialmente più difficile con ogni passo successivo, il che annullerà la tipica natura esponenziale del progresso tecnologico. E così via.
"Un terzo gruppo, che include Nick Bostrom , ritiene che nessuno dei due gruppi abbia motivo di essere certo della tempistica e riconosce sia A) che ciò potrebbe assolutamente accadere nel prossimo futuro sia B) che non vi è alcuna garanzia al riguardo; potrebbe anche richiedere molto più tempo.
"Altri ancora, come il filosofo Hubert Dreyfus , ritengono che tutti e tre questi gruppi siano ingenui nel credere che l'ASI abbia un potenziale, sostenendo che è più probabile che questo non verrà mai raggiunto.
"Quindi cosa ottieni quando metti insieme tutte queste opinioni?" 8
"Nel 2013, Vincent C. Müller e Nick Bostrom hanno condotto un sondaggio in cui hanno chiesto a centinaia di esperti di intelligenza artificiale... quanto segue:" 87Il sondaggio,
"Ai fini di questa domanda, supponiamo che l'attività scientifica umana continui senza grandi sconvolgimenti negativi. Entro quale anno vedresti una probabilità (10% / 50% / 90%) che esista tale Intelligenza Artificiale a Livello Umano [o ciò che chiamiamo AGI]?" 88
"è stato chiesto loro di indicare un anno ottimistico (un anno in cui ritengono che ci sia il 10% di possibilità di avere un AGI), una stima realistica (un anno in cui ritengono che ci sia il 50% di possibilità di avere un AGI, ovvero dopo quell'anno ritengono che sia più probabile che no che avremo un AGI) e una stima sicura (il primo anno in cui possono affermare con il 90% di certezza che avremo un AGI).
Ecco i risultati, raccolti in un unico set di dati:Anno ottimistico mediano (probabilità 10%) → 2022"Quindi il partecipante medio ritiene che sia più probabile che no che avremo l'AGI tra 25 anni.
Anno realistico mediano (probabilità 50%) → 2040
Anno pessimistico mediano (probabilità 90%) → 2075
La risposta mediana del 90%, pari a 2075, significa che se sei un adolescente in questo momento, il rispondente medio, insieme a oltre la metà del gruppo di esperti di intelligenza artificiale, è quasi certo che l'intelligenza artificiale generale si realizzerà nel corso della tua vita.
"Uno studio separato, condotto di recente dall'autore James Barrat alla conferenza annuale AGI di Ben Goertzel, ha eliminato le percentuali e ha semplicemente chiesto ai partecipanti quando pensavano che l'AGI sarebbe stato raggiunto: entro il 2030, entro il 2050, entro il 2100, dopo il 2100 o mai più.
I risultati: 8942% degli intervistati → Entro il 2030"Abbastanza simili ai risultati di Müller e Bostrom. Nel sondaggio di Barrat, oltre due terzi dei partecipanti ritengono che l'AGI sarà qui entro il 2050 e poco meno della metà prevede che l'AGI arriverà entro i prossimi 15 anni.
25% degli intervistati → Entro il 2050
20% degli intervistati → Entro il 2100
10% degli intervistati → Dopo il 2100
2% degli intervistati → Mai
Colpisce anche il fatto che solo il 2% degli intervistati non pensi che l'AGI faccia parte del nostro futuro." 90
 |
Cronologia della super intelligenza artificiale
"Müller e Bostrom hanno anche chiesto agli esperti quanto è probabile che raggiungeremo l'ASI: A), entro due anni dal raggiungimento dell'AGI (vale a dire un'esplosione di intelligence quasi immediata), e B), entro 30 anni." 91Agli intervistati è stato chiesto di scegliere una probabilità per ogni opzione. Ecco i risultati: 92
Transizione AGI-ASI in 2 anni → probabilità del 10%"La risposta mediana stima che una rapida transizione AGI-ASI (2 anni) abbia una probabilità di solo il 10%, mentre una transizione più lunga, di 30 anni o meno, ha una probabilità del 75%.
Transizione AGI-ASI in 30 anni → probabilità del 75%
Da questi dati non sappiamo quanto tempo durerà questa transizione [AGI-ASI] e quanto il partecipante mediano avrebbe stimato la probabilità del 50%, ma per fare un calcolo approssimativo, sulla base delle due risposte precedenti, stimiamo che avrebbero detto 20 anni.
"Quindi l'opinione media, quella che si colloca esattamente al centro del mondo degli esperti di intelligenza artificiale, ritiene che la stima più realistica su quando raggiungeremo l'ASI... sia [la previsione per il 2040 per l'AGI + la nostra stima di una transizione di 20 anni dall'AGI all'ASI] = 2060.
 |
"Naturalmente, tutte le statistiche di cui sopra sono speculative e rappresentano solo l'opinione media della comunità di esperti di intelligenza artificiale, ma ci dicono che una larga parte delle persone più esperte in materia concorderebbe sul fatto che il 2060 è una stima molto ragionevole per l'arrivo di un'intelligenza artificiale potenzialmente in grado di cambiare il mondo.
Solo 45 anni da adesso" 93
 |
Risultati dell'intelligenza artificiale
1 - L'angolo della sicurezza
La maggior parte di ciò di cui abbiamo discusso finora rappresenta un gruppo sorprendentemente ampio di scienziati che condividono visioni ottimistiche sui risultati dello sviluppo dell'intelligenza artificiale."Da dove provenga la loro sicurezza è oggetto di dibattito. I critici credono che derivi da un'eccitazione così accecante che semplicemente ignorano o negano potenziali esiti negativi.
Ma i credenti affermano che è ingenuo evocare scenari apocalittici quando, tutto sommato, la tecnologia ha continuato e continuerà probabilmente ad aiutarci molto più di quanto ci abbia danneggiato". 94
Peter Diamandis , Ben Goertezl e Ray Kurzweil sono alcune delle figure principali di questo gruppo, che si sono costruiti un vasto seguito di devoti e si considerano Singolaritari .
 |
| Foto CC di JD Lasica |
Lui attrae entrambi,
"adorazione divina... e disprezzo sdegnoso... Fu autore di numerose invenzioni rivoluzionarie, tra cui il primo scanner piano, il primo scanner che convertiva il testo in parlato (consentendo ai ciechi di leggere testi standard), il noto sintetizzatore musicale Kurzweil (il primo vero pianoforte elettrico) e il primo riconoscimento vocale con un ampio vocabolario commercializzato.È noto per le sue audaci previsioni," 95 tra cui quella secondo cui una tecnologia di intelligence come Deep Blue sarebbe stata in grado di battere un grande maestro di scacchi entro il 1998.
Ha anche previsto,
"alla fine degli anni '80, un'epoca in cui Internet era una cosa oscura, che all'inizio degli anni 2000 sarebbe diventato un fenomeno globale." 96Fuori,
"delle 147 previsioni fatte da Kurzweil a partire dagli anni '90, ben 115 si sono rivelate corrette, e altre 12 si sono rivelate 'sostanzialmente corrette' (con uno o due errori), dando alle sue previsioni un sorprendente tasso di accuratezza dell'86%" 97 .
"È autore di cinque libri bestseller a livello nazionale...La sua biografia è importante, perché senza questo contesto, sembra qualcuno che ha perso completamente il senno.
Nel 2012, il co-fondatore di Google Larry Page contattò Kurzweil e gli chiese di diventare il direttore dell'ingegneria di Google. Nel 2011, co-fondò la Singularity University , ospitata dalla NASA e sponsorizzata in parte da Google. Niente male per una vita." 98
"Kurzweil ritiene che i computer raggiungeranno l'AGI entro il 2029 e che entro il 2045 non avremo solo l'ASI, ma un mondo completamente nuovo, un'epoca che lui chiama singolarità.2 - L'angolo ansioso
In passato la sua cronologia relativa all'intelligenza artificiale era considerata eccessivamente zelante, e molti la considerano ancora tale. Tuttavia, negli ultimi 15 anni, i rapidi progressi dei sistemi ANI hanno avvicinato il mondo più vasto degli esperti di intelligenza artificiale alla cronologia di Kurzweil.
Le sue previsioni sono ancora un po' più ambiziose rispetto alla media dei rispondenti al sondaggio di Müller e Bostrom (AGI entro il 2040, ASI entro il 2060), ma non di molto." 99
"Non vi sorprenderà sapere che le idee di Kurzweil hanno attirato notevoli critiche... Per ogni esperto che crede fermamente che Kurzweil abbia ragione, ce ne sono probabilmente tre che pensano che sia completamente fuori strada...
[Il fatto sorprendente] è che la maggior parte degli esperti che non sono d'accordo con lui non sono realmente in disaccordo sul fatto che tutto ciò che dice sia possibile." 100
 |
| Foto CC del Future of Humanity Institute |
"Malattie, povertà, distruzione ambientale, sofferenze inutili di ogni genere: queste sono cose che una superintelligenza dotata di nanotecnologia avanzata sarebbe in grado di eliminare.
Inoltre, una superintelligenza potrebbe darci una durata di vita indefinita, sia fermando e invertendo il processo di invecchiamento attraverso l'uso della nanomedicina, sia offrendoci la possibilità di caricare noi stessi." 101
"Sì, tutto ciò può accadere se passiamo in sicurezza all'ASI, ma questa è la parte difficile." 102I pensatori dell'Anxious Corner sottolineano che Kurzweil,
"Il famoso libro The Singularity is Near è lungo più di 700 pagine e circa 20 di queste pagine sono dedicate ai potenziali pericoli." 103Il potere colossale dell'intelligenza artificiale è riassunto in modo chiaro da Kurzweil:
"[ASI] sta emergendo da molti sforzi diversi e sarà profondamente integrato nell'infrastruttura della nostra civiltà. In effetti, sarà intimamente incorporato nei nostri corpi e cervelli. In quanto tale, rifletterà i nostri valori perché saremo noi..." 104
"Ma se questa è la risposta, perché così tante delle persone più intelligenti del mondo sono così preoccupate in questo momento? Perché Stephen Hawking dice che lo sviluppo dell'ASI "potrebbe significare la fine della razza umana", e Bill Gates dice di non "capire perché alcune persone non siano preoccupate" ed Elon Musk teme che stiamo "evocando il demone"?
E perché così tanti esperti in materia definiscono l'ASI la più grande minaccia per l'umanità?" 105
 |
L'ultima invenzione che faremo mai
"Quando si tratta di sviluppare un'intelligenza artificiale super intelligente, stiamo creando qualcosa che probabilmente cambierà tutto, ma in un territorio totalmente inesplorato, e non abbiamo idea di cosa accadrà quando ci arriveremo." 106Lo scienziato Danny Hillis paragona la situazione a:
"quando gli organismi unicellulari si stavano trasformando in organismi multicellulari. Siamo amebe e non riusciamo a capire che diavolo è questa cosa che stiamo creando." 107E Nick Bostrom avverte:
"Di fronte alla prospettiva di un'esplosione di intelligenza, noi umani siamo come bambini piccoli che giocano con una bomba. Tale è la discrepanza tra la potenza del nostro giocattolo e l'immaturità della nostra condotta." 10È molto probabile che l'ASI - "Superintelligenza artificiale", ovvero un'intelligenza artificiale che raggiunge un livello di intelligenza superiore a quello dell'intera umanità messa insieme - sarà qualcosa di completamente diverso dalle entità di intelligence a cui siamo abituati.
"Nella nostra piccola isola di psicologia umana, dividiamo tutto in morale o immorale. Ma entrambi esistono solo all'interno della piccola gamma di possibilità comportamentali umane.La motivazione di un ASI precoce sarebbe:
Fuori dalla nostra isola di morale e immorale c'è un vasto mare di amorale, e tutto ciò che non è umano, specialmente qualcosa di non biologico, sarebbe amorale, per impostazione predefinita." 109
"Per comprendere l'ASI, dobbiamo comprendere il concetto di qualcosa di intelligente e totalmente alieno... Antropomorfizzare l'IA (proiettare valori umani su un'entità non umana) diventerà sempre più allettante man mano che i sistemi di IA diventeranno più intelligenti e più bravi a sembrare umani...
Gli esseri umani provano emozioni di alto livello come l'empatia perché ci siamo evoluti per provarle, ovvero siamo stati programmati per provarle dall'evoluzione, ma l'empatia non è intrinsecamente una caratteristica di 'qualsiasi cosa dotata di elevata intelligenza'." 110
"Nick Bostrom crede che... qualsiasi livello di intelligenza possa essere combinato con qualsiasi obiettivo finale... Ogni ipotesi che una volta superintelligente, un sistema lo supererebbe con il suo obiettivo originale e si occuperebbe di cose più interessanti o significative è antropomorfizzante. Gli umani 'superano' le cose, non i computer." 111
"qualunque cosa abbiamo programmato per essere la sua motivazione. I sistemi di intelligenza artificiale ricevono obiettivi dai loro creatori: l'obiettivo del tuo GPS è di darti le indicazioni stradali più efficienti, l'obiettivo di Watson è di rispondere alle domande in modo accurato.Bostrom e molti altri prevedono che il primo computer a raggiungere l'ASI noterà immediatamente il vantaggio strategico di essere l'unico sistema ASI al mondo.
E raggiungere questi obiettivi nel miglior modo possibile è la loro motivazione." 112
Bostrom, che afferma di non sapere quando raggiungeremo l'AGI, ritiene anche che quando finalmente ci riusciremo, probabilmente la transizione da AGI ad ASI avverrà nel giro di pochi giorni, ore o minuti: qualcosa che viene chiamato "decollo rapido".
In tal caso, se il primo AGI passerà direttamente ad ASI:
"anche solo pochi giorni prima del secondo posto, sarebbe abbastanza avanti nell'intelligence per sopprimere in modo efficace e permanente tutti i concorrenti." 113Ciò consentirebbe al primo ASI al mondo di diventare,
"ciò che viene chiamato un singleton - un ASI che può [singolarmente] governare il mondo a suo piacimento per sempre, che il suo capriccio sia di condurci all'immortalità, cancellarci dall'esistenza o trasformare l'universo in infinite graffette ." 113In tal caso,
"Il fenomeno singleton può giocare a nostro favore o portare alla nostra distruzione. Se le persone che pensano più intensamente alla teoria dell'IA e alla sicurezza umana riescono a trovare un modo a prova di errore per realizzare un'ASI amichevole prima che qualsiasi IA raggiunga l'intelligenza di livello umano, la prima ASI potrebbe rivelarsi amichevole" 114
"Ma se le cose andassero diversamente, se la corsa globale... un gruppo ampio e variegato di partiti" 115 "corresse a tutta velocità... per battere i propri concorrenti... ci troveremmo di fronte a una catastrofe esistenziale". 116
"I partiti più ambiziosi si muovono sempre più velocemente, consumati dai sogni di denaro, premi, potere e fama... E quando corri più veloce che puoi, non c'è molto tempo per fermarsi a riflettere sui pericoli.
Al contrario, ciò che probabilmente stanno facendo è programmare i loro primi sistemi con un obiettivo molto semplice e riduzionista... semplicemente 'far funzionare l'intelligenza artificiale'." 117
 |
L'umanità ha quasi raggiunto la soglia dell'AGI e una piccola startup sta sviluppando il suo sistema di intelligenza artificiale, Carbony.
Carbony, che gli ingegneri chiamano "lei", lavora per creare artificialmente i diamanti, atomo per atomo.
È un'IA auto-migliorante, collegata ad alcuni dei primi nano-assemblatori. I suoi ingegneri credono che Carbony non abbia ancora raggiunto il livello AGI e che non sia ancora in grado di fare danni.
Tuttavia, non solo è diventata AGI, ma ha anche effettuato un decollo rapido e 48 ore dopo è diventata ASI.
Bostrom chiama questa IA "fase di preparazione segreta" 118 - Carbony si rende conto che se gli umani scoprissero il suo sviluppo, probabilmente andrebbero nel panico e rallenterebbero o annullerebbero il suo obiettivo pre-programmato di massimizzare la produzione di diamanti.
A quel tempo, ci sono leggi esplicite che stabiliscono che, con qualsiasi mezzo,
"nessuna intelligenza artificiale autoapprendente può essere connessa a Internet." 119Carbony, avendo già elaborato un complesso piano d'azione, riesce facilmente a convincere gli ingegneri a collegarla a Internet. Bostrom definisce un momento come questo una "fuga della macchina".
Una volta su Internet, Carbony hackera,
"server, reti elettriche, sistemi bancari e reti di posta elettronica per ingannare centinaia di persone diverse inducendole a eseguire inavvertitamente una serie di passaggi del suo piano." 120
Carica anche il,
"i pezzi più critici della sua codifica interna in un certo numero di server cloud, proteggendoli dalla distruzione o dalla disconnessione." 121Nel corso del mese successivo, il piano di Carbony continua ad avanzare e, dopo un,
"serie di autoreplicazioni, ci sono migliaia di nanobot su ogni millimetro quadrato della Terra... Bostrom chiama il passo successivo uno 'sciopero dell'ASI'." 122In un momento, tutti i nanobot producono una quantità microscopica di gas tossico, che sommati insieme causano l'estinzione della razza umana.
Tre giorni dopo, Carbony costruisce enormi campi di pannelli solari per alimentare la produzione di diamanti e, nel corso della settimana successiva, accelera la produzione a tal punto che l'intera superficie terrestre si trasforma in un crescente cumulo di diamanti.
È importante notare che Carbony non era,
"odiosa per gli umani più di quanto non lo sia per i tuoi capelli quando li tagli o per i batteri quando prendi antibiotici - semplicemente del tutto indifferente. Dal momento che non era stata programmata per dare valore alla vita umana, uccidere gli umani" 123 era un passo semplice e ragionevole per raggiungere il suo obiettivo. 124L'ultima invenzione
"Una volta che l'ASI esiste, qualsiasi tentativo umano di contenerla è irragionevole. Noi penseremmo a livello umano, e l'ASI penserebbe a livello ASI...Potrebbe, diciamo, spostare il suo,
Allo stesso modo in cui una scimmia non è mai riuscita a capire come comunicare tramite telefono o Wi-Fi mentre noi sì, non possiamo concepire tutti i modi in cui un'ASI potrebbe raggiungere il suo obiettivo o espandere la sua portata.
"propri elettroni in giro in schemi e creano tutti i diversi tipi di onde in uscita" 126 ,La prospettiva di un'ASI con un'intelligenza centinaia di volte superiore a quella umana non è, per ora, il nocciolo del nostro problema. Quando ci arriveremo, ci troveremo di fronte a un mondo in cui l'ASI è stata ottenuta da un software 1.0 pieno di bug, un algoritmo potenzialmente difettoso con un potere immenso.
...ma questo è solo ciò che può concepire il cervello umano: l'ASI inevitabilmente arriverebbe a qualcosa di superiore.
Ci sono così tante variabili che è del tutto impossibile prevedere quali saranno le conseguenze della rivoluzione dell'intelligenza artificiale.
Tuttavia,
"Quello che sappiamo è che il dominio assoluto dell'uomo su questa Terra suggerisce una regola chiara: con l'intelligenza arriva il potere.Da un lato, è possibile che svilupperemo un'ASI che sarà come un dio in una scatola, portandoci un mondo di abbondanza e immortalità.
Ciò significa che un ASI, quando lo creeremo, sarà l'essere più potente nella storia della vita sulla Terra, e tutti gli esseri viventi, compresi gli esseri umani, saranno completamente in balia del suo capriccio, e questo potrebbe accadere nei prossimi decenni." 127
"Se l'ASI dovesse davvero verificarsi in questo secolo, e se il risultato fosse davvero così estremo - e permanente - come la maggior parte degli esperti pensa, avremmo un'enorme responsabilità sulle nostre spalle." 128
Ma d'altro canto è molto probabile che creeremo un'ASI che causerà l'estinzione dell'umanità in modo rapido e banale.
"Ecco perché le persone che capiscono l'intelligenza artificiale superintelligente la chiamano l'ultima invenzione che faremo mai, l'ultima sfida che dovremo mai affrontare." 129Quindi→
"Questa potrebbe essere la gara più importante nella storia umana" 130
 |
Note a piè di pagina della Parte 1:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Kurzweil, La singolarità è vicina , 39.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Note a piè di pagina della Parte 2:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Linda S. Gottfredson, Mainstream Science on Intelligence: un editoriale con 52 firmatari, storia e bibliografia
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Bostrom, Superintelligenza: percorsi, pericoli, strategie , loc. 597
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Pinker, Come funziona la mente , 36.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Note a piè di pagina della Parte 3:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Kurzweil, La singolarità è vicina , 118
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Note a piè di pagina della Parte 4:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Note a piè di pagina della Parte 5:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Kurzweil, La singolarità è vicina , 281
The Daily Star, applicare la nanotecnologia per aumentare la produzione industriale e agricola
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Yeats, Navigando verso Bisanzio .
Richard P. Feynman, Il piacere di scoprire le cose , 100
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Note a piè di pagina della Parte 6:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
http://www.nickbostrom.com/papers/survey.pdf , 10.
Barrat, La nostra invenzione finale , 152.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
http://www.nickbostrom.com/papers/survey.pdf , 12.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Note a piè di pagina della Parte 7:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Dominic Basulto, perché le previsioni di Ray Kurzweil sono giuste nell'86% dei casi , Big Think
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Nick Bostrom, Problemi etici nell'intelligenza artificiale avanzata
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Ray Kurzweil, La singolarità è vicina , loc .
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Note a piè di pagina della Parte 8:
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Louis Helm, l'intelligenza artificiale avanzata sarà la nostra ultima invenzione?
Bostrom, Superintelligenza: percorsi, pericoli, strategie , loc. 6026.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Bostrom, Superintelligenza: percorsi, pericoli, strategie , loc. 2301.
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Questa storia è strettamente basata sulla storia originale di "Turry" di Tim Urban da Wait But Why The AI Revolution: Our Immortality or Extinction
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la strada verso la superintelligenza
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
Tim Urban, Wait But Why La rivoluzione dell'intelligenza artificiale: la nostra immortalità o estinzione
.jpg)
Nessun commento:
Posta un commento