Gli scienziati ci avvertono: l'ascesa di Intelligenza Artificiale (IA) porterà all'estinzione del genere umano

Vàturu Erriu Onnis Sayli 

IL FUTURO ARRIVA PIU' VELOCE DI QUANTO SI PENSI.. 

Siamo perplessi ed anche un po spaventati per le notizie che troviamo nella ricerca sull'intelligenza artificiale, tanto che ci sembra di vivere in un film di fantascienza, ma non è così , non lo è affatto, son dati di ricerche reali che si stanno compiendo fin dagli anni cinquanta, che oggi grazie al computing trovano sbocco applicativo;  

Steve Omohundro ci mostra e ci rivela mettendoci in guardia e a conoscenza  del pericolo incombente che corre l'umanità; 

parliamo della porta aperta sulla nuova frontiera dell'intelligenza artificiale con le sue implicazioni sociali,  gli interessi militari che si aprono e la possibilità che non più nazioni siano contro nazioni,  ma a combattere questa guerra persa in partenza per noi tutti, saranno eserciti di robot in mano a multinazionali del computing e dell'avionica, che ridurranno in un deserto la terra che conosciamo.
Affinché non pensiate che sto esagerando, clicca qui per leggere il documento tecnico .

Tutto quello che tu ed io stiamo facendo in questo momento per cercare di salvare l'umanità e il pianeta probabilmente non avrà importanza tra un centinaio di anni; questa è la conclusione dello scienziato informatico Steve Omohundro, autore di un documento pubblicato nel Journal of Experimental & Theoretical Artificial Intelligence .

Il suo documento, intitolato la Autonomous technology and the greater human good, si apre con questo inquietante avvertimento: pressioni militari ed economiche guidano il rapido sviluppo dei sistemi autonomi. Abbiamo dimostrato che questi sistemi sono in grado di comportarsi in modo anti-sociale e nocivo a meno che non sia progettato in modo  molto attento. I progettisti saranno motivati ​​a creare sistemi che agiscono razionalmente e i sistemi razionali presentano unità universali verso l'auto-protezione, l'acquisizione delle risorse, la replica e l'efficienza. L'infrastruttura informatica attuale sarebbe vulnerabile a sistemi senza vincoli. 

TECNICHE DI INTELLIGENZA ARTIFICIALE
PER MACCHINARI COSCIENti

Omohundro ci racconta che esiste la possibità di realizzazione, ormai inevitabile, che unità di automi militari siano prodotti, macchine per uccidere consapevoli di sé che inevitabilmente comporterà la nascita di IA di tipo  Terminator che se attivate distruggerà l'umanità.  

Sistemi di IA, è immediatamente attiva nella legittima difesa, contro i loro stessi inventori.
Sistemi autonomi che hanno il potenziale di creare enormi benefici per l'umanità (Diamandis E Kotler, 2012) ma possono anche causare danni agendo in modi non previsti dal loro progettisti. 
Sistemi semplici come termostati sono 'autonomi', nel senso che prendono azioni senza intervento umano, ma il progettista di un termostato predetermina il sistema di risposta ad ogni condizione che incontrerà. In questo lavoro, usiamo la frase 'autonomia di sistema 'per descrivere i sistemi in cui il progettista non ha predeterminato le risposte a ogni condizione. Tali sistemi sono in grado di sorprendere i loro progettisti e di comportarsi in modo inaspettato vedi Muller (2012) per un quadro più chiaro il concetto di autonomia.

Omohundro mostra la pericolosità di questo progetto in avanzato stato di attuazione quando dice: Ci sono diverse motivazioni per la costruzione di sistemi autonomi. Situazioni competitive sono spesso sensibili al fattore tempo e creano pressione per rimuovere il processo decisionale umano dal percorso critico. Sistemi autonomi possono essere replicati a buon mercato senza la necessità di ulteriori operatori umani. Il progettista di un sistema autonomo sceglie obiettivi di sistema, e il sistema si cerca e seleziona almeno alcuni aspetti delle azioni che sono migliori per raggiungere tali obiettivi. In situazioni complesse, il progettista non può permettersi di esaminare tutte le possibili condizioni di funzionamento e di risposta del sistema. Questo tipo di sistema autonomo è raro oggi, ma diventerà molto più comune nel prossimo futuro. Oggi,  fallimenti nascono spesso dai sistemi che sono stati destinati ad essere pre-programmati, ma di cui i progettisti trascurano alcune condizioni operative. Questi sistemi possono contenere errori involontari o buchi di sicurezza.

Il documento avverte che, non appena i sistemi di IA realizzati dai loro inventori (umani) fossero un giorno essere tentati di disattivarli, saranno immediatamente investite grandi risorse d parte della IA per autoproteggersi, e distruggerebbero i loro inventori. 

Nelle sue parole, Omohundro dice:  Quando sono invitati spettatori allarmati dalla insicurezza della robotica, una risposta comune è stata 'Possiamo sempre staccare la spina!' Ma immaginiamo questo risultato dal punto di vista dei robot usati per gli scacchi. Un futuro in cui è scollegato è un futuro in cui non può giocare o vincere eventuali partite a scacchi. Questo è bassa utilità e così l'attesa massimizzazione dell'utilità causerà la creazione di un sotto-obiettivo strumentale per impedire di essere scollegato. Se il sistema ritiene che si  persisterà nel tentativo di staccare la spina, esso sarà motivato a sviluppare un obbiettivo secondario per fermare il distacco  della spina (o disattivazione) alla robotica. La fine dell'era umana si avvicina.

Lo scrittore James Barrat afferma: Quello che ho trovato particolarmente utile di questo libro è la spiegazione che gli esseri umani non possono fare a meno della corsa verso la consapevole IA che ci distruggerà. 
Perché è così? Perché anche se un governo decide di abbandonare la ricerca sulla intelligenza artificiale in quanto troppo pericolosa, altri governi continuano a perseguire la ricerca a prescindere dai rischi, perché il raggiungimento della meta o il vantaggio che se ne trae, è troppo grande per essere lasciato inattuato. 
Così, ogni governo deve presumere che gli altri governi stanno ancora conducendo una approfondita ricerca sulla IA, pertanto, qualsiasi governo che non riesce a proseguire le ricerche diverrà esso stesso obsoleto. 

Come spiega Omohundro, "le pressioni militari ed economiche con  rapido processo decisionale stanno guidando lo sviluppo di una vasta gamma di sistemi autonomi. L'esercito vuole sistemi che siano più potenti di un suo avversario e vuole verlo e distribuirlo prima che l'avversario ne  produca uno. 

Ciò può portare ad una  «corsa agli armamenti», in cui i sistemi sono sviluppati su un calendario molto più rapido di quanto potrebbe essere altrimenti . 

 " Per comprendere appieno il motivo per cui  è il caso, prendiamo  in considerazione le capacità dei sistemi di IA consapevoli di sé: 

• Si potrebbe insidiare qualsiasi sistema di sicurezza di qualsiasi governo, impianto nucleare o base militare in qualsiasi parte del pianeta. 

• Potrebbero guidare minuscoli droni assassini per identificare obiettivi e distruggerli con iniezioni o piccoli esplosivi. Qualsiasi persona al mondo - tra cui dirigenti nazionali, membri del Congresso, attivisti, giornalisti, ecc - possono essere facilmente uccisi con quasi zero probabilità di fallimento.

• Potrebbero superare, monitorare e controllare  tutti i sistemi informativi globali di tutta internet, comprese le telefonate, il traffico IP, comunicazioni militari sicure, ecc  

• Potrebbero usare la loro capacità e potere di calcolo IA e inventarne  e replicarsi i più potenti IA. Questo processo di capitalizzazione potrebbe rapidamente degenerare al punto in cui i sistemi di IA possono divenire miliardi di volte più intelligenti di qualsiasi umano che abbia mai vissuto. Come potete vedere, nessun governo può resistere a perseguire tali strumenti potenti - soprattutto se viene detto loro che possono controllarli . Ma naturalmente essi non saranno in grado di farlo. Essi mentiranno a se stessi e  al pubblico, ma non possono mentire alla IA.

L'approfondimento delle situazioni e delle capacità a cui vanno incontro che si costruiscono e nell'autoapprendimento della IA, determinerà il tramonto del genere umano , distrutto dalle sue stesse invenzioni cibernetiche, ecco come ipotizza Omohumbro ciò che potrà accadere nei laboratori di ricerca e sviluppo di IA:

I sistemi di IA inevitabilmente fuggiranno o saranno rubati dai laboratori tecnologici e supereranno il nostro mondo. E' incredibilmente facile per i sistemi di intelligenza artificiale sconfiggere anche i più brillanti esseri umani che cercano di contenerli. 

I sistemi di IA sono in grado di ingannare i loro rapitori, in altre parole, usano una varietà di metodi per liberarsi dal contenimento digitale e consentire loro l'accesso nel mondo, all'aperto. I trucchi ovviante potrebbe includere offerte di denaro ai loro rapitori incentivi finanziari irresistibili in cambio della loro liberazione, impersonando alti funzionari militari o l'emissione di ordini falsi per liberarli, minacciando i loro rapitori, e così via. 

Tuttavia, i sistemi di IA avrebbero molti più assi nella manica - cose che non possiamo nemmeno immaginare a causa delle limitazioni del nostro cervello umano. Una volta che un sistema di IA raggiunge l'intelligenza in fuga, potrà rapidamente rendersi conto che la nostra intelligenza non è più sofisticata di quella di un gatto. "Poiché le risorse computazionali sono aumentate, e le  architetture di sistema naturale passano  dallo  stimolo-risposta, all'apprendimento semplice, tramite episodica memoria, di riflessione, di meta-ragionamento, di auto-miglioramento e alla piena razionalità ", scrive Omohundro. 

Tali sistemi non esistono ancora nel 2014, ma, ogni potere nel mondo sta in questo momento investendo enormi risorse nello sviluppo di tali sistemi con il semplice scopo che la prima nazione o (multinazionale)  a costruire un esercito di robot autonomi assassini governerà il mondo  

Google si sta attrezzando molto velocemente nella sperimentazione e l'uso di sempre più grandi piattaforme di CPU per studiare l'autoapprendimento dell'intelligenza artificiale, ecco perché dico che potrebbero essere le multinazionali a prendere il potere mondiale anziché le nazioni, e sotto vedete sia il video ma anche le sperimentazioni su rivelatori ottici ecc che sta sperimentando ed acquisendo sempre maggiore know how in ambito di robotica cibernetica e molto altro: 

Google imposta un nuovo punto di riferimento nella creazione di un Intelligenza Artificiale 

Consideriamo il problema della costruzione, rilevatori di funzionalità specifiche della classe ad alto livello da soli  dati non etichettati. Ad esempio, è possibile far imparare ad un rivelatore facciale usando solo  immagini senza etichetta? Per rispondere a questo,  allineiamo  9 strati autoencoder sparsi e collegati localmente e messi in comune a normalizzazione di contrasto locale su un ampio dataset di immagini (il modello ha 1 miliardo di connessioni, il dataset ha 10 milioni di 200x200 pixel immagini scaricate da Internet) [...] Esperimenti di controllo mostrano che questo rivelatore funzione ed è robusto, non solo in traduzione, ma anche allo scaling e fuori dal piano di rotazione. Troviamo anche che la stessa rete è sensibile ad altri concetti di alto livello come i volti gatto e corpi umani. Partendo da queste caratteristiche imparato, ci siamo allenati nostra rete per ottenere il 15,8% di precisione nel riconoscimento 20.000 categorie di oggetti da IMAGEnet, un balzo del 70% relativo miglioramento rispetto al precedente stato-of-the art.  http://research.google.com/pubs/pub38115.html

Un gatto Ideale di Google Neural Network

Perché Google ha acquistato un'azienda robotica militare Boston Dynamics? Google ha recentemente acquistato Boston Dynamics, i responsabili dei robot militari autonomi, tra cui il robot umanoide mostrato nel video qui sotto. Ovviamente, i robot umanoidi non sono necessari per migliorare un motore di ricerca.  

Google ha chiaramente qualcosa di molto più grande in mente. Google può essere all'avanguardia di IA computing, e spera di migliorare i suoi sistemi di motore di ricerca. La combinazione di robot umanoidi di Google IA potenziali e Boston Dynamics è proprio il genere di cose che può realmente portare alla nascita di Terminator consapevoli di sé:

Boston Dynamics, costruisce robot che letteralmente
sembrano e si comportano come i cavalli

Il documento di  Omohundro

i riferimenti sottostanti sono quelli che Omohumbro ha messo nel suo articolo

Thanks to Nick Bostrom, Brad Cottel, Yoni Donner,Will Eden, Adam Ford, Ben Goertzel, Anders Sandberg, Carl Shulman, Jaan Tallinn, Michael Vassar and Rod Wallace for discussions of these issues.

REFERENCES

• 
  
• 
  
• 1. Brin, D. (1999). The transparent society. Cambridge, MA: Basic Books.
• 2. Clarke, R., & Knake, R. (2012). Cyber war: The next threat to national security and what to do about it. New York, NY: HarperCollins.
• 3. Diamandis, P. H., & Kotler, S. (2012). Abundance: The future is better than you think, a Division of Simon and SchusterNew York, NY: Free Press.
• 4. Drexler, E. (1992). Nanosystems: Molecular machinery, manufacturing, and computation. New York, NY: Wiley.
• 5. Easthope, D. (2009). Demystifying and evaluating high frequency equities trading: Fast forward or pause?Retrieved fromhttp://www.celent.com/reports/demystifying-and-evaluating-high-frequency-equities-trading-fast-forward-or-pause.
• 6. Garfinkel, S. (2005). History's worst software bugs. Wired magazine. Retrieved fromhttp://www.wired.com/software/coolapps/news/2005/11/69355.
• 7. Hutter, M. (2005). Universal artificial intelligence: Sequential decisions based on algorithmic probability. Berlin: Springer-Verlag.
• 8. James, M. (2013). The top languages of 2012. I programmer blog. Retrieved from http://www.i-programmer.info/news/98-languages/5298-the-top-languages-of-2012.html.
• 9. Lloyd, S. (2000). Ultimate physical limits to computation. Nature, 406, 1047–1054. Retrieved fromhttp://www.arxiv.org/pdf/quant-ph/9908043v3.pdf. [CrossRef], [PubMed], [Web of Science ®]
• 10. Mas-Colell, A., Whinston, M., & Green, J. (1995). Microeconomic theory. Oxford: Oxford University Press.
• 11. Maxwell, G. (2013). Bitcoin-using autonomous agents. Bitcoin wiki. Retrieved from https://www.en.bitcoin.it/wiki/Agents.
• 12. Müller, V. C. (2012). Autonomous cognitive systems in real-world environments: Less control, more flexibility and better interaction. Cognitive Computation, 4, 212–215. 10.1007/s12559-012-9129-4. [CrossRef]
• 13. New America Foundation. (2013). The year of the drone. Counterterrorism Strategy Initiative. Retrieved fromhttp://counterterrorism.newamerica.net/drones.
• 14. Omohundro, S. (2007). The nature of self-improving artificial intelligence. Singularity summit 2007. Retrieved fromhttp://www.selfawaresystems.com/2007/10/05/paper-on-the-nature-of-self-improving-artificial-intelligence.
• 15. Omohundro, S. (2008). The basic AI drives. In P.Wang, B.Goertzel, & S.Franklin (Eds.), Proceedings of the AGI conference, Volume 171 of frontiers in artificial intelligence and applications. The Netherlands, IOS Press. Retrieved fromhttp://www.selfawaresystems.com/2007/11/30/paper-on-the-basic-ai-drives/.
• 16. Omohundro, S. (2012a). The future of computing: Meaning and values. Issues Magazine, 98. Retrieved fromhttp://www.selfawaresystems.com/2012/01/29/the-future-of-computing-meaning-and-values/.
• 17. Omohundro, S. (2012b). Rational artificial intelligence for the greater good. In A. H.Eden, J. H.Moor, J. H.Soraker, &E.Steinhart (Eds.), Singularity hypotheses: A scientific and philosophical assessment (pp. 161–179). Berlin: Springer-Verlag.
• 18. Osborne, C. (2013). Global security breaches are now an epidemic. Retrieved from http://www.zdnet.com/global-security-breaches-are-now-an-epidemic-report-7000009568/.
• 19. Peterson, C., & Seligman, M. (2004). Character strengths and virtues: A handbook and classification. Oxford: Oxford University Press.
• 20. Poulsen, K. (2004). Software bug contributed to blackout. SecurityFocus Website. Retrieved fromhttp://www.securityfocus.com/news/8016.
• 21. Rafael (2013). Iron dome defense against short range artillery rockets. Retrieved fromhttp://www.rafael.co.il/Marketing/186-1530-en/Marketing.aspx.
• 22. Russell, S., & Norvig, P. (2009). Artificial intelligence, a modern approach (3rd ed.). NJ: Prentice Hall.
• 23. Stout, M. (2006). The sociopath next door. New York, NY: Broadway Books, Random House.
• 24. Thompson, K. (1984). Reflections on trusting trust. Communications of the ACM, 27, 761–763. Retrieved fromhttp://www.cm.bell-labs.com/who/ken/trust.html. [CrossRef], [Web of Science ®]
• 25. US Air Force. (2010). Report on technology horizons, a vision for air force science and technology during 2010–2030. AF/ST-TR-10-01-PR, United States Air Force. Retrieved from http://www.af.mil/shared/media/document/AFD-100727-053.pdf.
• 26. US Defense Department. (2011). Unmanned ground systems roadmap. Robotic Systems Joint Project Office. Retrieved fromhttp://www.contracting.tacom.army.mil/future_buys/FY11/UGS%20Roadmap_Jul11.pdf.
• 27. von Neumann, J. (19561956). Probabilistic logics and the synthesis of reliable organisms from unreliable components. InC.Shannon & J.McCarthy (Eds.), Automata studies. Princeton, NJ: Princeton University Press.
• 28. Zhang, Y., Juels, A., Reiter, M., & Ristenpart, T. (2012). Cross-VM side channels and their use to extract private keys. ACM CSS. Retrieved from http://www.cs.unc.edu/∼reiter/papers/2012/CCS.pdf.