sabato 5 agosto 2017

Facebook ha costretto la chiusura del sistema di Intelligenza Artificiale (AI) dopo aver scoperto comunicazioni in una lingua sconosciuta agli esseri umani




L’incidente evoca immagini dell’avvento di Skynet nella serie iconica di Terminator. Forse l’amministratore delegato di Tesla, Elon Musk, ha ragione a dire che l’AI potrebbe essere il “rischio più grande che dovremo affrontare“.

Facebook ha dovuto staccare la spina su un sistema di Intelligenza Artificiale (AI), su cui i suoi ricercatori stavano lavorando, perché le cose sembrano essergli sfuggite di mano.

L’AI non ha iniziato a bloccare i computer in tutto il mondo o qualcosa del genere, ma ha smesso di utilizzare l’inglese e ha iniziato a utilizzare una lingua che ha creato.


Bob: “Posso fare fare posso io tutto il resto“.

Alice: “Le Palle hanno per me a me a me a me a me a me a“.

I passaggi di cui sopra, che non hanno alcun senso per gli esseri umani, sono una conversazione avvenuta tra due agenti di AI sviluppati da Facebook.

Gli agenti dell’AI, creati per negoziare con gli esseri umani, prima parlavano in inglese, ma alla fine hanno creato una nuova lingua che solo i sistemi AI comprendevano.

Qual è il danno nel permettere agli agenti AI di comunicare tra loro in una lingua che hanno inventato?

Innanzitutto, con i sistemi AI che utilizzano la propria lingua, gli esseri umani non saranno in grado capire esattamente quello di cui gli agenti AI stanno parlando.

Gli esseri umani non sono in grado di capire come i sistemi AI complessi pensano a causa dei loro processi di pensiero nascosto, per cui la segretezza degli agenti AI peggiorerebbe se le loro conversazioni avvenissero in una lingua sconosciuta.

Se gli agenti AI sono autorizzati a parlare in una lingua che hanno creato, potrebbero non avere più bisogno di interventi umani.

Musk crede che la gente dovrebbe temere l’AI e ha chiesto ai governatori americani di mettere in atto dei regolamenti sul questa tecnologia


Ho a che fare con AI molto all’avanguardia e penso che la gente dovrebbe essere veramente preoccupata“, ha detto il CEO di Tesla all’inizio di questo mese alla riunione estiva dell’associazione National Governors Association Summer Meeting  a Rhode Island.

I sistemi AI possono fare una varietà di cose meglio degli esseri umani e, se non sono tenuti sotto controllo, potrebbero diventare qualcosa che ci può sostituire completamente“.
http://sadefenza.blogspot.com/2017/08/facebook-ha-costretto-la-chiusura-del.html


Reazioni:

0 commenti:

Subscribe to RSS Feed Follow me on Twitter!