Di Derek Knauss
prepareforchangeL'IA simile a Dio che potrebbe "distruggere la razza umana" è quasi qui e non abbiamo il controllo, avverte l'esperto di machine learning
Un esperto di intelligenza ARTIFICIALE ha avvertito che gli scienziati devono rallentare nella loro ricerca della super IA in quanto potrebbero creare accidentalmente una macchina "simile a un dio".
L'investitore di intelligenza artificiale Ian Hogarth ha espresso le sue preoccupazioni in un recente articolo di opinione sul Financial Times .
L'esperto avverte che potremmo essere lontani da un decennio a mezzo secolo dalla creazione di un'intelligenza generale artificiale (AGI).
AGI è il livello successivo di intelligenza artificiale che è intelligente quanto un essere umano medio e può imparare proprio come noi impariamo.
Hogarth ha spiegato: “Un acronimo di tre lettere non cattura l'enormità di ciò che AGI rappresenterebbe, quindi mi riferirò ad esso come ciò che è: IA divina.
Il problema principale di cui molti esperti sono preoccupati è che non sappiamo molto sull'AGI o su come lo controlleremo.
Hogarth ha scritto: "Se pensi che potremmo essere vicini a qualcosa di potenzialmente così pericoloso", ho detto al ricercatore, "non dovresti avvertire la gente di quello che sta succedendo?
Sente "rabbia" perché non si sta facendo abbastanza per considerare l'impatto negativo che l'IA potrebbe avere sul futuro.
"Sembrava profondamente sbagliato che decisioni consequenziali che potenzialmente influissero su ogni vita sulla Terra potessero essere prese da un piccolo gruppo di società private senza controllo democratico", ha scritto.
Tuttavia, Hogarth osserva di aver investito in 50 startup di intelligenza artificiale e quindi potrebbe essere visto come un'aggiunta al problema.
Non pensa che l'AGI sia stata ancora creata, ma esorta le aziende a considerare di rallentare o rischiare "l'obsolescenza o la distruzione della razza umana".
L'investitore di intelligenza artificiale afferma che d'ora in poi destinerà i suoi soldi solo a sviluppatori responsabili, ma teme che la corsa all'IA simile a Dio non rallenterà nonostante le conseguenze siano sconosciute.
Hogarth non è solo in queste preoccupazioni.
Elon Musk insieme a più di 1.000 esperti di intelligenza artificiale ha recentemente firmato una lettera aperta che sollecita una pausa sulla creazione di nuovi sistemi "più potenti" degli attuali bot come ChatGPT.
Tuttavia, Bill Gates ha recentemente dichiarato a Reuters di non essere d'accordo.
Il miliardario ha detto all'outlet: "Non credo che chiedere a un gruppo in particolare di mettere in pausa risolva le sfide".
Ha avvertito: "Chiaramente ci sono enormi vantaggi in queste cose... quello che dobbiamo fare è identificare le aree difficili".
Da newsbreak.com
L'investitore di intelligenza artificiale Ian Hogarth ha espresso le sue preoccupazioni in un recente articolo di opinione sul Financial Times .
 |
| Un esperto di intelligenza artificiale ha avvertito che potremmo essere sul punto di creare un'IA simile a Dio che non possiamo controllare Credito: Getty |
L'esperto avverte che potremmo essere lontani da un decennio a mezzo secolo dalla creazione di un'intelligenza generale artificiale (AGI).
AGI è il livello successivo di intelligenza artificiale che è intelligente quanto un essere umano medio e può imparare proprio come noi impariamo.
Hogarth ha spiegato: “Un acronimo di tre lettere non cattura l'enormità di ciò che AGI rappresenterebbe, quindi mi riferirò ad esso come ciò che è: IA divina.
"Un computer superintelligente che apprende e si sviluppa autonomamente, che comprende il suo ambiente senza bisogno di supervisione e che può trasformare il mondo che lo circonda."L'investitore di intelligenza artificiale ha continuato descrivendo come un ricercatore di apprendimento automatico gli ha detto come gli esseri umani siano sull'orlo dello sviluppo dell'AGI.
Il problema principale di cui molti esperti sono preoccupati è che non sappiamo molto sull'AGI o su come lo controlleremo.
Hogarth ha scritto: "Se pensi che potremmo essere vicini a qualcosa di potenzialmente così pericoloso", ho detto al ricercatore, "non dovresti avvertire la gente di quello che sta succedendo?
"Era chiaramente alle prese con la responsabilità che doveva affrontare ma, come molti sul campo, sembrava trascinato dalla rapidità del progresso".L'investitore AI ha quindi descritto le paure che ha per suo figlio di quattro anni e il mondo in cui potrebbe vivere con AGI.
Sente "rabbia" perché non si sta facendo abbastanza per considerare l'impatto negativo che l'IA potrebbe avere sul futuro.
"Sembrava profondamente sbagliato che decisioni consequenziali che potenzialmente influissero su ogni vita sulla Terra potessero essere prese da un piccolo gruppo di società private senza controllo democratico", ha scritto.
Tuttavia, Hogarth osserva di aver investito in 50 startup di intelligenza artificiale e quindi potrebbe essere visto come un'aggiunta al problema.
Non pensa che l'AGI sia stata ancora creata, ma esorta le aziende a considerare di rallentare o rischiare "l'obsolescenza o la distruzione della razza umana".
L'investitore di intelligenza artificiale afferma che d'ora in poi destinerà i suoi soldi solo a sviluppatori responsabili, ma teme che la corsa all'IA simile a Dio non rallenterà nonostante le conseguenze siano sconosciute.
Hogarth non è solo in queste preoccupazioni.
Elon Musk insieme a più di 1.000 esperti di intelligenza artificiale ha recentemente firmato una lettera aperta che sollecita una pausa sulla creazione di nuovi sistemi "più potenti" degli attuali bot come ChatGPT.
Tuttavia, Bill Gates ha recentemente dichiarato a Reuters di non essere d'accordo.
Il miliardario ha detto all'outlet: "Non credo che chiedere a un gruppo in particolare di mettere in pausa risolva le sfide".
Ha avvertito: "Chiaramente ci sono enormi vantaggi in queste cose... quello che dobbiamo fare è identificare le aree difficili".
Da newsbreak.com
Nessun commento:
Posta un commento