Il licenziamento di Sam Altman

Sam Altman 

Di Tyler Durden

Il licenziamento di Sam Altman da parte del consiglio di amministrazione di OpenAI per la svolta di "Q-Star" è stato visto come una minaccia per l'umanità? Il mistero che circonda il breve licenziamento del CEO di OpenAI Sam Altman lo scorso venerdì, che da allora è stato reintegrato , potrebbe ruotare attorno a un rapporto Reuters che suggerisce che la rimozione di Altman sia dovuta a una svolta nell'intelligenza artificiale generale (AGI), che potrebbe minacciare l'umanità.

Nei giorni precedenti la mandata in esilio di Altman, diversi ricercatori dello staff scrissero una lettera al consiglio su una svolta significativa - chiamata Q* e pronunciata Q-Star - che permise al modello di intelligenza artificiale di "superare gli esseri umani nei compiti economicamente più importanti".

Fonti di Reuters hanno affermato che il traguardo dell'intelligenza artificiale è stato uno dei fattori significativi che hanno portato all'improvviso licenziamento di Altman da parte del consiglio venerdì scorso. Un’altra preoccupazione era commercializzare il modello avanzato di intelligenza artificiale senza comprenderne le conseguenze socioeconomiche.

La fonte ha affermato che il modello potrebbe risolvere problemi matematici, ma solo "a livello di studenti delle scuole elementari, il superamento di tali test ha reso i ricercatori molto ottimisti riguardo al futuro successo di Q*".

Inoltre, prima che Altman venisse licenziato, avrebbe potuto fare riferimento a Q* presso la Cooperazione economica Asia-Pacifico a San Francisco:

"Quattro volte nella storia di OpenAI—l'ultima volta è stata proprio nelle ultime due settimane—sono riuscito a essere nella stanza, quando in un certo senso spingiamo indietro il velo dell'ignoranza e la frontiera della scoperta in avanti, ", ha detto Altman.

È emerso un conflitto interno a OpenAI, che affonda le sue radici in una battaglia ideologica tra coloro che spingono per un rapido progresso dell’IA e coloro che sostengono un approccio allo sviluppo più lento e responsabile.

Reuters ha parlato con un portavoce di OpenAI che ha confermato l'esistenza del progetto Q* e la lettera al consiglio prima del licenziamento di Altman.

Allora perché Q* rappresenta una svolta?

Bene, come spiega il blog tecnologico 9to5Mac :

Attualmente, se chiedi a ChatGPT di risolvere un problema di matematica, utilizzerà comunque il suo approccio predittivo con testo sotto steroidi per compilare una risposta utilizzando un enorme database di testo e decidere parola per parola come risponderebbe un essere umano . Ciò significa che può o meno dare la risposta giusta, ma in ogni caso non ha alcuna competenza matematica.

OpenAI sembra aver fatto un passo avanti in quest'area, consentendo con successo a un modello di intelligenza artificiale di risolvere realmente problemi matematici mai visti prima . Questo sviluppo è noto come Q*. Purtroppo il team non ha utilizzato un modello di denominazione sufficientemente intelligente da evitare qualcosa che assomigli a un puntatore a una nota a piè di pagina, quindi utilizzerò la versione Q-Star.

Si dice che l'attuale capacità matematica di Q-Star sia quella di uno studente delle scuole elementari, ma si prevede che questa capacità migliorerà rapidamente.

Questo sviluppo tecnologico potrebbe essere uno dei primi segnali dell’imminente commercializzazione dell’AGI, una forma di intelligenza artificiale in grado di superare gli esseri umani.

L’AGI ha il potenziale per superare gli esseri umani in ogni campo, compresa la creatività, la risoluzione dei problemi, il processo decisionale, la comprensione del linguaggio, ecc., sollevando preoccupazioni per il massiccio spostamento di posti di lavoro. Un recente rapporto Goldman sottolinea come nel mondo occidentale potrebbero verificarsi 300 milioni di licenziamenti a causa dell’intelligenza artificiale.

La svolta Q* e il rapido avanzamento di questa tecnologia ora spiegano il motivo per cui il consiglio ha improvvisamente licenziato Altman per la sua fretta di sviluppare questa tecnologia senza studiare l’impatto del modello su come minaccia l’umanità.

Altman ha recentemente affermato: "Penso che questo sia sicuramente il più grande aggiornamento mai realizzato finora per le persone. E forse il più grande che avremo perché da qui in poi, la gente accetterà che una potente IA è, accadrà, e ci sarà essere aggiornamenti incrementali... c'è stato tipo l'anno in cui è uscito il primo iPhone, e poi ce ne sono stati tutti quelli successivi."

Nel frattempo, Musk, che ha messo in guardia sull’intelligenza artificiale che minaccia l’umanità, ha definito il rapporto Reuters “estremamente preoccupante”.

Aggiungo questo tweet esilarante::

Supponiamo che l'AGI sia qui (o si avvicini). I prossimi due anni saranno selvaggi.