Sam Altman, il Progetto Q e «la minaccia per l'umanità»: il retroscena dietro al licenziamento da OpenAi (e al dietrofront)

Dietro al licenziamento di Sam Altman, e al successivo passo indietro di OpenAi, ci sarebbe una lettera di inviata quattro giorni da alcuni ricercatori al consiglio d'amministrazione che avvertiva su un potenziale «rischio di distruzione dell'umanità» da parte dell'intelligenza artificiale nel cosiddetto Progetto Q. Lo ha rivelato la Reuters dopo aver ascoltato due persone informate. 

La lettera dei ricercatori

Nella loro lettera al consiglio, i ricercatori hanno segnalato l'abilità dell'IA e il potenziale pericolo del Progetto Q, hanno detto le fonti alla Reuters senza specificare gli esatti problemi di sicurezza indicati nella lettera.

Da tempo gli informatici discutono sul pericolo rappresentato dalle macchine altamente intelligenti, ad esempio se decidessero che la distruzione dell'umanità è nel loro interesse. I ricercatori considerano la matematica una frontiera dello sviluppo dell’intelligenza artificiale generativa. Attualmente, l’intelligenza artificiale generativa è efficace nella scrittura e nella traduzione linguistica prevedendo statisticamente la parola successiva e le risposte alla stessa domanda possono variare notevolmente. Ma conquistare la capacità di fare matematica – dove esiste una sola risposta giusta – implica che l’intelligenza artificiale avrebbe maggiori capacità di ragionamento simili all’intelligenza umana. Ciò potrebbe essere applicato, ad esempio, a nuove ricerche scientifiche, ritengono i ricercatori sull’intelligenza artificiale. A differenza di una calcolatrice che può risolvere un numero limitato di operazioni, AGI può generalizzare, apprendere e comprendere. 

Cinque giorni di caos

Le fonti hanno citato la lettera come uno dei fattori di una lunga lista di lamentele da parte del consiglio che hanno portato al licenziamento di Altman, tra cui le preoccupazioni sulla commercializzazione dei progressi prima di comprenderne le conseguenze. Dopo cinque giorni di caos e dramma, il 38enne co-fondatore della società a cui fa capo ChatGPT è rientrato come amministratore delegato sotto la supervisione di un nuovo consiglio di amministrazione, del quale faranno inizialmente parte l'ex numero uno di Salesforce Bret Taylor e l'ex segretario al Tesoro Larry Summers, che si andranno ad aggiungere Adam D'Angelo, il chief executive officer di Quora e già attuale componente del cda di OpenAI. L'accordo di «principio» raggiunto per il rientro prevede inoltre che Altman non faccia parte del consiglio di amministrazione e accetti un'indagine interna sulla presunta condotta che avrebbe causato il suo licenziamento in tronco da parte del board. «Adoro OpenAI e tutto quello che fatto negli ultimi giorni è stato per mantenere la squadra insieme», ha detto Altman commentando il suo rientro. Con il «sostegno» del nuovo cda, «non vedo l'ora di tornare a OpenAI e rafforzare la nostra partnership con Microsoft», ha aggiunto.

Il profilo di Sam Altman

I motivi del suo siluramento continuano a essere sconosciuti, ma il suo passato può servire per capire quanto accaduto. Sorprendendo l'intero mondo tech, Paul Graham nel 2014 aveva annunciato il 20enne Altman alla guida di Y Combinator, popolare incubatore della Silicon Valley. L'idillio durò alcuni anni, poi Graham iniziò a dubitare delle intenzioni Altman che sembrava mettere gli interessi personali sopra quelli dell'azienda. Senza contare che investiva, tramite l'incubatore, in start up che scopriva usando un fondo creato con il fratello Jack. Le preoccupazioni di Graham sono condivise da alcuni che Altman lo conoscono e che hanno lavorato con lui: è rinomato per preferire le priorità personali agli impegni ufficiali, per il suo assenteismo e - secondo molti - per essere troppo opportunista anche per gli standard della Silicon Valley, caratteristica che gli ha fatto alienare negli anni molti alleati.