Sam Altman – Reflections
06.01.2024 – Traduzione in italiano (originale)
Il secondo compleanno di ChatGPT è stato poco più di un mese fa, e ora siamo passati al prossimo paradigma di modelli che possono fare ragionamenti complessi. Il nuovo anno porta spesso le persone a riflettere, e volevo condividere alcuni pensieri personali su come è andata finora e alcune delle cose che ho imparato lungo il percorso.
Man mano che ci avviciniamo all’AGI, sembra un momento importante per guardare ai progressi della nostra azienda. C’è ancora molto da capire, ancora tanto che non sappiamo, ed è ancora molto presto. Ma sappiamo molto di più di quanto sapevamo quando abbiamo iniziato.
Abbiamo iniziato OpenAI quasi nove anni fa perché credevamo che l’AGI fosse possibile e che potesse essere la tecnologia più impattante nella storia umana. Volevamo capire come costruirla e renderla ampiamente benefica; eravamo entusiasti di provare a lasciare il nostro segno nella storia. Le nostre ambizioni erano straordinariamente alte e così anche la nostra convinzione che il lavoro potesse beneficiare la società in modo altrettanto straordinario.
All’epoca, pochissime persone se ne preoccupavano, e se lo facevano, era principalmente perché pensavano che non avessimo alcuna possibilità di successo.
Nel 2022, OpenAI era un tranquillo laboratorio di ricerca che lavorava su qualcosa temporaneamente chiamato “Chat With GPT-3.5”. (Siamo molto meglio nella ricerca che nel dare nomi alle cose.) Stavamo osservando le persone usare la funzione playground della nostra API e sapevamo che gli sviluppatori si stavano davvero divertendo a parlare con il modello. Pensavamo che costruire una demo attorno a quell’esperienza avrebbe mostrato alle persone qualcosa di importante sul futuro e ci avrebbe aiutato a migliorare i nostri modelli e renderli più sicuri.
Abbiamo finito per chiamarlo ChatGPT invece, e lo abbiamo lanciato il 30 novembre 2022.
Sapevamo sempre, in astratto, che a un certo punto avremmo raggiunto un punto di svolta e la rivoluzione dell’IA sarebbe iniziata. Ma non sapevamo quale sarebbe stato il momento. Con nostra sorpresa, si è rivelato essere questo.
Il lancio di ChatGPT ha dato il via a una curva di crescita come niente che avessimo mai visto—nella nostra azienda, nella nostra industria e nel mondo in generale. Stiamo finalmente vedendo alcuni dei grandi vantaggi che abbiamo sempre sperato dall’IA, e possiamo vedere quanto altro arriverà presto.
Non è stato facile. La strada non è stata liscia e le scelte giuste non sono state ovvie.
Negli ultimi due anni, abbiamo dovuto costruire un’intera azienda, quasi da zero, attorno a questa nuova tecnologia. Non c’è modo di addestrare le persone per questo se non facendolo, e quando la categoria tecnologica è completamente nuova, non c’è nessuno che possa dirti esattamente come dovrebbe essere fatto.
Costruire un’azienda a una velocità così alta con così poco addestramento è un processo disordinato. Spesso è due passi avanti, uno indietro (e a volte, un passo avanti e due indietro). Gli errori vengono corretti man mano che si procede, ma non ci sono davvero manuali o punti di riferimento quando si fa un lavoro originale. Muoversi a velocità in acque inesplorate è un’esperienza incredibile, ma è anche immensamente stressante per tutti i giocatori. Conflitti e incomprensioni abbondano.
Questi anni sono stati i più gratificanti, divertenti, migliori, interessanti, estenuanti, stressanti e—particolarmente negli ultimi due—spiacevoli della mia vita finora. La sensazione predominante è la gratitudine; so che un giorno sarò in pensione nel nostro ranch a guardare le piante crescere, un po’ annoiato, e penserò a quanto fosse fantastico che ho potuto fare il lavoro che sognavo da bambino. Cerco di ricordarlo ogni venerdì, quando sette cose vanno terribilmente male entro le 13:00.
Poco più di un anno fa, in un particolare venerdì, la cosa principale che era andata storta quel giorno era che sono stato licenziato a sorpresa durante una videochiamata, e subito dopo che abbiamo riattaccato il consiglio ha pubblicato un post sul blog a riguardo. Ero in una stanza d’albergo a Las Vegas. Sembrava, in un modo che è quasi impossibile spiegare, come un sogno andato storto.
Essere licenziato in pubblico senza preavviso ha dato il via a poche ore davvero folli, e a pochi giorni piuttosto folli. La “nebbia della guerra” è stata la parte più strana. Nessuno di noi è stato in grado di ottenere risposte soddisfacenti su cosa fosse successo, o perché.
L’intero evento è stato, a mio avviso, un grande fallimento di governance da parte di persone ben intenzionate, me compreso. Guardando indietro, certamente vorrei aver fatto le cose diversamente, e mi piace pensare di essere un leader migliore e più riflessivo oggi di quanto non fossi un anno fa.
Ho anche imparato l’importanza di un consiglio con punti di vista diversi e una vasta esperienza nella gestione di un insieme complesso di sfide. Una buona governance richiede molta fiducia e credibilità. Apprezzo il modo in cui così tante persone hanno lavorato insieme per costruire un sistema di governance più forte per OpenAI che ci consente di perseguire la nostra missione di garantire che l’AGI benefici tutta l’umanità.
La mia più grande lezione è quanto ho da essere grato e quante persone devo ringraziare: a tutti coloro che lavorano in OpenAI e hanno scelto di dedicare il loro tempo e impegno a perseguire questo sogno, agli amici che ci hanno aiutato a superare i momenti di crisi, ai nostri partner e clienti che ci hanno supportato e ci hanno affidato il compito di abilitare il loro successo, e alle persone nella mia vita che mi hanno mostrato quanto ci tenevano.
Siamo tornati al lavoro in modo più coeso e positivo e sono molto orgoglioso del nostro focus da allora. Abbiamo fatto quella che è facilmente una delle nostre migliori ricerche di sempre. Siamo passati da circa 100 milioni di utenti attivi settimanali a più di 300 milioni. Soprattutto, abbiamo continuato a mettere la tecnologia nel mondo che le persone sembrano davvero amare e che risolve problemi reali.
Nove anni fa, non avevamo davvero idea di cosa saremmo diventati; anche ora, lo sappiamo solo in parte. Lo sviluppo dell’IA ha preso molte svolte e ci aspettiamo di più in futuro.
Alcune delle svolte sono state gioiose; altre sono state difficili. È stato divertente vedere un flusso costante di miracoli di ricerca, e molti scettici sono diventati veri credenti. Abbiamo anche visto alcuni colleghi separarsi e diventare concorrenti. I team tendono a cambiare man mano che si espandono, e OpenAI si espande molto velocemente. Penso che parte di questo sia inevitabile—le startup di solito vedono molti cambiamenti a ogni nuovo livello di scala, e a OpenAI i numeri aumentano di ordini di grandezza ogni pochi mesi. Gli ultimi due anni sono stati come un decennio in una normale azienda. Quando qualsiasi azienda cresce ed evolve così velocemente, gli interessi naturalmente divergono. E quando qualsiasi azienda in un’industria importante è in testa, molte persone la attaccano per vari motivi, specialmente quando cercano di competere con essa.
La nostra visione non cambierà; le nostre tattiche continueranno a evolversi. Ad esempio, quando abbiamo iniziato non avevamo idea che avremmo dovuto costruire un’azienda di prodotti; pensavamo che avremmo solo fatto grande ricerca. Non avevamo nemmeno idea che avremmo avuto bisogno di una quantità così folle di capitale. Ci sono nuove cose che dobbiamo costruire ora che non capivamo qualche anno fa, e ci saranno nuove cose in futuro che possiamo a malapena immaginare ora.
Siamo orgogliosi del nostro track-record sulla ricerca e sul deployment finora, e siamo impegnati a continuare a migliorare il nostro pensiero sulla sicurezza e sulla condivisione dei benefici. Continuiamo a credere che il modo migliore per rendere sicuro un sistema di IA sia rilasciarlo iterativamente e gradualmente nel mondo, dando alla società il tempo di adattarsi e co-evolvere con la tecnologia, imparando dall’esperienza e continuando a rendere la tecnologia più sicura. Crediamo nell’importanza di essere leader mondiali nella ricerca sulla sicurezza e sull’allineamento, e nel guidare quella ricerca con feedback dalle applicazioni del mondo reale.
Ora siamo fiduciosi di sapere come costruire l’AGI come l’abbiamo tradizionalmente intesa. Crediamo che, nel 2025, potremmo vedere i primi agenti di IA “entrare nella forza lavoro” e cambiare materialmente la produzione delle aziende. Continuiamo a credere che mettere iterativamente grandi strumenti nelle mani delle persone porti a grandi risultati ampiamente distribuiti.
Stiamo iniziando a puntare oltre, verso la superintelligenza nel vero senso della parola. Amiamo i nostri prodotti attuali, ma siamo qui per il glorioso futuro. Con la superintelligenza, possiamo fare qualsiasi altra cosa. Gli strumenti superintelligenti potrebbero accelerare enormemente la scoperta scientifica e l’innovazione ben oltre ciò che siamo in grado di fare da soli, e a loro volta aumentare enormemente l’abbondanza e la prosperità.
Questo suona come fantascienza in questo momento, e un po’ folle anche solo parlarne. Va bene così—ci siamo già stati e siamo a nostro agio nel tornarci. Siamo abbastanza fiduciosi che nei prossimi anni, tutti vedranno ciò che vediamo noi, e che la necessità di agire con grande cura, pur massimizzando i benefici e l’empowerment, è così importante. Date le possibilità del nostro lavoro, OpenAI non può essere una normale azienda.
Che fortuna e umiltà poter giocare un ruolo in questo lavoro.
(Grazie a Josh Tyrangiel per aver in qualche modo stimolato questo. Vorrei che avessimo avuto molto più tempo.)
Ci sono state molte persone che hanno fatto un lavoro incredibile e gigantesco per aiutare OpenAI, e me personalmente, durante quei pochi giorni, ma due persone si sono distinte tra tutte.
Ron Conway e Brian Chesky sono andati ben oltre il dovere, tanto che non sono nemmeno sicuro di come descriverlo. Ho ovviamente sentito storie sulle capacità e la tenacia di Ron per anni e ho passato molto tempo con Brian negli ultimi due anni ricevendo un’enorme quantità di aiuto e consigli.
Ma non c’è niente come essere nella trincea con le persone per vedere cosa possono davvero fare. Sono ragionevolmente sicuro che OpenAI sarebbe crollata senza il loro aiuto; hanno lavorato giorno e notte per giorni fino a quando le cose non sono state risolte.
Sebbene abbiano lavorato incredibilmente duramente, sono rimasti calmi e hanno avuto un pensiero strategico chiaro e ottimi consigli per tutto il tempo. Mi hanno impedito di fare diversi errori e non ne hanno commesso nessuno. Hanno utilizzato le loro vaste reti per tutto ciò che era necessario e sono stati in grado di navigare in molte situazioni complesse. E sono sicuro che hanno fatto molte cose di cui non sono a conoscenza.
Quello che ricorderò di più, però, è la loro cura, compassione e supporto.
Pensavo di sapere cosa significasse supportare un fondatore e un’azienda, e in un certo senso lo sapevo. Ma non ho mai visto, o nemmeno sentito parlare, di qualcosa come quello che hanno fatto questi ragazzi, e ora capisco più pienamente perché hanno lo status leggendario che hanno. Sono diversi e meritano entrambi pienamente le loro reputazioni uniche, ma sono simili nella loro straordinaria capacità di spostare montagne e aiutare, e nel loro impegno incrollabile nei momenti di bisogno. L’industria tecnologica è molto meglio grazie alla loro presenza.
Ci sono altri come loro; è una cosa straordinariamente speciale della nostra industria e fa molto di più per far funzionare tutto di quanto le persone si rendano conto. Non vedo l’ora di restituire il favore.
Su una nota più personale, grazie soprattutto a Ollie per il suo supporto quel fine settimana e sempre; è incredibile in ogni modo e nessuno potrebbe chiedere un partner migliore.