Una cosa che questa intera era dell'intelligenza artificiale ci sta insegnando è che la nostra idea di intelligenza non è del tutto precisa.

Non solo stiamo sacrificando la comprensione, ma stiamo anche sacrificando la sicurezza.

Quando questi strumenti sono solo chatbot, può essere affascinante se commettono errori. Ma ora li stiamo mettendo a capo di sistemi di ricompensa.

Molti progetti di ricerca, soprattutto quelli dei giovani ricercatori, sono stati cancellati improvvisamente.

Uno o due articoli contenevano addirittura errori e sono stati ritirati.

Non abbiamo un quadro chiaro di ciò che sta accadendo e nessuno di OpenAI ci sta aiutando.

E poi, naturalmente, c'erano aspetti che erano, non so, folli e quasi settari. Ma forse aveva la dimensione positiva di un culto, nel senso che c'era una cosa importante che conoscevano e che gli altri non conoscevano. E penso che, anche se oggi vorrei essere molto critico nei loro confronti, in qualche modo sono riusciti a fare la cosa giusta.

E mai un gruppo settario ha creato un'azienda di successo come Anthropic? Non so qual è l'esempio di maggiore successo, ma anche un'azienda da un miliardo di dollari sembra troppo grande per essere costruita da un gruppo settario. Quindi, se un gruppo settario ha creato un'azienda che vale probabilmente quasi due trilioni di dollari al momento della quotazione, sarebbe probabilmente la sesta o settima azienda più grande al mondo per capitalizzazione di mercato, creata in soli sei o sette anni. Un gruppo settario ha mai fatto qualcosa del genere? Quindi, sì.

Voglio essere critico nei loro confronti. Ci sono cose che mi mettono a disagio e su cui sono critico. Ma la prima cosa che cercherei di fare è sempre quella di comprendere i propri avversari. Si cerca di capire gli altri tanto quanto, o anche meglio, quanto si comprendono loro stessi. E il modo in cui cercherei di capire i sostenitori dell'altruismo efficace è, innanzitutto, che hanno fatto una cosa enormemente importante nel modo giusto.