Non credo che le probabilità siano molto alte. D'altra parte, se la probabilità è anche solo del 5% o del 10%, questo sembra piuttosto grave.

Non è detto che si debba sempre procedere più lentamente e sempre con cautela, perché se non si fa nulla, se non c'è alcun progresso in nessun ambito, non credo che le nostre società funzionino affatto.

L'accordo progressista intergenerazionale nella nostra società era che ci fosse un progresso da una generazione all'altra. Forse un progresso economico, materiale, un progresso nella salute. E quando questo si interrompe, penso che l'intera società inizi a manifestare disturbi in modi molto, molto strani.

C'è un'immagine che le persone hanno implicitamente nella mente: l'alternativa all'IA, diciamo, un mondo con zero crescita in cui non c'è alcun progresso, sarà in qualche modo una società pacifica e socialdemocratica. E non credo che sia vero.

Se l'America rallenta e la Cina accelera, stiamo semplicemente rafforzando la Cina, ma questo non risolve nulla.

A patto che continuiamo a percorrere una strada che ci porti, alla fine, a creare un valore molto maggiore per la società rispetto a quella cifra.

E a patto che riusciamo a trovare un modo per pagare le bollette.

Stiamo sviluppando l'AGI (Intelligenza Artificiale Generale).

Sarà costoso.

Ma ne vale assolutamente la pena.

La superintelligenza non vi odia. Semplicemente, non si interessa a voi.