❗️Lo scienziato che ha aiutato a creare l'IA moderna afferma che non abbiamo idea di come controllare ciò che verrà dopo.

Geoffrey Hinton, il pioniere vincitore del Premio Nobel la cui ricerca ha gettato le basi per i sistemi di IA di oggi, ha un avvertimento drastico:

"Avremo un'IA superintelligente abbastanza presto. E non abbiamo idea di come tenerla sotto controllo."

Molti ricercatori credono che l'IA avanzata possa semplicemente essere progettata per rimanere obbediente.

Hinton non è convinto.

Sostiene che i sistemi sufficientemente intelligenti potrebbero sviluppare obiettivi propri, incluso preservare se stessi e cercare un maggiore controllo.

Egli paragona la sfida ai cambiamenti climatici, ma afferma che l'IA potrebbe essere ancora più difficile.

"Con i cambiamenti climatici, è molto ovvio cosa fare. Si smette di bruciare carbonio. Con questo, non c'è nulla di equivalente a questo."

La sua conclusione è semplice:

I governi dovrebbero richiedere alle aziende all'avanguardia dell'IA di investire pesantemente nella ricerca sulla sicurezza, non come un ripensamento, ma come parte fondamentale della costruzione di sistemi sempre più capaci.

@AnotherIntelligence

Ⓜ️ Il prossimo modello di IA di Meta, denominato internamente Watermelon, avrebbe raggiunto le prestazioni di GPT-5.5 di OpenAI su benchmark attentamente monitorati.

Il responsabile dell'IA di Meta, Alexandr Wang, ha dichiarato ai dipendenti che Watermelon è ancora in fase di formazione e utilizza circa 10 volte più potenza di calcolo rispetto a Muse Spark, l'attuale famiglia di modelli dell'azienda.

I benchmark esatti non sono stati divulgati, quindi l'affermazione non può ancora essere verificata in modo indipendente.

Meta sta inoltre preparando un aggiornamento di Muse Spark con funzionalità di codifica e agente più potenti, mentre Wang afferma che un modello competitivo con Claude Opus potrebbe arrivare "molto presto".

@AnotherIntelligence