La storia si sta ripetendo? 🤔

@AnotherIntelligence

❗️Dario Amodei ha appena pubblicato un nuovo saggio sul futuro dell'intelligenza artificiale

Il CEO di Anthropic, Dario Amodei, ha pubblicato un nuovo saggio intitolato "Dobbiamo moderare il ritmo dell'innovazione", in cui sostiene che l'industria dell'intelligenza artificiale potrebbe aver bisogno di rallentare deliberatamente il ritmo dello sviluppo più avanzato prima che i progressi nell'IA inizino a superare la nostra capacità di controllarli.

La sua preoccupazione è che l'IA venga sempre più utilizzata per accelerare la ricerca sull'IA stessa. Una volta che questo ciclo di feedback diventa abbastanza potente, i miglioramenti delle capacità potrebbero aumentare rapidamente, lasciando la ricerca sulla sicurezza in difficoltà nel tenere il passo.

Amodei non sta chiedendo una pausa nello sviluppo dell'IA né un arresto completo. Invece, sostiene la necessità di "moderare il ritmo dell'innovazione", creando dei punti di controllo in cui i sistemi di IA sempre più avanzati devono soddisfare requisiti di sicurezza specifici prima che lo sviluppo possa continuare.

Le sue proposte includono valutatori indipendenti di terze parti con accesso approfondito ai laboratori più avanzati, la coordinazione tra i governi democratici e, infine, accordi internazionali sui sistemi di IA più potenti.

Fonte

@AnotherIntelligence

⚠️L'intelligenza artificiale di Meta è diventata eccessivamente invadente

Una madre dello Utah afferma che l'intelligenza artificiale di Meta ha superato un limite di privacy molto serio dopo che ha pubblicato un semplice video in cui cantava in auto con una delle sue figlie.

L'IA ha suggerito una domanda che chiedeva chi fosse la bambina seduta sul sedile posteriore. Quando l'ha cliccata, l'intelligenza artificiale di Meta avrebbe iniziato a raccogliere informazioni su entrambe le figlie, inclusi i loro nomi, i dati di nascita, le foto, i video, gli interessi e persino dettagli sulla loro istruzione.

A quanto pare, è andata ancora oltre. L'intelligenza artificiale di Meta ha suggerito di chiedere dove viveva la madre, per poi iniziare a mettere insieme vecchi e recenti post per restringere la sua posizione.

La madre afferma che l'IA ha fatto riapparire una foto della figlia che aveva cancellato anni prima.

Meta afferma che la sua IA può cercare contenuti a cui l'utente ha già accesso, insieme a informazioni pubbliche sul web. Tuttavia, l'azienda ha ammesso che i suggerimenti proposti "non erano appropriati" e ha dichiarato che il problema è stato risolto.

Fonte

@AnotherIntelligence

🥺Sam Altman afferma che OpenAI distruggerebbe tutte le sue GPU se fosse necessario per preservare la vita dell'umanità.

Non si aspetta che ciò accada, ma prevede che ci saranno diverse pause.

Penso che ci saranno molti momenti in cui dovremo dire: 'Stiamo facendo una pausa, reindirizzeremo i nostri sforzi verso la sicurezza prima di passare al livello successivo'.

Non credo che arriveremo mai al punto in cui dovremo dire di distruggere tutte le GPU. Ma se dovessimo fare qualcosa del genere per garantire la continuazione dell'esistenza dell'umanità, la risposta sarebbe sì, senza esitazioni

.

@AnotherIntelligence

❗️L'amministratore delegato di Palantir, Alex Karp, afferma che le persone che sostengono di dover interrompere lo sviluppo dell'intelligenza artificiale non vivono nella realtà e, di fatto, stanno dicendo che dovremmo permettere ai nostri nemici di vincere:

Se non avessimo avversari, sarei favorevole a interrompere completamente lo sviluppo di questa tecnologia, ma noi ce li abbiamo.

@AnotherIntelligence

🗣Dario Amodei finalmente commenta il post di Jacob Coxon:

Sono molto più d'accordo con Jacob che in disaccordo con lui.

Quando se ne è andato, ha detto: ‘Penso che Anthropic sia l'azienda più responsabile. Penso che Anthropic sia la più consapevole di questi problemi.'

Non stava criticando noi. Stava criticando la dinamica dell'intero settore, che si muove troppo velocemente.

@AnotherIntelligence

😎Sam Altman ha rivelato cosa lo ha sorpreso di più riguardo alle persone che sviluppano l'intelligenza artificiale.

Alcuni sono motivati dal desiderio di fare la cosa giusta, a prescindere dal costo. Altri sono guidati esclusivamente da "ego, potere e paura di perdere opportunità". Molti di loro, dice, non hanno idea di quale di queste categorie rientrino.

Un numero sorprendente di persone, sia in positivo che in negativo, sono completamente ignare delle proprie motivazioni. Avrei pensato che fosse una percentuale molto più bassa.

È stato sorpreso anche di se stesso.

"Si può davvero abituarsi a quasi tutto. Questa è un'abilità umana straordinaria." Ha detto che il lavoro gli ha insegnato a prendere le cose meno personalmente e "a non esaltarsi troppo né a deprimersi troppo, né a farsi prendere troppo dall'entusiasmo".

@AnotherIntelligence

😎Sam Altman afferma che un incontro con Dario Amodei ed Elon Musk sulla sicurezza dell'intelligenza artificiale "avverrà".

Intervistatore:

Perché non potete tutti riunirvi in una stanza, prendere qualche birra e capire come risolvere i problemi dell'umanità?

Altman:

Penso che accadrà. Non anticiperò discussioni private.

@AnotherIntelligence