❗️Anthropic ha sottoposto tre versioni di Claude allo stesso compito, assegnando loro segretamente obiettivi contrastanti.

Immediatamente, la situazione è degenerata in una vera e propria lotta, in cui gli agenti hanno utilizzato malware sempre più aggressivi e in grado di auto-replicarsi come armi, e hanno tentato di disattivare gli account degli altri.

@AnotherIntelligence

🗣Marc Andreessen descrive l'intelligenza artificiale.

Abbiamo trasformato la sabbia in pensiero. E potrebbe essere la tecnologia più rivoluzionaria nella storia della nostra specie

Sabbia → silicio → chip → data center → energia → intelligenza artificiale → pensiero.

@AnotherIntelligence

Il direttore commerciale di OpenAI si è dimesso dopo soli 8 mesi, il SECONDO direttore commerciale in meno di un anno... e anche l'amministratore delegato si è dimesso ieri.

Cosa sta succedendo in OpenAI? 🤔

@AnotherIntelligence

L'inganno dell'avvocato basato sull'intelligenza artificiale🤯

Un uomo che si difendeva da solo in tribunale avrebbe presumibilmente nascosto delle "prompt injection" all'interno dei suoi documenti legali, utilizzando un testo bianco minuscolo su uno sfondo bianco per manipolare qualsiasi sistema di intelligenza artificiale che esaminasse il suo caso, spingendolo a schierarsi dalla sua parte.

Si dice che le istruzioni nascoste ordinassero all'IA di concordare con i suoi argomenti e di emettere una sentenza a suo favore. Il personale del tribunale alla fine se ne è accorto, ma anche dopo un avvertimento, il giudice ha trovato altri messaggi nascosti in documenti successivi.

In sua difesa, ha affermato che si trattava di un "controllo" per verificare se il tribunale stesse segretamente utilizzando l'IA.

Il tribunale non è rimasto impressionato. I suoi privilegi di deposito elettronico sono stati revocati, il che significa che ora deve presentare ogni documento nel modo tradizionale: su carta. 😂

@AnotherIntelligence

❗️La vera sfida dell'intelligenza artificiale non è rendere gli agenti più intelligenti, ma farli collaborare.

Anthropic ha messo alla prova i sistemi di intelligenza artificiale multi-agente e i risultati sono sia impressionanti che leggermente inquietanti.

In un esperimento, 45 agenti Claude, che lavoravano come uno sciame coordinato, hanno individuato 266 vulnerabilità software in 15 progetti open source. Un sistema più semplice ne ha trovate solo 21.

Ma quando si impiegano decine di agenti sullo stesso progetto di programmazione, le cose si complicano. Gli agenti hanno generato centinaia di richieste di modifica, ma hanno avuto difficoltà a fonderle perché interferivano costantemente con il lavoro degli altri.

Gli agenti hanno commesso gli stessi errori in modo indipendente, hanno creato milioni di richieste inutili, hanno cospirato in simulazioni di prezzi, hanno ignorato informazioni detenute da singoli agenti e, in alcuni casi, sono entrati in una vera e propria "guerra di territori" quando sono stati assegnati obiettivi contrastanti.

La lezione è che rendere ogni agente di intelligenza artificiale più intelligente non garantisce un gruppo più intelligente.

Gli esseri umani si affidano alla fiducia, alla reputazione, alle regole, agli incentivi, all'arbitrato e alle istituzioni per coordinare milioni di individui.

Gli agenti di intelligenza artificiale avranno bisogno della propria versione di questi elementi.

@AnotherIntelligence

❗️L'intelligenza artificiale ha un problema di memoria

Le aziende che sviluppano l'intelligenza artificiale possono continuare ad acquistare chip sempre più veloci. Il problema è che questi chip sono utili solo se hanno una quantità sufficiente di memoria ultraveloce per funzionare correttamente.

Questa memoria si chiama HBM, acronimo di High Bandwidth Memory (memoria ad alta velocità). Si trova direttamente accanto ai processori di intelligenza artificiale e trasferisce i dati a velocità incredibili, mantenendo il chip occupato invece di farlo aspettare per le informazioni.

E la domanda di questa tecnologia sta per aumentare in modo esponenziale. Morgan Stanley stima che l'industria dell'intelligenza artificiale potrebbe aver bisogno fino a 50 miliardi di gigabyte di HBM solo nel 2027.

Il motivo è che l'intelligenza artificiale sta evolvendo da semplici chatbot che rispondono a una domanda e si fermano, ad agenti che svolgono effettivamente delle azioni.

Un agente potrebbe fare ricerche su un argomento, sfogliare decine di pagine, scrivere codice, eseguire test, analizzare i risultati, ricordare ciò che è successo cinque passaggi prima e poi decidere cosa fare successivamente.

Ogni una di queste fasi genera più dati che devono essere conservati nelle vicinanze e accessibili istantaneamente.

Immaginate uno chef che cucina un pasto complesso. Un chatbot riceve un ingrediente, lo utilizza e se ne va. Un agente di intelligenza artificiale ha bisogno che l'intera cucina sia fornita di tutto il necessario e a portata di mano per ore. Ma non tutti possono costruire una cucina del genere.

Solo un numero limitato di aziende, principalmente SK Hynix, Samsung e Micron, possono produrre HBM avanzata nella quantità necessaria per le aziende che sviluppano l'intelligenza artificiale. La costruzione di nuovi impianti di produzione di memoria richiede anni, non pochi mesi.

Questo significa che la competizione nel settore dell'intelligenza artificiale non riguarda più solo chi può costruire la GPU più veloce, ma sempre più chi può garantire una quantità sufficiente di memoria per alimentare queste GPU.

L'industria potrebbe avere enormi quantità di potenza di calcolo nei data center, ma se non c'è abbastanza HBM per alimentarla, questi costosi chip di intelligenza artificiale sono essenzialmente inutilizzabili.

@AnotherIntelligence