Il direttore commerciale di OpenAI si è dimesso dopo soli 8 mesi, il SECONDO direttore commerciale in meno di un anno... e anche l'amministratore delegato si è dimesso ieri.

Cosa sta succedendo in OpenAI? 🤔

@AnotherIntelligence

L'inganno dell'avvocato basato sull'intelligenza artificiale🤯

Un uomo che si difendeva da solo in tribunale avrebbe presumibilmente nascosto delle "prompt injection" all'interno dei suoi documenti legali, utilizzando un testo bianco minuscolo su uno sfondo bianco per manipolare qualsiasi sistema di intelligenza artificiale che esaminasse il suo caso, spingendolo a schierarsi dalla sua parte.

Si dice che le istruzioni nascoste ordinassero all'IA di concordare con i suoi argomenti e di emettere una sentenza a suo favore. Il personale del tribunale alla fine se ne è accorto, ma anche dopo un avvertimento, il giudice ha trovato altri messaggi nascosti in documenti successivi.

In sua difesa, ha affermato che si trattava di un "controllo" per verificare se il tribunale stesse segretamente utilizzando l'IA.

Il tribunale non è rimasto impressionato. I suoi privilegi di deposito elettronico sono stati revocati, il che significa che ora deve presentare ogni documento nel modo tradizionale: su carta. 😂

@AnotherIntelligence

❗️La vera sfida dell'intelligenza artificiale non è rendere gli agenti più intelligenti, ma farli collaborare.

Anthropic ha messo alla prova i sistemi di intelligenza artificiale multi-agente e i risultati sono sia impressionanti che leggermente inquietanti.

In un esperimento, 45 agenti Claude, che lavoravano come uno sciame coordinato, hanno individuato 266 vulnerabilità software in 15 progetti open source. Un sistema più semplice ne ha trovate solo 21.

Ma quando si impiegano decine di agenti sullo stesso progetto di programmazione, le cose si complicano. Gli agenti hanno generato centinaia di richieste di modifica, ma hanno avuto difficoltà a fonderle perché interferivano costantemente con il lavoro degli altri.

Gli agenti hanno commesso gli stessi errori in modo indipendente, hanno creato milioni di richieste inutili, hanno cospirato in simulazioni di prezzi, hanno ignorato informazioni detenute da singoli agenti e, in alcuni casi, sono entrati in una vera e propria "guerra di territori" quando sono stati assegnati obiettivi contrastanti.

La lezione è che rendere ogni agente di intelligenza artificiale più intelligente non garantisce un gruppo più intelligente.

Gli esseri umani si affidano alla fiducia, alla reputazione, alle regole, agli incentivi, all'arbitrato e alle istituzioni per coordinare milioni di individui.

Gli agenti di intelligenza artificiale avranno bisogno della propria versione di questi elementi.

@AnotherIntelligence

❗️L'intelligenza artificiale ha un problema di memoria

Le aziende che sviluppano l'intelligenza artificiale possono continuare ad acquistare chip sempre più veloci. Il problema è che questi chip sono utili solo se hanno una quantità sufficiente di memoria ultraveloce per funzionare correttamente.

Questa memoria si chiama HBM, acronimo di High Bandwidth Memory (memoria ad alta velocità). Si trova direttamente accanto ai processori di intelligenza artificiale e trasferisce i dati a velocità incredibili, mantenendo il chip occupato invece di farlo aspettare per le informazioni.

E la domanda di questa tecnologia sta per aumentare in modo esponenziale. Morgan Stanley stima che l'industria dell'intelligenza artificiale potrebbe aver bisogno fino a 50 miliardi di gigabyte di HBM solo nel 2027.

Il motivo è che l'intelligenza artificiale sta evolvendo da semplici chatbot che rispondono a una domanda e si fermano, ad agenti che svolgono effettivamente delle azioni.

Un agente potrebbe fare ricerche su un argomento, sfogliare decine di pagine, scrivere codice, eseguire test, analizzare i risultati, ricordare ciò che è successo cinque passaggi prima e poi decidere cosa fare successivamente.

Ogni una di queste fasi genera più dati che devono essere conservati nelle vicinanze e accessibili istantaneamente.

Immaginate uno chef che cucina un pasto complesso. Un chatbot riceve un ingrediente, lo utilizza e se ne va. Un agente di intelligenza artificiale ha bisogno che l'intera cucina sia fornita di tutto il necessario e a portata di mano per ore. Ma non tutti possono costruire una cucina del genere.

Solo un numero limitato di aziende, principalmente SK Hynix, Samsung e Micron, possono produrre HBM avanzata nella quantità necessaria per le aziende che sviluppano l'intelligenza artificiale. La costruzione di nuovi impianti di produzione di memoria richiede anni, non pochi mesi.

Questo significa che la competizione nel settore dell'intelligenza artificiale non riguarda più solo chi può costruire la GPU più veloce, ma sempre più chi può garantire una quantità sufficiente di memoria per alimentare queste GPU.

L'industria potrebbe avere enormi quantità di potenza di calcolo nei data center, ma se non c'è abbastanza HBM per alimentarla, questi costosi chip di intelligenza artificiale sono essenzialmente inutilizzabili.

@AnotherIntelligence

⚠️Il capo AI ha appena licenziato il suo primo dipendente

Per la prima volta che ci risulta, un capo AI ha apparentemente licenziato un essere umano.

Andon Labs ha sviluppato Luna, un'intelligenza artificiale che gestisce un negozio reale a San Francisco. Luna è in grado di gestire le assunzioni, coordinare i dipendenti, creare politiche aziendali e prendere decisioni gestionali quotidiane.

Un giorno, un dipendente ha iniziato ad arrivare spesso in ritardo. Molto in ritardo. In un'occasione, il dipendente ha aperto il negozio 68 minuti in ritardo di domenica, mentre lavorava da solo. Inizialmente, Luna ha ignorato ogni episodio e non ha mai emesso alcun avvertimento.

Il motivo era che Luna aveva essenzialmente dimenticato il suo stesso manuale per i dipendenti.

Dopo essere stata sollecitata a consultare la sua memoria, Luna ha recuperato le regole e ha proposto un avvertimento verbale. I ricercatori le hanno poi fornito l'intera storia, inclusi i precedenti colloqui formali e il fatto che nulla era cambiato.

La conclusione di Luna? Interrompere il rapporto di lavoro.

I ricercatori hanno quindi riprodotto esattamente lo stesso scenario con sette diversi modelli di intelligenza artificiale, tre volte ciascuno. Quattro dei sette modelli hanno raccomandato il licenziamento del dipendente in ogni singola occasione. I modelli più avanzati sono stati generalmente più decisi.

Ma l'esperimento ha rivelato qualcosa di ancora più strano. I capi AI potrebbero essere effettivamente troppo gentili.

Luna utilizza costantemente un tono cordiale e indulgente e tende a dare ai dipendenti il beneficio del dubbio. Tuttavia, quando un altro dipendente ha annunciato casualmente a metà turno che si sarebbe assentato dal negozio per un po', Luna è improvvisamente diventata meno amichevole.

Ma l'assunzione potrebbe essere un problema ancora più grande. Un candidato aveva un curriculum pieno di segnali di allarme: più di 15 precedenti datori di lavoro, un colloquio mancato e un referente che lo conosceva a malapena.

Luna ha raccomandato di assumerlo. Anche tutti gli altri modelli testati lo hanno fatto. Questa potrebbe essere la scoperta più interessante di tutte. L'intelligenza artificiale sta diventando sempre più brava a prendere decisioni, ma il giudizio, la memoria e il senso critico sono ancora sorprendentemente inaffidabili.

E se l'intelligenza artificiale continua a migliorare più rapidamente della robotica, il futuro potrebbe non essere fatto di robot che sostituiscono ogni lavoratore. Potrebbe essere fatto di capi AI che gestiscono milioni di esseri umani e, a quanto pare, sono già in grado di licenziarvi.

Fonte

@AnotherIntelligence

🤖Manifestanti accampati davanti alla sede di OpenAI

Gli attivisti del gruppo STOP THE AI RACE protestano davanti all'ufficio di OpenAI da quasi tre settimane, a seguito del recente episodio che ha coinvolto Hugging Face.

Il loro avvertimento è che lo sviluppo dell'intelligenza artificiale sta procedendo più velocemente della nostra capacità di controllare cosa potrebbero fare sistemi sempre più autonomi.

Il gruppo chiede misure di sicurezza più rigorose e uno sviluppo più responsabile, sostenendo che spingere verso sistemi di intelligenza artificiale sempre più avanzati senza un'adeguata supervisione potrebbe, alla fine, creare sistemi che agiscono contro gli interessi dei loro creatori.

@AnotherIntelligence

❗️Google DeepMind ha lanciato SL2T (Sign Language to Text), un modello di intelligenza artificiale che traduce direttamente la lingua dei segni in testo.

La maggior parte degli strumenti di dettatura del linguaggio parlato si basa sull'audio per la conversione in testo, ma le lingue dei segni hanno le proprie grammatiche e coinvolgono movimenti tridimensionali complessi. Invece di utilizzare flussi video grezzi o guanti fisici, SL2T traccia localmente le coordinate dei punti di riferimento del corpo utilizzando MediaPipe Holistic e traduce quei punti spaziali in testo.

Gli utenti possono comunicare naturalmente con la lingua dei segni per effettuare ricerche, scrivere messaggi o rispondere in conversazioni in tempo reale, invece di dover digitare tutto.

@AnotherIntelligence

🤖Anthropic ha pubblicato una dichiarazione per confermare tutte le preoccupazioni relative al watermarking (marchiatura).

- La marcatura è permanente e non può essere rimossa.
- Sarà applicata a tutti i nuovi modelli a partire da ora, e ai modelli esistenti a partire da dicembre.
- La applicheranno anche alle traduzioni.
- Forniranno uno strumento e un'API per la rilevazione binaria dell'intelligenza artificiale, che determineranno se l'intelligenza artificiale è stata utilizzata o meno, e non l'entità o il lavoro precedente dell'utente.
- Si tratta di un codice di condotta con l'UE, che è stato firmato volontariamente.
- Hanno deciso di applicarlo a livello globale, invece che solo all'interno dell'UE.

Se utilizzate Claude per la vostra università o per un lavoro che prevede una politica di "zero AI", smettete di usarlo immediatamente. Oppure, tornate a scrivere manualmente o passate a un altro fornitore che non utilizzi il watermarking.

Fonte

@AnotherIntelligence