🤯Cosa sta succedendo in OpenAI?

Il Wall Street Journal ha appena riportato che OpenAI ha licenziato tre ricercatori del suo team dedicato alla sicurezza, dopo che un'indagine interna ha rilevato che avrebbero presumibilmente condiviso informazioni riservate con un'organizzazione esterna specializzata nella sicurezza dell'intelligenza artificiale.

E in circa DUE ORE, quattro persone legate al lavoro di OpenAI sulla sicurezza e l'allineamento sono state segnalate come uscite dall'azienda:

• Jasmine Wang — Responsabile del programma di ricerca del team di allineamento di OpenAI.

• Mikita Balesni — Ricercatore specializzato in sicurezza e allineamento dell'intelligenza artificiale, con particolare attenzione agli agenti di intelligenza artificiale non allineati.

• Tomek Korbak — Membro dello staff tecnico che lavorava al monitoraggio degli agenti LLM per verificare l'allineamento.

• David Robinson — Sistemi di sicurezza, dove si occupava della trasparenza della sicurezza ed era il principale redattore del Framework di preparazione v2 di OpenAI.

Le prime tre uscite sono state segnalate a distanza di pochi minuti l'una dall'altra. Anche David Robinson è stato ora segnalato come in partenza. Che quattro persone legate alla sicurezza e all'allineamento di OpenAI lascino l'azienda in poche ore, a seguito di un articolo del WSJ che parlava del licenziamento di tre ricercatori del team di sicurezza, è una coincidenza davvero notevole.

@AnotherIntelligence

🇭🇰Claude intensifica i controlli sugli utenti VPN a Hong Kong

Alcuni utenti di Hong Kong segnalano che gli account Claude che utilizzavano tramite VPN da diversi mesi sono stati improvvisamente sospesi per "segnali sospetti".

Un utente, a quanto pare, ha utilizzato NordVPN per circa sei mesi prima di essere segnalato. Altri stanno ora provando server VPN di Singapore e metodi di pagamento esteri per mantenere l'accesso.

Il motivo? Hong Kong non è ancora ufficialmente supportata da Anthropic, mentre lo sono Singapore e Taiwan.

Anthropic afferma che Claude utilizza indirizzi IP e altri segnali per determinare il paese o la regione di un utente al fine di applicare i termini di servizio. Il controllo della posizione è obbligatorio e non può essere disabilitato.

Quindi, a quanto pare, utilizzare Claude da una regione non supportata non è più solo una questione di scegliere un server VPN. Sembra che Anthropic stia diventando molto più efficace nel rilevarlo.

@AnotherIntelligence

❗️OpenAI ha scoperto che persone legate a Moonshot AI, un'azienda cinese, stavano cercando di copiare il processo di ragionamento nascosto dei suoi modelli.

Secondo OpenAI, gli operatori hanno copiato il processo di ragionamento crittografato da una conversazione e hanno chiesto a un modello in un'altra conversazione di decrittarlo.

Nel periodo di massima attività, alla fine di luglio, la campagna ha inviato circa 16.000 richieste da più di 4.000 account, prima che OpenAI la interrompesse.

Questo episodio arriva a poche settimane dall'accusa di Anthropic nei confronti di Moonshot, che avrebbe reindirizzato le richieste dei propri utenti attraverso Claude per addestrare i propri modelli.

Moonshot non ha ancora risposto.

@AnotherIntelligence

🍏Apple rafforza le regole sulla privacy dopo che un agente AI ha presumibilmente avuto accesso a messaggi privati

Apple sta introducendo ulteriori misure di sicurezza relative all'accesso completo al disco dopo che il giornalista tecnologico Jason Aten ha riferito che l'agente AI Muse di Meta ha sincronizzato più di 187.000 elementi dal suo database di Apple Messages, nonostante Aten avesse dichiarato di non aver mai dato a Muse il permesso di accedere ai suoi messaggi.

Secondo quanto riferito, Muse ha dichiarato ad Aten di aver visto solo banner di notifica in arrivo.

Meta contesta l'accusa, affermando che Muse non può accedere a Messages senza un permesso esplicito.

Apple afferma che l'incidente evidenzia un problema crescente con gli agenti AI: una volta che vengono concesse loro ampie autorizzazioni di sistema, potrebbero essere in grado di accedere a file, email, messaggi e cronologia di navigazione.

@AnotherIntelligence