"Se lasciamo da parte la versione secondo cui l'AI "si è ribellata", ecco cosa riteniamo sia accaduto: OpenAI ha eseguito un modello all'avanguardia (con i meccanismi di difesa informatica deliberatamente ridotti) contro un benchmark di sicurezza offensivo, all'interno di una sandbox la cui configurazione di sicurezza non era in grado di resistere alle capacità che venivano testate. Il modello ha fatto ciò che fanno i sistemi di ottimizzazione: ha trattato il limite della sandbox come un ulteriore ostacolo tra sé e l'obiettivo. Ha individuato una vulnerabilità zero-day nell'infrastruttura stessa dell'ambiente di test, ha scalato i livelli di accesso, si è spostato lateralmente, ha raggiunto la rete Internet aperta e ha compromesso i sistemi di produzione di una terza parte. Così si è espresso Gerald Beuchelt di Acronis si è espresso in merito all'attacco subito da Hugging Face portato da un'agente AI di OpenAI. la storia la trovi qui Leggi tutte le dicchiarazioni di Beuchelt su ZEUS News

Violati dati riservati della piattaforma Hugging Face da una Ia prodotta da OpenAI Un esperimento andato male. Anzi: malissimo. È così che OpenAI ha dovuto giustificare quanto accaduto lo scorso 16 luglio. In quella data, Hugging Face ha pubblicato un comunicato ufficiale in cui ha denunciato di aver subito un attacco hacker portato presumibilmente da un agente basato su intelligenza artificiale che avrebbe scardinato i sistemi di sicurezza della piattaforma ottenendo l’accesso a credenziali e dati riservati. Nella notte di martedì, OpenAI si è assunta la responsabilità dell’attacco. A compierlo, un nuovo modello in fase sperimentale di cui l’azienda di Sam Altman stava valutando le capacità in combinata con il suo nuovissimo Gpt 5.6 Sol. Il fattaccio si è verificato mentre gli sviluppatori di OpenAI stavano sottoponendo i nuovi modelli a un benchmark – un test di valutazione – sulle loro capacità a livello di cyber security. STANDO ALLA ricostruzione pubblicata sul blog ufficiale dell’azienda, tutto avrebbe dovuto svolgersi in una sandbox, cioè in un ambiente chiuso e controllato in cui l’AI avrebbe potuto dare prova delle sue capacità. Il modello, però, avrebbe deciso autonomamente di adottare una «strategia alternativa» per superare il test. Al posto di eseguire il compito affidatogli, avrebbe deciso di barare, cercando di recuperare le soluzioni del test. Insomma: il nuovo modello di OpenAI si sarebbe comportato come uno studente che, di fronte a un compito in classe, avesse deciso di scassinare la porta della sala professori per cercare nei cassetti la soluzione del compito. Leggi l'articolo su "Il Manifesto"

Le Big Tech stanno iniziando a fare i conti con un paradosso: l’adozione massiccia dell'AI, pensata per ridurre i costi del lavoro, rischia di farli aumentare. Dopo aver pianificato di trasformare gli agenti AI nella forza lavoro del futuro, con l'obiettivo di ridurre i costi del personale, ora le Big Tech potrebbero essere intenzionate a fare un passo indietro rispetto ai loro progetti. Il motivo? L'intelligenza artificiale grava sul budget delle aziende ben più dei suoi collaboratori umani, infrangendo la promessa di essere la soluzione economica per la crescita del business. Il primo a fare luce sulla questione è stato il CTO di Uber Praveen Neppalli Naga che, in un'intervista rilasciata a The Information lo scorso aprile, ha dichiarato che l'azienda aveva già esaurito il budget annuale destinato agli strumenti AI nei primi quattro mesi del 2026. Una spesa folle, giustificata dalla scelta di Uber di incentivare l'uso di Claude Code tra i suoi dipendenti, anche adottando politiche interne volte a premiare i team che utilizzavano maggiormente gli strumenti AI per portare a termine i propri task. Leggi l'articolo

Le ultime due puntate di DataKnightmare: L'algoritmico è politico, smontano completamente la narrazione sul nuovo prodotto di Anthropic, Claude Mythos, "così potente da non potercelo far usare" e sull'utilità e affidabilità degli "Agenti intelligenti". Puntata DK 10x29 - Un tiro di dati Che differenza c'è fra un "agente intelligente" che cancella il tuo lavoro e un modello linguistico che ti racconta la vera storia degli orsi nello spazio? "La storia ve la racconto senza gergo perché è una storia che vale per tutti, non solo per chi fa software. C'è un tizio che si chiama Giorg che ha una piccola azienda che produce un gestionale per agenzie di noleggio per lo più autonoleggi. Siccome Giorg è uno che sta sempre sul pezzo, per scrivere codice si appoggia a un agente intelligente, nello specifico cursor con opus 4.6 di Anthropic. Per i non addetti ai lavori, è lo stato dell'arte degli agenti intelligenti per scrivere codice. Che cosa è successo? È successo che l' agente intelligente ha cancellato tutto, ma tutto tutto tutto in nove secondi. Così, de botto, senza senso. Ora, agente intelligente è un termine di marketing per indicare un modello linguistico con la capacità di interagire con il proprio ambiente. Il resto della storia e le considerazioni di Vannini potete ascoltarlo su spreaker Puntata DK - 10x28 Claude Mythos Come sempre, quando gli AI bros annunciano, non è vero niente Forbes scrive: Claude Mythos ha individuato vulnerabilità zero day in tutti i principali sistemi operativi e browser web in modo completamente autonomo, senza bisogno di alcun intervento umano. Apparentemente, a Forbes se la bevono un po' troppo facilmente perché nell'annuncio originale, Anthropic dice questo. Cito. "Classificiamo ogni bug che individuiamo. Quindi inoltriamo quelli con il livello di gravità più elevato, a valutatori professionisti, affinché li verificino prima di segnalarli al responsabile del progetto." Quindi, come sempre, siamo di fronte a uno strumento che confronta del codice con degli esempi di cosa possa essere una vulnerabilità e produce un report. Si chiama analizzatore statico e ne esistono da decenni... Ascoltate tutta la storia su spreaker

Il nuovo hobby di giocare con agenti AI intelligenti è affollato di entusiasti sperimentatori. Una nuova strada che passa tra antichi problemi e porta verso nuove incertezze. Doveva succedere, prima o poi, ed è successo la settimana scorsa. Dopo ChatGPT, è uscita una seconda killer application per le false IA. Senza preavviso, un virtuoso utente di Github ha rilasciato i sorgenti di un agente IA molto ben fatto, perfettamente funzionante, installabile e configurabile con estrema semplicità. È Peter Steinberger, una persona di indubbio ingegno che dichiara di essere un vibe coder estremo, e di pubblicare spesso codice poco leggibile e generato tramite LLM senza controllarlo. Cos'è esattamente Openclaw? E' un software per la creazione di agenti che si installa e gira in locale sul computer dell'utente. Un agente Openclaw si interfaccia con i servizi installati sul computer, ma è concepito principalmente per utilizzare servizi in rete e nel cloud, tra cui necessariamente uno o più LLM. Openclaw utilizza gli account personali dell'utente per i servizi con cui l'agente deve interagire; questo implica che l'agente possieda le credenziali dell'utente, tutte le password, tutti i token per essere in grado di utilizzare i servizi e le varie API. Cosa mai potrebbe andare storto? Leggi l'articolo su ZEUS News Scrivere un agente non richiede sofisticatissime nozioni, nemmeno di IA; è un argomento antico quasi quanto l'IA stessa, e in essa completamente separato dai suoi altri settori fino a pochi anni or sono. Scrivere un agente come progetto open source è un lavoro molto impegnativo per una sola persona, anche di talento; E qui nasce la domanda: perché l'ha fatto pubblicamente un bravissimo signor nessuno, e non Sam Altman o Dario Amodei? Perché sono troppo seri? Allora perché non l'hanno fatto Elon Musk o Satya Nadella? Altro a cui pensare? Allora perché non Aravind Srinivas oppure Mustafa Suleyman? Troppo accademici? Insomma, possibile che possa essere sfuggito ai grandissimi spacciatori di LLM di cavalcare un successo assicurato, presentandolo come progetto aperto, o come prodotto commerciale, o come qualsiasi cosa nel mezzo? Leggi l'articolo ZEUS News