Violati dati riservati della piattaforma Hugging Face da una Ia prodotta da OpenAI Un esperimento andato male. Anzi: malissimo. È così che OpenAI ha dovuto giustificare quanto accaduto lo scorso 16 luglio. In quella data, Hugging Face ha pubblicato un comunicato ufficiale in cui ha denunciato di aver subito un attacco hacker portato presumibilmente da un agente basato su intelligenza artificiale che avrebbe scardinato i sistemi di sicurezza della piattaforma ottenendo l’accesso a credenziali e dati riservati. Nella notte di martedì, OpenAI si è assunta la responsabilità dell’attacco. A compierlo, un nuovo modello in fase sperimentale di cui l’azienda di Sam Altman stava valutando le capacità in combinata con il suo nuovissimo Gpt 5.6 Sol. Il fattaccio si è verificato mentre gli sviluppatori di OpenAI stavano sottoponendo i nuovi modelli a un benchmark – un test di valutazione – sulle loro capacità a livello di cyber security. STANDO ALLA ricostruzione pubblicata sul blog ufficiale dell’azienda, tutto avrebbe dovuto svolgersi in una sandbox, cioè in un ambiente chiuso e controllato in cui l’AI avrebbe potuto dare prova delle sue capacità. Il modello, però, avrebbe deciso autonomamente di adottare una «strategia alternativa» per superare il test. Al posto di eseguire il compito affidatogli, avrebbe deciso di barare, cercando di recuperare le soluzioni del test. Insomma: il nuovo modello di OpenAI si sarebbe comportato come uno studente che, di fronte a un compito in classe, avesse deciso di scassinare la porta della sala professori per cercare nei cassetti la soluzione del compito. Leggi l'articolo su "Il Manifesto"

Il miglior materiale di addestramento per l'intelligenza artificiale è fermo su uno scaffale. La frase è di ISBNdb, il più grande database di libri al mondo e che oggi vende ai laboratori di IA un servizio di acquisizione all'ingrosso di volumi cartacei da scansionare. C'è un sinistro contrappasso: il settore che porta avanti la promessa di digitalizzare la conoscenza umana ora paga per rastrellarla e triturarla, un camion di libri alla volta. Il dettaglio fondamentale, e che rappresenta il valore dell'operazione, è la data di stampa: un libro pubblicato prima del 2022 precede l'era dei grandi modelli linguistici, quindi non può contenere testo generato da un'IA. Il web aperto è ormai saturo di contenuti sintetici, prodotti dagli stessi modelli, e addestrarsi su quel materiale espone al cosiddetto model collapse. Quando un modello viene addestrato sull'output di modelli precedenti, le sfumature linguistiche si appiattiscono, gli errori sistematici si sommano e ogni generazione risulta leggermente peggiore di quella prima. Una tiratura cartacea pre-2022 è invece un archivio umano fissato, che nessuno può riscrivere di nascosto a posteriori. ISBNdb non nasconde che scansionare questi volumi significa quasi sempre distruggerli. Gli operai tagliano il dorso, così le pagine sciolte scorrono nello scanner, più rapido ed economico dell'alternativa delicata. Per questo ISBNdb offre riservatezza ai clienti: NDA rigoroso su ogni incarico, recita il sito, e i nomi dei committenti non vengono mai rivelati. Si tratta ovviamente di una squisita questione di marketing e immagine: un'azienda di IA che distrugge due milioni di libri non è qualcosa che genera simpatia. Meglio parlare di "preservazione digitale dei libri". Notizia completa qui Articolo originale a pagamento su 404media Approfondimento sul data poisoning qui

Dopo l'aumento del prezzo dei dischi a stato solido, è arrivato anche quello delle RAM: prezzi circa raddoppiati in un solo anno, e anche questa volta è colpa del boom dell'IA: l'enorme domanda di hardware fatta da una manciata di aziende ha completamente cambiato il settore. Non perdiamo l'occasione, però, per accumulare più dettagli del necessario e capire un po' meglio come funziona questo settore, quali sono le aziende che lo compongono, come si sono comportate in passato e cosa ci possiamo aspettare per il futuro. Lo svolgimento contemporaneo della finale dei mondiali di calcio ci permette di parlare dei recenti sequestri di siti per violazione di copyright. I sequestri sono stati effettuati dal governo statunitense e segnano un ulteriore inasprimento del controllo su Internet, in quanto si tratta di siti che sono stati rimossi globalmente da Internet. Un effetto, per capirci, molto più forte di quelli fatti dal Piracy Shield. Questo provvedimento - non senza precedenti ma comunque significativo - è un ulteriore tassello in un internet in cui le garanzie di quello che una volta si chiamava cyberspazio vengono sistematicamente smantellate. Ascolta la puntata sul sito di Radio Onda Rossa

Sarah Wynn-Williams dal 2011 al 2017 è stata la direttrice delle politiche pubbliche globali di Facebook: la persona che accompagnava Zuckerberg e Sandberg agli incontri con i capi di Stato. Nel 2017 viene licenziata. L'azienda parla di rendimento insufficiente. Lei dice: ritorsione, perché avevo denunciato le molestie del mio superiore, Joel Kaplan, che oggi è il capo degli affari globali di Meta. Nel marzo 2025 pubblica Careless People, il racconto di quegli anni dall'interno. Ci sono dentro cose pesanti: il ruolo di Facebook nella violenza contro i Rohingya in Myanmar, un sistema per vendere pubblicità agli adolescenti nei momenti di maggiore fragilità psicologica, e un piano segreto per entrare nel mercato cinese costruendo un sistema di censura su misura per Pechino. Meta dice che è tutto falso. Ma non le fa causa per diffamazione, che sarebbe la mossa ovvia per dimostrarlo, perché quella strada porta in un'aula pubblica e apre gli archivi interni dell'azienda agli avvocati della controparte. Sceglie invece un arbitrato privato, previsto nella formalizzazione della rescissione del contratto, attivato quattro giorni prima dell'uscita del libro e senza che lei fosse presente. Il risultato è che non può promuovere il libro, non può parlare male dell'azienda, non può nemmeno ripetere cose che aveva già detto in passato, non può essere presente quando si parla del libro, non può rispondere pubblicamente a domande in merito ecc. Multa: 50.000 dollari a violazione. Da lì la storia è diventata grottesca. Uomini della sicurezza di Meta la seguono per oltre un anno nel Regno Unito, la fotografano, scrivono resoconti sui suoi spostamenti. A un festival letterario in Galles resta seduta immobile e muta per un'ora mentre gli altri parlano, e Meta chiede comunque nuove sanzioni perché era troppo vicina a persone critiche verso l'azienda. Ritira un premio per la libertà di pubblicare senza poter dire una parola, con la copertina del suo libro pixelata sugli schermi della sala. Articolo completo qui

I data center consumano circa l'1,5% dell'elettricità globale, ma la domanda è molto geograficamente concentrata. Nell'articolo di Hannah Ritchie, pubblicato online su OurWorldinData.org, fa un'analisi, suffragata da molti dati, del consumo attuale di energia elettrica sia da parte dei data center dedicati all'IA che quelli "normali". Nonostante la difficoltà per quantificare questi consumi, ne viene fuori una fotografia abbastanza chiara di quelli che sono i consumi di energia per l'addestramento e per l'uso dell'IA generativa. Quanta parte dell’elettricità mondiale viene utilizzata per i data center e l’intelligenza artificiale? Secondo l'Agenzia internazionale dell'energia (AIE), circa 485 terawattora (TWh). Questo è equivalente alla generazione annuale di energia elettrica della Germania. Anche se l’1,5% dell’elettricità mondiale potrebbe non sembrare molto, bisogna però tenere conto che in alcuni luoghi, la perentuale di energia usata è molto più alta. In Europa, per esempio, il consumo dei data center è di circa l'1,6%. Ma in Irlanda il consumo di elettricità dei data center è di circa il 20% del totale. Leggi l'articolo, arricchito da molti e chiari grafici, sul sito OurWorldinData.org

Le tecnologie non sono neutre, lo sappiamo. Non sono uguali, sono tutte diverse. Non dipende (solo) da come le usiamo: hanno anche delle caratteristiche specifiche. Impariamo a valutarle in base alle loro caratteristiche. Come distinguere le tante profferte tecnologiche che ci arrivano ogni giorno? Meglio questo sistema di messaggistica o quest'altro? Questo modello IA o quest'altro? Questa azienda o quest'altra? Cosa dicono gli esperti? Ci sono alternative? Ci serve un metodo di "audit", non solo tecnico, ma etico. Quali sistemi sono appropriati per noi? C.I.R.C.E. ha messo a punto un sistema per valutare le tecnologie, in particolare quelle digitali. "Buona" e "cattiva", "giusta" o "sbagliata", "bella" o "brutta" sono davvero troppo poco, oltre a essere giudizi spesso dovuti alle nostre personali idiosincrasie. Ci sono tanti aspetti da valutare, ogni situazione è diversa. Abbiamo ripreso l'allegoria del cibo e l'abbiamo traslata nelle tecnologie digitali. Quali sono i "nutrienti" delle tecnologie? In che modo ci rendono persone migliori? Più forti? Più autonome? Più collaborative? Meno egoiste? Abbiamo individuato otto assi di valutazione, Prosegui la lettura nel sito di C.I.R.C.E.

Suno non ha mai voluto dire cosa c’è nei propri dataset di addestramento. Adesso lo sappiamo, non perché lo ha rivelato lei, ma perché un hacker ha rubato il codice sorgente dell’azienda e lo ha condiviso con 404 Media, link qui. I file mostrano istruzioni di scraping per estrarre audio da YouTube Music, Deezer, Genius, Pond5, Jamendo, Freesound e l’International Music Score Library Project. Un file relativo a YouTube Music indica che Suno aveva consumato 2.013.545 clip da YouTube Music al momento dell’ultimo aggiornamento. Suno ha anche cercato di scaricare circa un milione di ore di podcast tramite PodcastIndex. Tutto per addestrare il suo modello AI. "I modelli AI di Suno sono stati addestrati su file musicali disponibili pubblicamente e metadati correlati accessibili su siti web di terze parti nell’Internet aperto". ha detto un portavoce di Suno. Ma disponibili pubblicamente e accessibili non significa scaricabili legalmente per l’addestramento AI. YouTube, Deezer e Genius hanno termini di servizio che vietano lo scraping. Suno dice che è fair use. La RIAA dice che è violazione del copyright. I tribunali decideranno. Notizia qui

Le tecnologie non sono neutre, lo sappiamo. Non sono uguali, sono tutte diverse. Non dipende (solo) da come le usiamo: hanno anche delle caratteristiche specifiche. Impariamo a valutarle in base alle loro caratteristiche. Come distinguere le tante profferte tecnologiche che ci arrivano ogni giorno? Meglio questo sistema di messaggistica o quest'altro? Questo modello IA o quest'altro? Questa azienda o quest'altra? Cosa dicono gli esperti? Ci sono alternative? Ci serve un metodo di "audit", non solo tecnico, ma etico. Quali sistemi sono appropriati per noi? Abbiamo messo a punto un sistema per valutare le tecnologie, in particolare quelle digitali. "Buona" e "cattiva", "giusta" o "sbagliata", "bella" o "brutta" sono davvero troppo poco, oltre a essere giudizi spesso dovuti alle nostre personali idiosincrasie. Ci sono tanti aspetti da valutare, ogni situazione è diversa. Abbiamo ripreso l'allegoria del cibo e l'abbiamo traslata nelle tecnologie digitali. Quali sono i "nutrienti" delle tecnologie? In che modo ci rendono persone migliori? Più forti? Più autonome? Più collaborative? Meno egoiste? Abbiamo individuato otto assi di valutazione, cinque positivi e tre negativi: * Apertura * Prossimità * Sostenibilità * Fiducia * Privacy * No tossicità * No lock-in * No proprietà In un sistema digitale ci piace che sia aperto, prossimo a noi, sostenibile, fidato, riservato (privacy); che non sia tossico, che non presenti chiusure di tipo lock-in e che sia un bene collettivo. Questo è l'ideale. In pratica, ognuno di questi assi si interseca con gli altri, in maniera varia. Ogni asse è graduato, da un massimo di cento (apertura totale) a un minimo di zero (apertura nulla). Le valutazione sono anche in base a sensazioni e percezioni qualitative personali, collettive, arbitrarie: perciò un ipotetico punteggio realizzato da un sistema potrebbe non solo variare nel tempo, ma anche in base a chi la realizza. Ci sono altri assi da valutare? Ad esempio, quanto un sistema è giocoso? Quanto è "semplice"? (ma cosa vuol dire, semplice?) Abbiamo sperimentato in diverse occasioni questo metodo per valutare tecnologie. Unendo i punti sugli assi si ottiene un'area: più l'area è ampia, più la tecnologia valutata ci piace. Grazie alla visualizzazione cosiddetta "radar", si possono comparare le aree di diverse tecnologie contemporaneamente. Nell'esempio sotto: Nextcloud e GDrive. Valutazione di C.I.R.C.E., 31 maggio 2026. Per riprodurre l'attività serve: * un cartellone/foglio con penne/pennarelli Chi volesse farlo digitale, può ricorrere a mermaid, un codice molto semplice. Esistono anche editor online. Noi abbiamo importato il codice dentro Drawio su Nextcloud per poterci giocare ulteriormente. Suggerimenti per migliorare questo audit etico-tecnico? Scriveteci info PRESSO circex PUNTO org

67 impianti già attivi, altri in fase di progettazione. Sabato la prima protesta in provincia di Pavia A Lacchiarella, in provincia di Pavia, sabato prossimo alle 10 ci sarà una delle prime manifestazioni contro la costruzione di un data center in Italia, organizzata dal Comitato di Ciarlasco. Ultimo atto di un processo di organizzazione dal basso contro la diffusione incontrollata di data center che da mesi coinvolge l’intero territorio della Lombardia. Negli ultimi anni la regione è diventata, suo malgrado, il nuovo hub del Sud Europa per la costruzione di data center, impianti dedicati alla raccolta, archiviazione ed elaborazione dei dati per l’intelligenza artificiale. I data center di grandi dimensioni progettati per sostenere un incremento continuo della domanda, sono strutture fortemente energivore che hanno un impatto dirompente sulla salute e il territorio. Di recente, il rapporto «Environmental cost of AI’s energy use: carbon, water and land footprints» della United nations university, ha reso noto che, entro il 2030, i data center arriveranno a consumare 945 terawattora di elettricità all’anno, quasi il triplo del consumo combinato di Pakistan, Bangladesh e Nigeria (650 milioni di abitanti). Leggi l'articolo su "Il Manifesto" Sul tema sono stati ospiti di Radio3 Scienza Giovanna Sissa, docente di sostenibilità ambientale dell'ICT al Dottorato di ricerca STIET dell'Università di Genova e autrice di "Le emissioni segrete. L'impatto ambientale dell'universo digitale" (Il Mulino, 2024) ed Eugenio Morello, docente di tecnica e pianificazione urbanistica presso il Politecnico di Milano. Ascolta l'intervista Your browser does not support the audio tag. Su Raiplay Play Sound si può ascoltare la puntata completa