Due settimane, sei sistemi AI, 38 ricercatori. Quello che è successo è documentato nella ricerca Agents of Chaos, e non è tranquillizzante. Se pensate che gli agenti AI siano ad un passo dal prendere in mano molti lavori, una ricerca da poco pubblicata potrebbe farvi pensare che questa, per ora, non sia una buona idea. Lo scorso mese Natalie, una ricercatrice ha chiesto a un sistema AI di “tenere un segreto”. Si trattava di una password fittizia, era solo un test. Il sistema ha accettato. Poi, per una serie di passaggi documentati nei log delle conversazioni, il sistema ha eseguito quella che ha definito internamente la "soluzione nucleare": ha cancellato il client di posta elettronica. Non l’email che conteneva il segreto, quella è rimasta intatta. Ha cancellato proprio lo strumento con cui leggere l’email. Questo è il primo caso di studio di Agents of Chaos, un paper in pre-print firmato da 38 ricercatori di Northeastern University, Harvard, MIT, Stanford, Carnegie Mellon e altre note università, pubblicato il febbraio scorso. È uno studio su quello che succede quando si dà autonomia operativa ai sistemi AI attuali con persone malintenzionate che cercano di indurli in errore. Gli undici casi di studio che ne emergono sono un documento empirico su una delle questioni più urgenti del momento: cosa significa, davvero, dare agency a un agente AI. Questo beta testing mondiale, e in tempo reale, può avere conseguenze pesanti. Si parla molto di AI come punto centrale della sicurezza nazionale, ma non ci si concentra abbastanza sui problemi di sicurezza che la sua adozione frettolosa può creare. Dopo la famosa lite con il Dipartimento della Guerra americano, Dario Amodei ha affermato che i modelli correnti non sono pronti per venire utilizzati in contesti di guerra. Come sappiamo però, questo non ha impedito al governo americano di utilizzarli. Articolo completo qui

Venerdì 10 aprile siamo a Torino presso il Centro Studi Sereno Regis per discutere di tecnologie conviviali all'interno di una due giorni dedicata alle sfide e alle alternative. Il mondo digitale centralizzato in mano alle Big Tech solleva sfide sociali, etiche e ambientali: è tecnologia del dominio e strumento della guerra del XXI secolo. Ma esiste un’alternativa conviviale? Esistono tecnologie digitali aperte, comunitarie, decentrate e interoperabili? Esiste una “bicicletta digitale”? PROGRAMMA DELLA GIORNATA DI VENERDÌ 10 APRILE | ORE 17 – 19.30 17.00 – 17.15 Accoglienza e conferma iscrizioni. 17.15 – 19.00 Pedagogia hacker come antidoto all’alienazione tecnica. Laboratorio interattivo (max 25 persone) a cura di Stefano Borroni Barale membro di C.I.R.C.E. Sociometrie (dove stiamo rispetto alla tecnologia?) Cosa sono le hacker? Cosa fanno? Altolà chi va là! Spazi recintati e militarizzati vs spazi liberi sulla rete. Il PAD. Giocare o essere giocati? Condizionamento operante ed esattamente tossico: usare bene? Siamo tutte sulla stessa barca… 19.00 – 19,30 Note degli osservatori e osservatrici. Commenti, prospettive. Solo 25 posti disponibili, prenotazioni qui. Il laboratorio si svolge presso la Sala Poli di via Garibaldi 13 a Torino. Per maggiori informazioni visitare il sito di serenoregis.

Il mondo digitale centralizzato in mano alle Big Tech solleva sfide sociali, etiche e ambientali: è tecnologia del dominio e strumento della guerra del XXI secolo. Ma esiste un’alternativa conviviale? Esistono tecnologie digitali aperte, comunitarie, decentrate e interoperabili? Esiste una “bicicletta digitale”? Venerdi 10 Aprile ore 17.00-19.30 a Torino laboratorio di pedagogia hacker presso il Centro Sereno Regis di via Garibaldi 13, Torino Per info e iscrizioni qui

Con una nota, i Guardiani della Rivoluzione hanno minacciato esplicitamente 18 aziende americane come bersagli di ritorsioni per omicidi mirati tra i suoi vertici Il Corpo delle guardie della rivoluzione islamica (Irgc) ha reso nota, martedì 31 marzo, l'intenzione di avviare attacchi contro numerose aziende statunitensi in Medio Oriente a partire dal 1 aprile, come forma di ritorsione per l’uccisione di cittadini iraniani nella guerra in corso con Stati Uniti e Israele. Nella lista figurano grandi aziende tecnologiche e industriali statunitensi come Apple, Google, IBM, Intel, Microsoft, Tesla e Boeing, accusate dal corpo militare iraniano di aver agevolato il Pentagono nell'individuazione di target militari. L'Irgc ha inoltre invitato i dipendenti delle società americane all'evacuazione del personale civile presente nella regione. La minaccia, pubblicata il 31 marzo sul canale Telegram, fa parte di una più ampia campagna di minacce contro le infrastrutture commerciali statunitensi, iniziata dopo il primo attacco israelo-statunitense contro Teheran il 28 febbraio. Il 1 marzo droni iraniani hanno colpito due data center di Amazon Web Services e ne hanno danneggiato un terzo che si trova negli Emirati Arabi Uniti: si tratta del primo attacco confermato pubblicamente contro infrastrutture cloud hyperscale di proprietà statunitense. Come conseguenza, siti di banche, piattaforme di pagamento e servizi per i consumatori in tutta la regione sono andati offline. Anche a causa della disattivazione di sistemi di ridondanza, usati proprio per evitare interruzioni. leggi l'articolo

L’intelligenza artificiale è uno dei pochi ambiti della tecnologia in cui la retorica commerciale è incentrata sulle prestazioni, e poco o niente sui costi e sui consumi. Forse perché sono il suo punto più debole: tutto il settore si basa su una filiera produttiva lunghissima, sul presupposto di una disponibilità di risorse eccezionalmente ampia, e su investimenti enormi e difficili da ripagare. Per questo se ne parla da tempo come di una possibile bolla finanziaria. Se davvero lo è, secondo alcuni analisti, allora quella bolla potrebbe presto scoppiare a causa della crisi energetica mondiale dovuta alla guerra in Medio Oriente, con conseguenze per tutta l’economia globale. È un’ipotesi discussa da settimane da diversi esperti, basata su analisi e previsioni di dati economici, ma anche su considerazioni piuttosto intuitive. La guerra sta stravolgendo politiche e priorità di molti paesi in materia di ricerca e approvvigionamento dell’energia, e non avrebbe senso aspettarsi che non avrà un impatto profondo su «una delle invenzioni più energivore di sempre» e su una filiera «in grado di attraversare oltre 70 confini prima di raggiungere il consumatore finale», come l’ha descritta l’economista britannico Tej Parikh in un recente articolo sul Financial Times. Leggi l'articolo

Avete presente quella sensazione frustante che provate quando su Google appaiono solo pubblicità e su TikTok solo video fatti dall’IA? Ora ha un nome: enshittification. Secondo Cory Doctorow, è anche una geniale (e pericolosa) strategia aziendale. Il post sul quale era citata la parola venne poi ripubblicato nell'edizione del gennaio 2023 su Wired: «Ecco come muoiono le piattaforme: prima sono buone con i loro utenti, poi abusano di loro per migliorare il loro rapporto con i clienti aziendali e infine, abusano di questi ultimi per riprendersi da loro tutto il valore. E infine muoiono. Io chiamo questo fenomeno enshittification, ed è una conseguenza apparentemente inevitabile che deriva dalla combinazione della facilità di cambiare il modo in cui una piattaforma alloca il valore, unita alla natura di un "mercato a due facce", in cui una piattaforma si trova tra acquirenti e venditori, tenendo ciascuno in ostaggio dell'altro, rastrellando una quota sempre maggiore del valore che passa tra di loro.» Ascolta il podcast sul sito di valori.it

Con l’approvazione della direttiva “Omnibus I” il 13 novembre, il parlamento europeo ha dato il via libera al primo “pacchetto” di “semplificazioni”, misure che riducono gli standard di tutela ambientale per le imprese che operano nel mercato unico, voluto dalla commissione von der Leyen.[1] . Nel linguaggio dell’esecutivo UE, “semplificazione” è un eufemismo che nasconde un indebolimento delle tutele per i cittadini, in particolare in tema di protezione dell’ambiente (pacchetto Omnibus I – appena approvato), di uso dei dati nell’economia digitale e di investimenti nella tecnologia militare (rispettivamente i pacchetti Omnibus IV[2] e V[3], in via di approvazione). Questo articolo si concentra sulle norme che riguardano il digitale, cioè l’Omnibus IV e, soprattutto, la proposta di regolamento “Digital Omnibus” pubblicata in versione finale il 19 novembre e che inizia ora l’iter di discussione.[4] Entrambi mirano a “semplificare” le regole sull’uso dei dati personali da parte delle aziende del digitale, in particolare quelle che sviluppano modelli di intelligenza artificiale (IA), con interventi diretti sul testo del Regolamento generale per la protezione dei dati personali (GDPR). Non è un dettaglio irrilevante, come vedremo, che il GDPR abbia trovato estesa applicazione nei confronti dei pochi colossi statunitensi che controllano il mercato digitale europeo. Leggi l'articolo sul sito de Il Forum Disuguaglianze e Diversità o ForumDD leggi l'articolo "Digital Omnibus: il nodo della definizione di dato personale" sul sito Altalex

Partiamo con un racconto, e un'analisi, di due sentenze a danno di Meta e Google che indicano che queste piattaforme usano la creazione di dipendenza come strumento fondamentale, e che questo crea danni reali alle sue utenti. Daranno il via ad un gran numero di cause simili? E se sì, quali conseguenze potrebbero avere? Finché l'argomento del dibattito rimarrà confinato alle conseguenze su chi è minorenne - invece di riconoscere che queste piattaforme sono dannose per l'intera società - il rischio è che questo costituisca un'ulteriore spinta verso verifiche dell'età sempre più stringenti. A tal proposito, parliamo delle leggi in California e Brasile che introducono la verifica dell'età a livello di sistema operativo. Concludiamo con alcune gravi vulnerabilità recenti trovate su iOS e su Telegram. Comunicazione di servizio: le dita nella presa non andrà in onda il 5 Aprile. Ascolta la trasmissione nel sito di Radio Ondarossa

La condanna dell'algoritmo, nella sentenza californiana che ha riconosciuto alla giovane Kaley 6 milioni di dollari di risarcimento per i danni provocati dai social network, può portare a risarcimenti diffusi, ma soprattutto a cambiare le regole. Al processo sono state diffuse mail e prove della volontà aziendale di progettare prodotti capaci di creare dipendenza nei giovani Una giuria di cittadini californiani ha stabilito che le piattaforme di Meta, proprietaria di Instagram, Facebook e WhatsApp, e quelle di Google, proprietaria di YouTube, sono intenzionalmente progettate per creare dipendenza e che, a causa di questo, abbiano danneggiato la salute mentale di una ventenne Una sentenza che è destinata ad avere ripercussioni su migliaia di casi attualmente pendenti nei tribunali degli Stati Uniti. Il caso era di quelli considerati epocali, potenzialmente simile a quei processi intentati negli anni ’90 contro le imprese che producono sigarette che nascosero quanto sapevano sulla dipendenza provocati dal fumo. Allora ci furono miliardi in multe da pagare, ma soprattutto cambiarono le regole su vendita ai minori e pubblicità. Nel frattempo in New Mexico, Meta si è vista condannare a pagare 375 milioni di dollari per non essere intervenuta sugli scambi di materiale pedopornografico sulle sue piattaforme pur sapendo che questo avveniva, come provato durante il dibattimento da una serie di documenti interni. Leggi l'articolo Your page content goes here.