Gli avvelenatori delle AI
Oggi parliamo di Data Poisoning, visori AR, Intelligenza Artificiale, Open Source, PWA, coding, Data Analysis e nuove opportunità di formazione!
Ecco cosa leggerai in questa newsletter:
Sondaggio (Cosa ne pensi dei tool che impediscono l’addestramento delle AI Generative sulle immagini delle opere degli artisti?)
News: Samsung sta lavorando al suo nuovo visore AR, Google ha presentato Gemma, il suo nuovo modello di Intelligenza Artificiale open source, Apple non supporterà più le Progressive Web App in Europa;
Community: abbiamo aperto la waiting list per il nostro nuovo corso di Data Analytics, partecipa ad una nuova serata di coding con gli esperti di Digitazon, diventa Web Developer, stiamo per lanciare un nuovo master interamente dedicato alla “sottile arte del prompting”.
Nightshade & Glaze
Ha fatto davvero molto scalpore la notizia che, nel giro di soli cinque giorni dal suo lancio ufficiale, Nightshade, il tool di Data Poisoning creato da un team di ricercatori dell’Università di Chicago per “avvelenare” le immagini delle opere degli artisti, abbia registrato più di 250.000 download.
Tutto ciò dimostra che la regolamentazione dell’utilizzo da parte delle AI Generative di opere coperte da copyright non sia qualcosa di derogabile e che, molto probabilmente, rappresenterà uno degli temi di discussione più spinosi e complessi dei prossimi anni.
Come funziona Nightshade? Lo strumento consente agli artisti di modificare in modo impercettibile i pixel e i metadati delle loro opere prima di caricarle online, impedendo, di fatto, che queste possano essere “copiate” o, meglio, utilizzate illecitamente dai modelli di Intelligenza Artificiale per restituire gli output richiesti dagli utenti.
In pratica, dopo essere state “avvelenate” da Nightshade, le opere verrebbero interpretate dalle AI Generative in maniera diversa rispetto a come le “vedono” gli esseri umani, rendendole, quindi, inutilizzabili.
Secondo Ben Zhao, il responsabile del team che ha creato Nightshade, “lo scopo è quello di riequilibrare il rapporto di potere tra le aziende di Intelligenza Artificiale e gli artisti, creando un deterrente efficace contro il mancato rispetto dei loro diritti”.
Ma non finisce qui. Lo stesso team di ricercatori ha anche sviluppato Glaze, uno strumento che consente agli artisti di “mascherare” il proprio stile personale. Pur funzionando, tecnicamente, in maniera del tutto simile a Nightshade (modifica i pixel delle immagini), a differenza di quest’ultimo, Glaze interviene in fase di apprendimento automatico delle AI Generative.
Un uso combinato delle due soluzioni (attualmente in fase di testing) potrebbe portare a risultati davvero significativi, perché, a detta dello stesso Zaho, Nightshade diventerà presto open source, consentendo la creazione di innumerevoli varianti in grado di ampliarne le potenzialità.
Sondaggio
Il plagio è una chimera
Sebbene sia più che comprensibile che gli artisti “tradizionali” vogliano far valere i propri diritti, non bisogna dimenticare che, negli ultimi mesi, sono spuntati fuori come funghi anche migliaia di artisti di nuova generazione, che creano le proprie opere d’arte con l’Intelligenza Artificiale.
Le domande da porsi sono le seguenti: “Chi è il vero autore di un’opera generata da una Intelligenza Artificiale?”, “Quali sono i criteri con cui stabilire l’originalità di un’opera d’arte?”, “Come si può evitare la violazione del diritto d’autore?”.
Se avete “smanettato” almeno un po’ sui vari Midjourney, DALL-E, Stable Diffusion e similari, vi sarete senz’altro resi conto che rispondere a queste domande è difficilissimo, se non impossibile.
Insomma, considerare “plagio”, senza ulteriori approfondimenti, un’opera creata da una Intelligenza Artificiale potrebbe rivelarsi un approccio superficiale. Il problema (se di questo stiamo parlando) è che l’output generato da una AI non è “tecnicamente” una copia di un contenuto di qualcun altro ma è, semplicemente una sua rielaborazione creativa.
È pur vero che, senza l’esistenza di un contenuto originale a cui “ispirarsi”, una “macchina” potrebbe fare ben poco per restituirci l’output desiderato. Ecco, risiede proprio qui il punto dell’intera questione: è indispensabile riconoscere (anche economicamente) l’insostituibile contributo dei creator per garantire il funzionamento e, quindi, la sostenibilità sociale di questi modelli generativi (“riequilibrare il rapporto di potere”, come giustamente dice anche Ben Zhao).
Gli interessi in ballo
È abbastanza chiaro che l’oggetto del contendere, nei prossimi mesi, girerà intorno a questo tema. Ne sa certamente qualcosa anche il New York Times, che, come sappiamo, ha intentato una causa contro OpenAI (che, molto probabilmente, non arriverà mai in tribunale!) per un uso improprio dei contenuti creati dai propri giornalisti.
Eppure, come dicevo, la questione è molto spinosa, perché ci sono molti interessi in ballo. Da una parte ci sono i creatori di contenuti (siano essi artisti, editori o giornalisti), che devono veder riconosciuti i propri inalienabili diritti, e dall’altra le nostre aspettative, che, di giorno in giorno, stanno diventando sempre più alte. Come uscirne? Ci vorrebbe la bacchetta magica!
Le risorse di questa settimana
News
Samsung non vuole restare indietro nella corsa alla realtà aumentata e sta lavorando al suo primo visore AR. Secondo alcune indiscrezioni, il dispositivo sarà lanciato entro la fine del 2024 e avrà un design simile agli occhiali da sole, con una cornice sottile e leggera. Sarà in grado di proiettare immagini digitali sul campo visivo dell’utente, grazie a un sistema di lenti e micro proiettori. Il visore sarà compatibile con gli smartphone e i tablet Samsung, ma anche con altre piattaforme come Windows e Android.
Google ha presentato Gemma, il suo nuovo modello di Intelligenza Artificiale open source. Gemma si ispira a Gemini, il modello multimodale più potente di Google, ma, a differenza di quest’ultimo, si occupa solo di testo e codice. È attualmente disponibile in due versioni (e dimensioni), 2 miliardi (Gemma 2B) e 7 miliardi di parametri (Gemma 7B), ed offre prestazioni di alto livello, superando quelle di altri modelli open source. Gemma è progettata per essere utilizzata in modo responsabile e sicuro (è pre-addestrata per filtrare le informazioni personali e sensibili), ed include strumenti per la personalizzazione e l’ottimizzazione.
Apple ha annunciato che, a partire da iOS 17.4, non supporterà più le PWA (Progressive Web App) in Europa. La società ha spiegato che tutto ciò è dovuto al Digital Markets Act, che obbliga i produttori di sistemi operativi a consentire l’uso di motori di rendering alternativi a quello di Safari. E aggiunge che un’eventuale modifica richiederebbe una nuova architettura in iOS, che non è pratica da realizzare. Molti sviluppatori hanno criticato la scelta di Apple, accusandola di limitare, in questo modo, la loro creatività.
Community
Se ti stai chiedendo quanto sia importante padroneggiare Excel nel mondo del lavoro, sei nel posto giusto. Excel, il potente foglio di calcolo di Microsoft, non è solo per i matematici. Excel va oltre i numeri, è il tuo alleato nel ragionamento logico e nel problem solving aziendale. Se vuoi emergere come esperto di Excel, iscriviti alla waiting list del corso Data Analytics di Digitazon.
Assisti ad una lezione di coding completamente gratuita guidata da un docente esperto; insieme, creeremo la tua prima pagina web, sviluppata interamente con HTML, CSS e Javascript. Avrai l'opportunità di partecipare ad un workshop interattivo, ascoltare le testimonianze di esperti e connetterti con altri appassionati di programmazione. Quando? Giovedì 7 marzo 2024 dalle 19:00 alle 21:00. Iscriviti gratuitamente!
Cambia la tua vita e diventa Web Developer. Impara a costruire da zero siti internet ed applicazioni web, trova il lavoro dei tuoi sogni come Web Developer con la migliore tech school in Italia. Il 93% dei nostri studenti trova lavoro entro 3 mesi!
Stiamo per lanciare un nuovo master interamente dedicato alla “sottile arte del prompting”, AI Prompting Engineering, attraverso il quale imparerai ad utilizzare le strategie più innovative per promuovere efficacemente i tuoi prodotti e servizi. Stay Tuned!
http://www.algorithmicfrontiers.com/