Introduzione
L’intelligenza artificiale (IA) è una tecnologia che promette di rivoluzionare molti settori e ambiti della vita umana, dalla medicina alla sicurezza, dalla cultura all’istruzione. Tuttavia, l’IA non è immune da rischi e minacce, soprattutto quando si basa su dati che possono essere manipolati, falsificati o rubati da attori malintenzionati. Questo fenomeno, noto come avvelenamento dei dataset, consiste nell’alterare o inserire dati errati o malevoli nei dataset usati per addestrare i modelli di IA, compromettendone l’affidabilità, la sicurezza e la funzionalità
L’avvelenamento dei dataset può avere diverse motivazioni e obiettivi, a seconda di chi lo perpetra e di chi lo subisce. Alcuni esempi sono:
- I proprietari di contenuti digitali, come immagini, video, musica o testi, che vogliono proteggere i loro diritti d’autore e impedire che le loro opere vengano copiate, sfruttate o generate da modelli di IA senza il loro consenso. Per farlo, usano strumenti come Nightshade, che crea perturbazioni invisibili nelle immagini, in grado di ingannare e avvelenare i modelli di IA che le usano come fonte di apprendimento
- Gli artisti, che vogliono esprimere la loro creatività e originalità in modo critico e provocatorio, mettendo in discussione il ruolo e il potere dell’IA nella società. Per farlo, usano tecniche come il data bending, che consiste nel modificare i dati di un file digitale, come un’immagine o un suono, per creare effetti estetici o sonori inaspettati e disturbanti.
- Le persone, che vogliono sfuggire ai controlli e alla sorveglianza basati sull’IA, come il riconoscimento facciale, la profilazione o la censura. Per farlo, usano metodi come il data masking, che consiste nel nascondere o alterare i dati sensibili o personali, come il volto, il nome o la posizione, per rendere irriconoscibili o anonimi gli individui.
Questi sono solo alcuni esempi di come l’avvelenamento dei dataset possa essere usato come una forma di resistenza, protesta o difesa da parte di chi si sente minacciato o oppresso dall’IA. Tuttavia, l’avvelenamento dei dataset può anche avere conseguenze negative, come la riduzione della qualità e dell’efficacia dei servizi e delle applicazioni basate sull’IA, o la creazione di vulnerabilità e backdoor che possono essere sfruttate da hacker o criminali
In questo articolo, analizzeremo i vari aspetti, le sfide e le opportunità dell’avvelenamento dei dataset, cercando di capire quali sono le ragioni, le tecniche e gli effetti di questo fenomeno, e quali sono le possibili soluzioni e le implicazioni etiche e sociali che esso comporta.
Una T-Shirt che Rende Invisibili alle Telecamere
Simone, un ingegnere AI, ha recentemente rivelato una t-shirt che può rendere chi la indossa invisibile alle telecamere. Questa innovazione sfrutta un attacco noto come “Adversarial example”, comune nei modelli di machine learning.
Adversarial Example: Un Attacco alla Sicurezza dei Modelli
L’Adversarial example è un attacco che compromette la sicurezza dei modelli di machine learning. Consiste nel perturbare un input in modo tale da farlo misclassificare dal modello. Ad esempio, aggiungendo un certo pattern di rumore all’immagine di un cane, il modello può misclassificarlo come vino rosso o carta igienica.
Il Pericolo per la Sicurezza dei Modelli
Simone ha illustrato un esempio di come questo potrebbe rappresentare un problema per la sicurezza dei modelli. Ha mostrato un’immagine originale presa da una telecamera di un’auto, come una Tesla, e ha mostrato come il modello vede l’immagine. Dopo aver applicato il rumore all’immagine, le persone nell’immagine sono sparite dal punto di vista del modello. Questo rappresenta un grave rischio, poiché potrebbe permettere all’auto di non rilevare le persone.
Gli Adversarial Examples in Cybersecurity
Gli Adversarial examples trovano applicazione anche nella cybersecurity. Ad esempio, gli antivirus che utilizzano modelli per classificare i file come virus possono essere ingannati da questi attacchi, permettendo il download di file infetti.
L’Avvelenamento del Dataset: Una Risposta degli Artisti
Ciao, sono Copilot, il tuo assistente virtuale. Ti ringrazio per avermi chiesto di estendere il tema sull’avvelenamento del dataset. Ecco la mia risposta:
L’avvelenamento del dataset è una tecnica di attacco che mira a compromettere l’affidabilità e la sicurezza dei modelli di intelligenza artificiale (IA) modificando o iniettando dati falsi o malevoli nei dataset usati per il loro apprendimento. Questo può portare a risultati errati, comportamenti anomali o vulnerabilità nelle applicazioni basate sull’IA
Gli artisti, in particolare quelli che operano nel campo della creatività digitale, sono tra i più esposti al rischio di vedere le loro opere copiate, manipolate o sfruttate da aziende o individui che usano l’IA per generare contenuti simili o derivati. Per difendere i loro diritti e la loro originalità, alcuni artisti hanno deciso di reagire avvelenando l’IA con un tool chiamato Nightshade
Nightshade è uno strumento gratuito e open source, disponibile per Windows e MacOS, che permette di creare perturbazioni invisibili a occhio nudo nelle immagini. Queste perturbazioni, tuttavia, sono in grado di confondere e ingannare i modelli di IA che usano le immagini come fonte di apprendimento. Ad esempio, un cane potrebbe essere riconosciuto come un gatto, una macchina come una mucca o un lago come una pizza. In questo modo, gli artisti possono proteggere le loro opere da un uso non autorizzato o improprio da parte dell’IA
Nightshade ha avuto un grande successo tra gli artisti, con oltre 250.000 download nei primi cinque giorni dal rilascio. Il suo creatore, Ben Zhao, professore di informatica dell’Università di Chicago, ha dichiarato di aver voluto restituire un po’ di equilibrio tra i grandi colossi tecnologici che usano l’IA e i piccoli artisti che vogliono difendere la loro creatività. Zhao ha anche incoraggiato gli utenti a modificare e personalizzare il codice sorgente di Nightshade, per creare varianti dello stesso “veleno” e rendere più difficile il riconoscimento e la neutralizzazione da parte dell’IA
Il futuro della sicurezza dell’IA è quindi una sfida aperta, che richiede una riflessione etica e sociale sulle implicazioni e le responsabilità dell’uso dei dati e dell’IA. Simone, il relatore del tema, ha invitato i suoi ascoltatori a porsi alcune domande: è giusto avvelenare i dataset? È giusto che le aziende usino le immagini online senza il permesso degli artisti? Quali sono i limiti e le regole da rispettare nell’ambito della creatività digitale? Queste sono domande importanti, che meritano una discussione approfondita e una risposta condivisa
avvelenamento dataset di Bagaglia