Quando la tecnologia tradisce l’umanità che dovrebbe servire 🤖💔
Ho letto con crescente inquietudine la notizia della nomina di Diella, il primo “ministro” di intelligenza artificiale al mondo in Albania. E devo confessarlo: come umanista digitale, questa decisione mi turba profondamente. Non per tecnofobia o nostalgia del passato, ma perché rappresenta esattamente ciò contro cui ho sempre combattuto nella mia riflessione sul rapporto tra tecnologia e società umana.
Il tradimento dell’umanesimo digitale
L’umanesimo digitale in cui credo fermamente parte da un presupposto fondamentale: la tecnologia deve amplificare la capacità umana di partecipazione, comprensione e autodeterminazione. Deve renderci più umani, non sostituirci. Quando vedo un algoritmo nominato ministro, vedo invece il tradimento di questa visione.
Diella non è solo un software che elabora dati sui bandi pubblici. È il simbolo di una deriva pericolosa: la delega della responsabilità democratica a sistemi che, per loro natura, non possono essere responsabili. Un ministro umano può essere interpellato, può spiegare le sue scelte, può modificare il proprio approccio di fronte alle critiche. Può essere emotivamente coinvolto dal peso delle decisioni che prende. Diella non può fare nulla di tutto questo.
La democrazia non è un algoritmo
Il problema non è tecnico, è ontologico. La democrazia si basa sulla deliberazione, sul confronto, sulla possibilità di cambiare idea. Si nutre di imperfezioni umane, di compromessi, di quella meravigliosa incertezza che caratterizza ogni processo decisionale umano. Quando automatizziamo questo processo, lo sterilizziamo.
Consideriamo un esempio concreto: un’azienda locale presenta un’offerta tecnicamente imperfetta ma che potrebbe dare lavoro a centinaia di persone in un’area depressa. Un ministro umano potrebbe valutare questi aspetti sociali, chiedere miglioramenti, negoziare. Diella applicherà i suoi parametri predefiniti, punto. Non c’è spazio per la compassione, per la comprensione del contesto sociale, per quella saggezza pratica che chiamavamo phronesis.
Il mito della neutralità algoritmica
L’Albania sostiene che Diella garantirà maggiore trasparenza e ridurrà la corruzione. È un’illusione pericolosa che maschera una verità scomoda: gli algoritmi non sono neutri. Sono progettati da esseri umani, addestrati su dati selezionati da esseri umani, implementati secondo logiche decise da esseri umani.
Chi ha scelto i parametri di valutazione di Diella? Chi ha deciso cosa costituisce una “buona” offerta? Chi ha stabilito i pesi relativi di criteri economici, tecnici e sociali? Queste decisioni, prese una volta durante la programmazione, condizionano ogni scelta futura del sistema. È una forma di potere ancora più concentrata e meno trasparente di quella tradizionale.
L’erosione della partecipazione cittadina 📉
Come umanista digitale, ciò che mi preoccupa maggiormente è l’impatto sulla partecipazione democratica. Quando i cittadini sanno che le decisioni sono prese da un algoritmo, tendono a sentirsi ancora più distanti dalle istituzioni. Non puoi protestare contro un software, non puoi convincerlo, non puoi nemmeno odiarlo propriamente.
Questo fenomeno lo abbiamo già osservato con i sistemi automatizzati di welfare: le persone si sentono impotenti di fronte a decisioni che sembrano calare dall’alto di una logica incomprensibile. Diella rischia di trasformare la cittadinanza attiva in sudditi digitali.
Il caso delle piattaforme: lezioni ignorate
Abbiamo già visto cosa succede quando deleghiamo decisioni importanti agli algoritmi. Le piattaforme social hanno mostrato come sistemi automatizzati possano amplificare bias, creare filter bubble, manipolare l’opinione pubblica. Facebook nel 2016, Twitter durante la pandemia, TikTok con i suoi algoritmi di raccomandazione: tutti esempi di come l’automazione delle decisioni possa avere conseguenze impreviste e dannose.
Eppure l’Albania sembra non aver imparato nulla da queste esperienze. Anzi, le amplifica portandole direttamente nelle istituzioni democratiche.
La falsa promessa dell’efficienza
“Diella sarà più veloce, più efficiente, meno corruttibile”, dicono i suoi sostenitori. Ma l’efficienza non è il valore supremo della democrazia. A volte la lentezza è necessaria per la riflessione, il confronto, la maturazione delle decisioni. A volte l’apparente inefficienza nasconde processi di partecipazione e coinvolgimento che sono il cuore della vita democratica.
Quando acceleriamo tutto, rischiamo di perdere la dimensione umana del decidere insieme. La democrazia non è una catena di montaggio, è un organismo vivente che ha bisogno dei suoi tempi.
Alternative più umane esistono
Non sono contrario all’uso della tecnologia nell’amministrazione pubblica. Al contrario, credo fermamente nel potere della digitalizzazione per migliorare i servizi ai cittadini. Ma esistono modi più equilibrati per farlo.
Sistemi di supporto alle decisioni che aiutino i funzionari umani a elaborare grandi quantità di dati mantenendo la responsabilità finale. Piattaforme di partecipazione digitale che coinvolgano i cittadini nei processi decisionali. Strumenti di monitoraggio e audit che rendano più trasparenti le scelte degli amministratori umani.
Tutto questo senza sostituire l’elemento umano, ma potenziandolo.
La via dell’umanesimo digitale
La mia proposta è quella di un umanesimo digitale applicato: tecnologie che amplificano la capacità umana di partecipazione democratica invece di sostituirla. Immaginate piattaforme che permettano ai cittadini di seguire in tempo reale i bandi pubblici, di fare domande, di proporre alternative. Immaginate algoritmi che evidenzino possibili conflitti di interesse o anomalie, ma lasciando sempre a esseri umani la decisione finale.
Da informatico a cercatore di senso
