Ne sentiamo parlare con un sistematico crescendo ormai da alcuni anni, spesso ci appare come qualcosa di ancora troppo lontano dalle nostre vite, dalla nostra quotidianità, eppure l’avvento dell’Intelligenza Artificiale è già avvenuto, sta già condizionando la vita di ciascuno di noi, sta già plasmando la società del futuro: per dirla con Charlie Brooker, il creatore di Black Mirror, l’IA è «il nostro presente tra dieci minuti».
Se Black Mirror ci propone una società distopica, la realtà attuale riflette i primi significativi mutamenti: l’innovazione digitale non solo costituisce una nuova fase del processo di produzione capitalistico ma lo trasforma radicalmente basando la propria evoluzione sul concetto di predittività, ovvero sulla capacità non solo di prevedere ma di anticipare e plasmare i comportamenti.
Il capitalismo della “conoscenza” (o della “sorveglianza”) sta sostituendo, sotto il profilo della redditività e della profittabilità, quello manifatturiero – vecchio e obsoleto – il quale sta subendo quella identica contrazione che patì il capitalismo agrario più di due secoli fa.
Il tema della “sorveglianza” (il “regime di sorveglianza”) era già stato ampiamente affrontato nella seconda metà del secolo scorso da M. Foucault, il quale lo definiva come “una nuova tecnologia: la messa a punto di tutto un insieme di procedure per incasellare, controllare, misurare, addestrare gli individui, per renderli docili e utili nello stesso tempo”. Si trattava di un regime di sorveglianza classico nel quale la regola generale “rinchiudere per correggere” ha funzionato fino al termine della società fordista: la sorveglianza come paradigma della produzione. Quando la tecnologia della sorveglianza cambia di paradigma – legandosi intimamente con l’informatica prima e successivamente con l’intelligenza artificiale e la robotica – diviene un insieme di procedure per controllare, misurare, addestrare gli individui che non rimane negli spazi chiusi ma evolve negli spazi aperti, secondo il nuovo paradigma tecnologico “correggere anche all’aperto”. Un’analisi dirompente e largamente anticipatoria di ciò che sarebbe puntualmente accaduto, ma ciò che Foucault non poteva prevedere era il ruolo che avrebbero svolto i social media e l’intelligenza artificiale.
E allora “il capitalismo della sorveglianza”, espressione coniata dalla sociologa statunitense S. Zuboff nel 2019, prosegue nel solco della ricerca foucaltiana, condensando efficacemente due concetti basilari: quello di un nuovo modello di capitalismo, alternativo a quello industriale dei secoli scorsi, e quello di un nuovo sistema di potere fondato sul controllo del comportamento individuale. L’esperienza umana (voci, emozioni, volto, desideri, malessere, benessere, personalità) diviene definitivamente una merce di cui i colossi della Rete si appropriano per poi trasformarla in dati sui comportamenti, da cui ricavano un surpluscomportamentale privato che viene sottoposto tramite l’intelligenza artificiale a trasformazione in prodotti predittivi messi in vendita o scambiati nel mercato dei comportamenti futuri. Il paradigma cambia e cambia anche il modello di democrazia fin qui adottato e praticato: si assottiglia, si annulla e poi sparisce.
All’interno di questo contesto in continuo e radicale cambiamento, l’Unione Europea sarà la prima potenza tecnologica mondiale a tentare di governare l’Intelligenza Artificiale. Lo scorso 14 giugno il Parlamento europeo ha infatti approvato a larga maggioranza un regolamento ribattezzato «AI act», che prima di entrare in vigore dovrà essere discusso con il Consiglio dell’Unione Europea – che rappresenta i governi – e con la Commissione. Intenzione del Parlamento era quella di classificare per grado di rischio queste tecnologie, stabilendo che per alcune di esse il pericolo di abusi è così grave da giustificarne il divieto assoluto. Ad esempio, saranno proibiti i sistemi di valutazione dell’affidabilità delle persone come il cosiddetto «credito sociale» sperimentato in alcune città della Cina. Altrettanto vietati i sistemi di identificazione biometrica negli spazi pubblici, di classificazione basati su caratteristiche sensibili come genere, etnia o cittadinanza, di «polizia predittiva» e di riconoscimento delle emozioni da parte delle forze dell’ordine. Tale regolamento va interpretato come il conseguimento di un risultato frutto di un lungo percorso iniziato con il Regolamento europeo 2016/679 (GDPR – General Data Protection Regulation) e proseguito il 19 febbraio 2020 quando la Commissione Europea emanò un Libro Bianco specifico (An European strategy for data). Con il Libro Bianco, la Commissione Europea ha inteso porre le basi per la tutela dei diritti dei consumatori (intesi anche come fruitori nelle realtà lavorative) e la promozione dell’innovazione nel campo dell’Intelligenza Artificiale, puntando a valorizzare lo sviluppo di opportunità, ma al contempo mitigando gli effetti collaterali. Perché questi obiettivi siano raggiungibili attraverso uno sviluppo sicuro e affidabile dell’AI, sono stati individuati due elementi costitutivi:
- conseguire un ecosistema di eccellenza lungo l’intera catena del valore, a cominciare dalla ricerca e dall’innovazione;
- creare un ecosistema di fiducia attraverso un futuro quadro normativo per l’IA, in tutta l’Europa.
Sarà sufficiente? Governare il turbinoso processo di cambiamento in atto sarà possibile? Basteranno degli interventi normativi per arginare in maniera virtuosa gli indiscutibili benefici derivanti dall’IA o piuttosto saranno decisamente preponderanti le conseguenze negative sul mercato del lavoro e sulle vite di ciascuno di noi? Beh, probabilmente lo scopriremo tra dieci minuti…..
Seminario RPS – Innovazione, intelligenza artificiale, bisogni sociali insoddisfatti, Roma 14 giugno 2023
Convegno Fisac CGIL Piemonte – Tradizione e innovazione, Torino giugno 2022
Il Manifesto, L’UE approva il regolamento sull’Intelligenza Artificiale, 15 giugno 2023
Il Manifesto, Intelligenza Artificiale, l’esercito dei precari, 25 giugno 2023
C. Frascheri, Gestire il cambiamento, I Quaderni, EdizioniLavoro
S. Zuboff, The Age for Surveillance Capitalism. The fight for a Human Future at the New Frontier of Power, Profile Books, 2019