Uscita da tempo dal perimetro della produzione industriale, l’Intelligenza Artificiale regola quasi tutte le dimensioni della vita sociale. Ora più che mai: agli algoritmi affidiamo anche il governo del rischio della nuova fase della pandemia. Bill Gates nel 2015 previde la sventura, ora pensa che se ne possa uscire con una combinazione di test, cure, tecnologie per il tracciamento, controllo dei dati via Gps. Dagli algoritmi possono venire salvezza o disastro.
A un disastro allude anche Ian McEwan in “Macchine come me”. In questo suo romanzo, Alan Turing, il genio che decrittò i codici segreti nazisti e contribuì alla vittoria degli Alleati, non si suicida dopo la condanna (subita perché omosessuale) alla castrazione chimica. L’autore di Computering Machine and Intelligence è ancora vivo nel XXI secolo e ha creato “macchine talmente umane” che possono conquistare una loro coscienza, divengono consapevoli di rispecchiare “il mostro indicibile” dell’umanità che le ha progettate e finiscono “sopraffatte da un male di vivere intollerabile”. Non c’è armonia tra tecnica e uomo, al contrario di quanto pretende il capo di Microsoft, Brad Smith.
Il capitalismo algoritmico implica oggi la connessione continua, la produzione di dati come propellenti dell’industria, la creazione di algoritmi in vista della costruzione di software da applicare a vari dispositivi meccatronici, motori, sensori, sino a mimare l’intelligenza umana. Lo sappiamo: i computer deducono e imparano dall’esperienza e gli algoritmi ottenuti per induzione sono in grado di prescriverci i comportamenti derivandoli proprio da noi quando noi inviamo e-mail, paghiamo con le carte di credito, accediamo alla Rete.
Siamo noi che offriamo quei dati di cui perdiamo la proprietà quando cadono in mano di poteri esterni e meccanismi incontrollabili: i dati sono i nuovi veicoli del dominio e della sottomissione -come ha intitolato la propria ultima fatica Remo Bodei. Le preferenze degli utenti della Rete, profilate di nuovo nell’interesse di un business o di un orientamento politico, tornano indietro ai consumatori-elettori e li “sottomettono”.
Nella storia della civiltà delle macchine, tutto ciò costituisce sia una rottura che una continuità. Il dominio e il potere si manifestano ancora nei rapporti di produzione, nel controllo del lavoro, nell’espropriazione della ricchezza sociale. Come aveva compreso Marx, scienza, tecnologia, metodi razionali di organizzazione del lavoro sono ancora un grandioso organismo artificiale incorporato nel capitale d’impresa, che si impone a tecnici e lavoratori come una razionalità estranea e dispotica, ma oggi l’uso capitalistico della scienza e della tecnica incorporata nella macchina, come aveva scritto il più geniale dei suoi esegeti del secondo Novecento, diviene prima di tutto controllo dei dati e delle informazioni. Nessuno sfugge all’ingranaggio della vita meccanizzata, aveva risposto a Raniero Panzieri Italo Calvino.
Sul terreno politico, trasformati in una sorta di inconscio tecnologico della folla digitale, gli algoritmi rappresentano una minaccia alle libertà? Magari ci salvano dalla pandemia, ma inaspriscono il controllo via App? Novant’anni dopo il venerdì nero di Wall Street e dieci dopo la crisi del 2008, con le conseguenze sociali della unificazione globale dei mercati e della liberalizzazione, mercato e democrazia sono tornati avversari. La terribile recessione globale del tempo presente allarga di nuovo la forbice tra ricchezza prodotta e rendite dell’élite economica mondiale, mentre le politiche di welfare sembrano scomparse e la divisione del lavoro esclude, invece di includere, facendo esplodere l’ingiustizia sociale. Il rapporto tra povertà e democrazia è tornato a essere una priorità politica, scrivono Honneth, Andreas Kalyvas e I.W.Mueller in Thinking Democracy Now, l’ultimo Annale della Fondazione Feltrinelli, pensato e curato con intelligenza da Nadia Urbinati.
Il primato dell’economia, cioè il “business model” dei social media aggrava la situazione della crisi sanitaria e della recessione economica globale, perché sollecita scelte che trasgrediscono gli assiomi della razionalità, non solo nell’ambito dei comportamenti economici. Soggetto a intuizioni instabili e conflittuali, nessuno diviene così un buon giudice “di ciò che è bene”. Meno che mai buoni giudici sono gli algoritmi. Ma, soprattutto, combinata con i “big data” contenuti in milioni di test psicometrici e profili individuali misurati e ponderati, l’Intelligenza Artificiale consente di manipolare preferenze, valori e desideri sotto il profilo commerciale e politico.
Il successo delle piattaforme digitali Amazon, Farmville, Nike Plus sarebbe incomprensibile senza gli algoritmi che traducono i principi dell’economia comportamentale, così come la vittoria elettorale di Trump nel 2016 senza il controllo effettuato su quei “profili psicografici”, quei profili che hanno permesso ad Alexander Nix, Ceo di Cambridge Analytica, di creare messaggi di propaganda mirati e di falsificare la comunicazione di massa. La tecnologia impone sia scelte commerciali che politiche attraverso procedure le cui fonti sono ignote, ma che comunque erodono la capacità critica.
La tecnologia di per sé certo non diffonde il contagio dell’irrazionalità politica. Lo fa però di certo la tecnologia digitale applicata dalle corporations dei media, che promuovono servizi gratuiti agli utenti per monetizzare, rivendendo agli inserzionisti i dati offerti da quelli: il capitalismo di sorveglianza guadagna, modella identità o scelte di consumo e di voto, e le rende prevedibili, anzi certe. Così le certezze manipolate artificialmente trasfigurano la democrazia, che invece è sempre incertezza istituzionalizzata.
La scena non è però necessariamente quella di un’apocalissi culturale. Gli algoritmi infatti possono anche servire a curare la democrazia malata, come possono aiutare a contrastare contagio virale ed epidemia. La certezza manipolata dalle piattaforme digitali è anch’essa un virus letale diffuso dai messaggi autoritari lanciati nel presunto interesse del “popolo vero” contro l’élite, la divisione dei poteri, la “democrazia divisiva” -come la chiama Orbàn-, ma una disciplina trasparente dei sistemi di informazione e dell’Intelligenza artificiale può anche riportare in salute la democrazia e renderla aperta all’intelligenza collettiva delle comunità “online” con deliberazioni assunte sulla piattaforma, e poi approvate dagli elettori. È accaduto, ad esempio, due anni fa in Irlanda, con la riforma della Costituzione in tema di aborto. Purché gli algoritmi vengano sottratti al dominio del business e dell’economia guidata dai modelli matematici neoliberali di equilibrio generale (Dsge). Per la democrazia, come per la salute pubblica, il dilemma sembra essere tra ragione critica ed economia.