16 September 2020

Disuguaglianze automatizzate: il lato rovesciato del sogno digitale

  • Di Andrea Venanzoni

Nonostante le potenziali ineguaglianze propiziate dal digitale siano state lungamente investigate, è certamente singolare che tra le pubblicazioni straniere più recenti non approdate in Italia si situi il volume ‘Automating inequality. How High-tech Tools Profile, Police, and Punish the Poor’ (St. Martin’s press, 2018) di Virginia Eubanks che è invece, a ben vedere, uno dei più significativi e completi.

L’autrice, professoressa associata di scienza della politica all’università di Albany, da tempo sta dedicando la propria ricerca all’analizzare capillarmente i principali problemi derivanti da un utilizzo entustiastico ma scarsamente meditato delle nuove tecnologie.

Pur rifuggendo da toni tecno-apocalittici e pregiudizialmente ostili al digitale, la Eubanks preferisce avvertire lettori e soprattutto istituzioni di quello che è il lato rovesciato del sogno digitale.

Conformemente alla tradizione accademica statunitense, il testo presenta un approccio strettamente casistico; ripercorre, in maniera oggettivamente stordente, una serie di vicende in cui l’automazione, gli strumenti algoritmici, i servizi pubblici digitalizzati invece di rappresentare un utile ausilio per eliminare o attenuare povertà, miseria, dislivelli sociali, finiscono con l’accentuarli.

Caso emblematico l’algoritmo VI-SPDAT (acronimo di Vulnerability Index – Service Prioritization Decision Assistance Tool), realizzato e gestito nella città di Los Angeles per governare il drammatico numero, sempre crescente, di homeless nel quartiere Skid Row, uno dei più malfamati della città.

Definire lo Skid Row un ghetto sarebbe eufemistico e confortante.

La fotografa Suzanne Stein ha realizzato uno sconvolgente reportage in bianco/nero per quelle strade, una intensa carnografia di una esistenza generale lasciata rancida a immiserirsi sotto un cielo di catrame: baracchette, tende da campeggio su strade ingombre di rifiuti e crack, volti emaciati, corpi senza speranza smunti e scheletrici che si spostano come in un film di George Romero, prostituzione minorile.

L’approccio digitale allo Skid Row sembra la presa d’atto del voler innalzare una barriera digitale tra sfera pubblica e disperazione, un sorteggio, una lotteria algoritmica da attuarsi semplicemente perchè nessun funzionario pubblico saprebbe dove mettere le mani.

A partire dalla grande crisi economica dei primi anni duemila e successivamente con l’esplosione della bolla dei mutui subprime, molti ex broker licenziati e impossibilitati a riallocarsi nel mercato del lavoro sono rifluiti nella miseria, pur arrivando da background culturali elevati e avendo alle spalle esperienze professionali significative e un alto tasso di scolarizzazione: si sono trovati a contendersi la strada, palmo a palmo con ex veterani del Vietnam, tossicodipendenti, prostitute, e a lottare per ogni cartone, spesso arrivando a sanguinose lotte per poter godere del posto più riparato dal vento o dalla pioggia.

Nel generale quadro di social housing cittadino, a causa della scarsità di alloggi disponibili, è stato realizzato l’algoritmo in parola chiamato a processare sulla base di inespressi e opachi criteri le varie richieste pervenute dai senza tetto; le domande, molto intime e che riguardavano anche le eventuali violenze sessuali subite in strada, i furti patiti, eventuale dipendenza da droghe, l’essere in cura presso un ospedale o presso uno psicoterapeuta, componevano tra loro un approssimativo profilo psicologico, storico, sociale della vulnerabilità del soggetto.

Più il profilo risultava disperato, e meno elementi positivi figuravano nella narrazione nel questionario digitale, più si otteneva un punteggio elevato che garantiva l’accesso a una casa pubblica. Inutile dire che i broker, privi in quella graduatoria della storia di miseria degli altri ma paradossalmente anche meno attrezzati per sopravvivere alla strada, ne sono stati esclusi.

La storia di pregiudizi digitali e bias nei sistemi automatizzati algoritmici, si pensi al caso Loomis, è ormai piuttosto corposa. Uno dei capitoli più sconvolgenti, The Allegheny Algorithm, si focalizza proprio su profilazione e bias cognitivi dei sistemi algoritmici, sul delicatissimo versante dell’abuso sui minori.

Ma la Eubanks va oltre e getta una significativa luce su quella che è una delle logiche sottese al tecno-entusiasmo: la costruzione di una nuova dinamica istituzionale che al centro pone i pochi detentori di ciò che Lawrence Lessig definirebbe il ‘codice’ della tecnologia e nella sempre più estesa periferia relega tutto il resto della popolazione.

Nel capitolo chiamato Dismantling the digital poorhouse, ricostruendo la storia dei servizi sociali statunitensi, la Eubanks osserva come i processi di automazione e di trasformazione algoritmica di molti processi lavorativi finiscano per espungere settori sempre più significativi della popolazione lavorativa: la automazione non rappresenta necessariamente un male ma solo se accompagnata da percorsi di riqualificazione, formazione e rimodulazione delle dinamiche del mercato del lavoro.

Al contrario, molti grandi attori del digitale sembrano propendere per una soluzione diversa: la creazione di un reddito assistenziale che prendendo atto della espunzione di questi soggetti non mira a reinserirli ma semplicemente, e passivamente, a sussidiarli, continuando a lasciarli nella loro condizione di minorità sociale e politica.

Il testo della Eubanks presenta l’innegabile pregio di affrescare una sorta di Furore riaggiornato all’epoca algoritmica: i poveri, i diseredati, i dimenticati che lottano per non scomparire dal sociale, in un mondo accelerato e iper-connesso.

Un esempio, non presente nel testo, rappresenta quanto il volume sia prezioso.

Sempre più città cercano di dotarsi di applicazioni che facilitino i sistemi viabilistici, segnalando ingorghi, incidenti, asperità, ostacoli o voragini. Si tratta di una misura, nella prospettiva del politico di turno, eccellente: emana aroma di innovazione, di novità, di un mondo scintillante che polarizza l’attenzione più sui processi decisionali che non sulla decisione finale e sui suoi effetti reali.

La città di Boston ha realizzato una applicazione apposita, Street Bump, con la quale si possono segnalare le buche su strada; il meccanismo è in realtà automatico, in quanto una volta avviata la applicazione, posizionando lo smartphone sul cruscotto, le segnalazioni connesse alla deviazione della traiettoria del veicolo a causa della singola disconnessione vengono inviate senza che debba pensarci, di volta in volta, l’autista.

E’ una catalogazione delle strade con il maggior numero di asperità. Il problema è che sul lungo periodo le strade che finiscono per ricevere il maggior numero di segnalazioni non sono necessariamente quelle più malmesse, quanto quelle più frequentate da possessori di autoveicoli, smartphone e muniti della app.

Intere aree cittadine, popolate da persone non familiari con la tecnologia o troppo povere per avere uno smartphone, vengono così del tutto fatte scomparire dal radar degli interventi sociali e manutentivi.

In questi casi, il digitale sembra rifluire in una dimensione di comodo alibi per non dover attuare serie politiche pubbliche. E non è cosa fatta bene.

Share on social networks

Ultimo numero Civilità della Macchine

La Rivista - Civiltà delle Macchine

Settembre 2020

Il focus di questo numero è dedicato al doppio anniversario dell’Archivio e della Fondazione Ansaldo, con uno sguardo rivolto anche su Genova. L’intervista al pittore Liu Xiaodong apre invece la sezione sulla Cina; e ancora, un racconto di Barbara Frandino sull’astronomo Aristarco di Samo, e i disegni di Gastone Novelli per “Il bagno di Diana” di Pierre Klossowski.

Museums System

The Leonardo museums bear exceptional witness to the technological and industrial memory and constitute an instrument of dialogue and constant sharing between the company and the territory. They were born out of the awareness that a large part of the industrial culture of our time is not only produced by the great cultural and educational institutions, but is also formed within companies. Living, dynamic structures, corporate museums represent a point of reference for communities and territories, centres of industrial culture open to visitors, researchers, students, economic and cultural operators.

Leggi Tutto
Copyright © 2019 Leonardo S.p.A. Privacy & Cookie Policy