05 marzo 2021

Armi di Distruzione Matematica

  • Di Fausto Matteo Cereti

Come i big data aumentano la disuguaglianza e minacciano la democrazia. Il saggio di Cathy O’Neil.

La creazione della verità in un inciampo a tre tappe. Eccole: scarsa chiarezza, portata e danno.

Ed ecco le ADM, ovvero Armi di Distruzione Matematica (edizione Saggi Bompiani), nell’elaborazione di Cathy o’Neil che – forte della sua esperienza di docente universitaria e data scientist – segnala la diminuzione del “buon senso”.

Cartesio, nel Discorso sul Metodo, evidenzia come il buon senso, inteso come la facoltà di giudicare bene e distinguere il vero dal falso, sia per natura uguale in tutti gli uomini. Ma oggi non è più cosi, o meglio, è cosi sempre in minor misura. E la motivazione di questo arretramento del “buon senso“ non deriva da una involuzione della specie umana ma – anche se non solo – all’utilizzo sempre più diffuso di quelle che appunto Cathy O’Neil definisce Armi di Distruzione Matematica.

Le ADM, nell’analisi che ne fa O’Neil, anziché cercare la verità, la producono mediante punteggi. La creazione della verità è appunto sostenuta e rinforzata dal ciclo di feedback prodotto dall’AMD stessa, di fatto garantendo scientificità a mere opinioni.

La fallacità dei dispositivi in questione è delineata, innanzitutto, dalle mancanze congenite dei modelli su cui sono basati: “Ci sarebbero però sempre degli errori perché i modelli, per loro stessa natura, sono delle semplificazioni. Nessun modello”, così si legge nel saggio, “può includere tutta la complessità del mondo reale o le sfumature della comunicazione umana.

È inevitabile che alcune importanti informazioni vengano tralasciate. Gli angoli ciechi di un modello sono il riflesso delle valutazioni e delle priorità dei suoi creatori. Vediamo in questo caso che i modelli, nonostante la loro imputazione di imparzialità, sono il riflesso di obiettivi e ideologie. I valori e i desideri influenzano le nostre scelte, dai dati che decidiamo di raccogliere, alle domande che facciamo. I modelli sono opinioni radicate nella matematica”.

È evidente come l’utilizzo di modelli predittivi sarà sempre maggiore in futuro, proprio questo probabile aumento deve stimolare una sempre più attenta selezione qualitativa delle informazioni di cui si “cibano” i suddetti strumenti.

Che si tratti di nuovi software per la mappatura del crimine come PredPol o dell’aumento endemico delle “university for profit” statunitensi, i danni causati dalle ADM possono essere di dimensioni gigantesche. Comprenderne la soggettività e la pericolosità è fondamentale per evitare un aumento incontrollato delle diseguaglianze e una ulteriore polarizzazione del tessuto sociale, con tutti i rischi sistemici che ne possono derivare.

Condividi sui Social

Ultimo numero Civilità della Macchine

La Rivista - Civiltà delle Macchine

Maggio 2021

Per ricostruire il paese serve un nuovo rapporto tra testa e mani. Per far ciò è necessario superare il gap formativo esistente tra le competenze scientifiche e quelle umanistiche. Il secondo numero del 2021 di Civiltà delle Macchine è dedicato alle prospettive che si aprirebbero con una trasformazione degli istituti tecnici in licei tecnologici, strumenti fondamentali per il perseguimento di un nuovo umanesimo digitale. Sono intervenuti, tra gli altri, Danco Singer, Marianna Madia, Barbara Frandino, Luciano Floridi, Paolo Crepet, Francesco Palmieri e Antonio Manzini.

Sistema Museale

Il Sistema Museale Integrato si presenta quale realtà unica in Italia comprendente musei, archivi storici e altre realtà espositive proprietà di Leonardo, con l’obiettivo di valorizzare e comunicare la memoria storica e tecnologica del Gruppo.

Con il patrimonio industriale che custodiscono, i Musei e gli Archivi vogliono essere un punto di riferimento culturale per rafforzare l’identità di Gruppo e promuoverla come valore all’esterno.

Il Sistema Museale intende diffondere quell’evoluzione tecnologica che è parte del presente e soprattutto del nostro futuro. Promossi da volontari e seniores, per rivolgersi in particolar modo ai giovani, i musei e gli archivi sono strumenti per la permanenza di una storia nella società, conservandone e tramandandone i valori. Come ponti immaginari da attraversare, qui si racconta quel progresso di cui, ancora oggi, Leonardo è protagonista.

Leggi Tutto
Copyright © 2019 Leonardo S.p.A. Privacy & Cookie Policy