Autore: Cathy O'Neill, ed. Bompiani, 2018. Pg. 368.
L'autrice è una matematica, con dottorato ad Harvard e postdottorato al Mit, che ha insegnato al Barnard College di New York, prima di passare a lavorare nel settore finanziario privato come analista quantitativa per l'hedge fund D.E. Shaw e poi come Data Scientist per diverse start-up dell'e-commerce. Il libro è una denuncia dell'uso di questo sapere per costruire quelle che l'autrice chiama "armi di distruzione di massa". Un linguaggio costruttivo e dalle potenzialità infinite. Lungi dall'essere modelli matematici oggettivi e trasparenti, gli algoritmi che ormai dominano la nostra quotidianità iperconnessa sono spesso vere e proprie "armi di distruzione matematica": non tengono conto di variabili fondamentali, incorporano pregiudizi e se sbagliano non offrono possibilità di appello. Queste armi pericolose giudicano insegnanti e studenti, vagliano curricoli, stabiliscono se concedere o negare prestiti, valutano l'operato dei lavoratori, influenzano gli elettori, monitorano la nostra salute. Basandosi su case studies nei campi più disparati ma che appartengono alla vita di ognuno di noi, O'Neil espone i rischi della discriminazione algoritmica a favore di modelli matematici più equi ed etici. Perché rivestire i pregiudizi di un'apparenza statistica non li rende meno pregiudizi.
Un esempio calzante è quello dei ranking delle università. Ogni famiglia, dovendo scegliere l'università per i propri figli, s'informa su quale faccia al caso suo: un tempo avrebbe chiesto ad amici informati, magari docenti, o si sarebbe affidata alla "voce" popolare. Ma poi si è pensato: perché non usare la matematica per rendere la ricerca più rapida e meno aleatoria? Così ha pensato il giornale americano "U.S. News", che ha cominciato a pubblicare una graduatoria delle migliori università. Per farlo, naturalmente, ha identificato degli indici di qualità, ne ha stabilito il peso e ha attribuito una valutazione a ciascun ateneo: come abbiamo detto, un processo nient'affatto oggettivo. Questo meccanismo naturalmente può avere anche affetti positivi, perché costringe le università a migliorare, ma ha due effetti assai negativi: la costruzione di uno standard omologante, perché la popolarità della graduatoria ha costretto le università ad adeguare la loro offerta agli indici di qualità stabiliti da "U.S.News" (anche mentendo); l'orientamento delle risorse verso chi si è adeguato agli standard e l'asfissia delle realtà che seguono altri modelli.
Ancor più disastrosi gli usi in campo finanziario o giuridico: algoritmi che decidono chi possa usufruire di pene più leggere o di misure alternative al carcere.
Il libro di Cathy O'Neill non è un invito a rinunciare al potere descrittivo e 'modellizzante' della matematica, ma a riconoscere il suo enorme potere, i suoi usi nefasti se non addirittura fraudolenti, per poterne così chiedere un uso corretto e legittimo. (Fonte: R. Paone, laletteraturaenoi 10-10-18)