DEPISTAGGIO COGNITIVO da IL MANIFESTO
Saperi. In assenza di un grande collettore politico prevalgono le specializzazioni, manca il dialogo tra i saperi e la frammentazione blocca le potenzialità del pensiero critico. Una parziale cartografia degli studiosi italiani di varie discipline
Cultura, Saperi, Università, Dialogo
5225
post-template-default,single,single-post,postid-5225,single-format-standard,stockholm-core-2.2.0,select-child-theme-ver-1.0.0,select-theme-ver-7.9,ajax_fade,page_not_loaded,,qode_menu_,wpb-js-composer js-comp-ver-6.6.0,vc_responsive

DEPISTAGGIO COGNITIVO da IL MANIFESTO

La discriminazione inevitabile di un sistema ristretto di potere

Scaffale. «Nel paese degli algoritmi» di Aurélie Jean, per Neri Pozza. Una parola aleggia al centro del testo: interpretazione. Non tutto può essere infatti oggetto di astrazione perché incide sulla vita reale delle personeTeresa Numerico  10.03.2021

Aurélie Jean non corrisponde alla rappresentazione classica del nerd che scrive algoritmi per la simulazione scientifica, eppure lo è. Si dedica anche alla divulgazione e ha pubblicato un libro, da poco tradotto in italiano. Nel paese degli algoritmi (Neri Pozza, pp 173, euro 17) è in un certo senso una sua biografia intellettuale. Descrive come abbia cominciato a fare modelli algoritmici professionali misurando l’elasticità delle gomme delle automobili. Ha poi lavorato a calcolare il rischio, anche indiretto, di un trauma cranico in presenza di un’esplosione, a fare previsioni algoritmiche sul mercato azionario per conto di Bloomberg, ha contribuito a una ricerca per simulare lo sviluppo di cellule cardiache in vitro. Attraversando vari campi ha sperimentato alcune criticità dei meccanismi algoritmici. Ritiene, quindi, che ci sia bisogno di una riflessione epistemologica ed etica.

UNA PAROLA ALEGGIA non molto pronunciata, ma incontrovertibilmente al centro del suo progetto: interpretazione. Quando si modella un fenomeno si devono prendere delle decisioni, relative alla sua formulazione matematica. Queste interpretazioni o semplificazioni richiedono l’uso di bias, meccanismi di discriminazione, o pregiudizi, che possono essere espliciti, ovvero adottati consapevolmente dal programmatore, o impliciti, espressi indirettamente nel codice o annidati nei dati per addestrare l’algoritmo a comprendere il fenomeno, oppure relativi alla valutazione dell’output della simulazione. Tali bias sono inevitabilmente soggettivi, cioè costituiscono una ricostruzione situata del fenomeno da modellare. Ogni simulazione, quindi, implica uno sguardo, un vincolo percettivo e cognitivo di chi la esercita.

Il processo di astrazione guarda le situazioni da più lontano e le raggruppa in cluster, discriminando tra loro in merito a somiglianze e differenze. Tuttavia, questo meccanismo – proprio della conoscenza per astrazione, non solo algoritmica . nel caso degli algoritmi si inabissa nella tecnicalità della programmazione che opacizza la consapevolezza del loro carattere soggettivo, valutativo e incerto.

LA DEFINIZIONE DEI CRITERI di astrazione avviene lontano da dove si manifestano i suoi effetti. Ma i vincoli pregiudiziali di chi scrive i programmi e mette insieme i dati di training producono conseguenze concrete per le persone a cui quei modelli si applicano. La procedura algoritmica, infatti, si nutre di astrazioni sui dati, ma ha effetto sulle persone quando le decisioni poi pesano sulla quantificazione del premio assicurativo, sulla definizione dei protocolli di cura che li riguardano, sulla valutazione relativa alla libertà condizionata, sulla possibilità che il proprio curriculum sia selezionato, ecc.

Jean è molto consapevole dei rischi, ma tentenna quando si tratta di definire i limiti degli strumenti tecnici. Attribuisce alle persone che li programmano la responsabilità di includere i loro pregiudizi nel codice, e ha ragione.

MA NON BASTA. I sistemi complessi e automatizzati sono rigidi e opachi per costituzione, e questo impatta sulla loro potenziale iniquità. La sua analisi, a tratti, si rifugia nel soluzionismo tecnologico, pur raffinato.

In certe situazioni complesse dove gli interessi in gioco sono tanti e contrapposti – come di solito nella vita reale delle persone – non esiste una soluzione ottimale dei problemi politici e sociali. Pensare di costruire un algoritmo a cui appaltare la decisione, anche con le migliori intenzioni, non è una buona strategia – nemmeno se i programmatori sono morali e consapevoli. Automatizzare le procedure di valutazione non può essere una scusa per neutralizzare lo sguardo di chi le determina e occultarne il potere.

L’APPARATO TECNICO è di per sé un’incarnazione di un sistema di potere-sapere che esercita gli interessi di chi ne è in controllo, che sono spesso un gruppo ristretto e coeso di maschi bianchi addestrati nelle migliori università private english-speaking. Non è un caso se ad accorgersi delle contraddizioni sia una donna francese, sebbene educata in matematica computazionale, che – come dichiara – non rientra nelle categorie prevedibili. Il suo bagaglio di conoscenze implicite, trasversali le offre la cultura per riconoscere i problemi irrisolti.

Ma bisogna fare in fretta perché l’omologazione culturale è imperante anche nell’ambito dell’educazione. La brama di internazionalizzare la conoscenza – da intendere come colonialismo culturale anglofono dell’università in tutto l’occidente – mette il pluralismo a rischio. La diversità non è un progetto di assunzione nella Silicon Valley, le cui aziende dovrebbero scegliere più donne, più afroamericani o latini, più persone dall’identità sessuale o etnica ibrida, ma accettare di prendere in considerazione modi alternativi di pensare, la varietà dei giudizi e di riconoscere la singolarità delle condizioni delle persone.

Razzismo e discriminazione sono invece l’effetto di meccanismi di generalizzazione avvenuti in modo superficiale e scorretto, dentro un contesto chiuso, privo di contraddittorio. Non tutto può essere oggetto di astrazione, senza condurre a esiti iniqui.

Il depistaggio cognitivo della società meritocratica

Merito. Da Michael Young a Thomas Piketty fino a papa Francesco che, nel discorso del 2017 sull’Ilva, mise in guardia da un’etica che legittima la diseguaglianzaSalvatore Cingari  10.03.2021

Il governo Draghi è stato invocato come dei “capaci e meritevoli” o dei “migliori”. Ma al di là dell’evidente copertura narrativa di una realtà perfino opposta a quella dichiarata, è utile rilevare come il richiamo alla “meritocrazia” non sia stato affatto secondario nel mood della recente svolta politica. Lo dimostra la decisione di chiedere una consulenza alla McKinsey sul Recovery plan. Roger Abravanel, autore del best seller Meritocrazia, che proponeva di disseminare l’Italia di test d’intelligenza per monitorare le performance dei soggetti al lavoro, a sua volta consulente di Maria Stella Gelmini quando era ministro dell’istruzione, considera le pratiche selettive della McKinsey un modello ideale.

Nel discorso di Draghi in parlamento è risuonato l’appello ad una sorta di darwinismo sociale, volto a promuovere un debito sano diretto a premiare soltanto le imprese competitive. Maria Elena Boschi, nella discussione sulla fiducia ha messo l’accento sulla necessità di tornare a valorizzare il rischio contro la regressione a politiche assistenzialistiche. E’ stato nominato fra i ministri – oltre alla stessa Gelmini – Renato Brunetta, che nella riforma del 2009 della pubblica amministrazione promuoveva criteri premianti meritocratici legati alla prestazione. Infine Draghi ha chiamato come stretto collaboratore Francesco Giavazzi, che ha sostenuto la necessità di non investire sui dipartimenti universitari in difficoltà, aumentando le risorse per la ricerca, bensì direzionarle sull’eccellenza e licenziare o sottopagare i docenti “incapaci”.

Tutto ciò non è casuale. Matteo Renzi ha raccolto la spinta degli ambienti confindustriali e mediatici a non mettere in discussione una politica economica tutta basata sulla stimolazione selettiva dell’offerta (aiuti alle imprese competitive) con un ritorno ad alimentare la domanda (investimenti pubblici, ammortizzatori sociali, redistribuzione). Ecco perciò la necessità di invocare un ritorno alla meritocrazia rispetto ad una politica sociale stigmatizzata come assistenzialistica (ristori a pioggia, reddito di cittadinanza etc..). La meritocrazia garantisce consenso perché rimanda ad una moralizzazione della vita pubblica basata su regole certe di assegnazione delle risorse contro favoritismi e corruzione, in un depistaggio cognitivo che fa rimuovere lo sfruttamento spesso perpetrato in forme del tutto legali, all’insegna del rispetto ordoliberale delle regole del gioco della concorrenza.

In realtà il termine meritocrazia è stato inventato da Michael Young negli anni cinquanta del Novecento, in un romanzo sociologico distopico in cui la società è divisa fra un’élite di meritevoli selezionata con un sistema di testing e una massa di lavoratori manuali, tendenzialmente felici di servire in quanto il potere è appunto determinato dal merito, sebbene questo sia poi in realtà legato repressivamente ai valori produttivistici che svalutano ad esempio i meriti dei lavori di cura.

Nel suo ultimo libro Thomas Piketty spiega bene come sia potuto succedere che il lemma abbia assunto una valenza positiva: si tratta infatti di giustificare la riapertura della forbice delle diseguaglianze, ma in un contesto giuridico in cui è tutelata l’uguaglianza dei diritti. La stessa analisi aveva fatto anche Papa Francesco, in un discorso all’Ilva di Genova nel 2017: la meritocrazia colpevolizza il povero come demeritevole e deresponsabilizza il ricco nei suoi confronti, con la conseguente “legittimazione etica della diseguaglianza” e la considerazione del talento non come un dono, ma come un motivo per primeggiare sugli altri.

Questa ideologia ha basato il suo appeal sull’idea che privilegiando meriti e talento, questi avrebbero poi portato l’intera società a migliorare il suo benessere: strategia fallita per le conseguenze della finanziarizzazione per cui l’aumento dei profitti non produce né occupazione né fiscalità da trasformare in servizi. Inoltre è ormai chiaro come il ceto medio americano sia stato letteralmente ucciso dai sistemi meritocratici basati sui test di accesso ai college, determinando di fatto una società di casta.

Quando si parla di meritocrazia difficilmente si indicano quali dispositivi attuare per creare pari opportunità di partenza, né si pensa al fatto che queste ultime rimandino ad una competizione che alla fine riproduce vincenti e perdenti, senza che si tuteli adeguatamente la sfera del bisogno. Quel che non va bene nella meritocrazia non è il riconoscimento del merito, bensì l’illegittima diseguaglianza di potere e diritti che da esso deriva.

In Italia, invece, la distopia meritocratica si è insediata di nuovo nelle istituzioni, in modo più o meno dichiarato, con il sogno di un nuovo macronismo esteso anche ai sovranisti addomesticati della Lega. E sembra che il Pd ne stia per finire travolto, proprio perché non ha saputo mai scegliere fra occuparsi del bisogno e di chi sembra meritare di non averne.