Contro le ingiustizie degli algoritmi guardiamo alla ribelle Antigone

Nel volume “Antigone e gli algoritmi” Nicola Lettieri indaga su come resistere ai codici informatici inaccessibili che regolano e plasmano la vita sociale (*)

Nel febbraio 2020, con una pronuncia che segna un passaggio importante nella riflessione sull’impatto sociale delle tecnologie dell’informazione, il Tribunale distrettuale dell’Aja ha dichiarato l’illegittimità di SyRI, algoritmo sviluppato su impulso del Ministero degli affari sociali olandese per combattere le frodi al sistema previdenziale.
Alimentato da archivi pubblici contenenti grandi quantità di dati personali e sensibili, SyRI (acronimo di “System Risk Indication”) ha per diversi anni stimato la propensione dei cittadini a frodare lo Stato assegnando a ciascun individuo un indice di rischio usato dalle autorità per disporre controlli fiscali.

Oltre a rilevare l’impossibilità di stabilire con certezza natura e consistenza dei dati analizzati, la sentenza ha stigmatizzato l’opacità dei criteri impiegati dall’algoritmo per valutare il rischio di frode.

In queste circostanze la Corte ha ravvisato la compressione di garanzie fondamentali offerte dalla Convenzione Europea dei Diritti Umani consistenti, rispettivamente, nel riconoscimento del diritto alla vita privata e nel divieto di discriminazione.

Letta nella sua essenza, la vicenda di SyRI costituisce solo un esempio del processo attraverso cui le tecnologie dell’informazione entrano a far parte dei meccanismi di regolazione della vita sociale.
Gli algoritmi non operano solo classificazioni funzionali all’applicazione di regole giuridiche – stabilendo, ad esempio, se una persona è un buon dipendente, un debitore affidabile o un criminale a rischio di recidiva – ma sempre più spesso diventano essi stessi – si pensi agli smart contract – fonte di effetti giuridici vincolanti.
Il punto è che, come mostra il caso SyRI, oltre a promettere imparzialità ed efficienza, la regolazione algoritmica apre il varco a forme inedite di ingiustizia che non scaturiscono da testi di legge, ma da un codice informatico inaccessibile al quale è spesso impossibile opporsi.

Il volume appena pubblicato di Nicola Lettieri, Antigone e gli algoritmi. Appunti per un approccio giusfilosofico (Mucchi, Modena, 2020, collana “Prassi sociale e teoria giuridica”, 97 pp., 13 euro.

 Clicca qui per la scheda editoriale)

indaga presupposti e forme della resistenza all’ingiustizia algoritmica prestando un’attenzione particolare al ruolo che il diritto è chiamato a svolgere in questo contesto.

Il testo invita a lavorare in due direzioni tra loro complementari. Se per un verso – si sostiene – è necessario che il mondo giuridico migliori la propria capacità di identificare e comprendere gli effetti concretamente prodotti dall’evoluzione algoritmica del diritto stesso, per altro verso vanno immaginate nuove strategie e nuovi strumenti per arginare i rischi derivanti da un uso improprio della tecnologia a fini regolativi.
La proposta formulata in quest’ottica ruota intorno a un’integrazione sempre più profonda tra discipline diverse.
Alla filosofia del diritto, primo destinatario dello scritto, è assegnato l’indispensabile compito di inquadrare sul piano teorico le implicazioni ordinamentali, etiche e sociali del “diritto delle macchine”. Lo svolgimento di questa funzione essenziale viene associato a un dialogo con altre aree di ricerca – dall’informatica alle scienze sociali computazionali – cui spetta fornire conoscenze empiriche e strumenti fondamentali per abilitare nuove e più efficaci forme di critica, di controllo democratico e anche di resistenza rispetto a certi esiti.

* docente di Scienza dell’amministrazione all’università di Trieste

(Globalist)