Abbiamo davvero bisogno del riconoscimento facciale?

Circa due anni fa ho iniziato a occuparmi di tecnologie biometriche, e nello specifico di riconoscimento facciale, quando insieme a due colleghi abbiamo pubblicato la prima inchiesta sull’utilizzo di questo sistema in Italia. Da allora molte cose, davvero molte, sono cambiate, ma una in particolare è rimasta un leitmotiv costante. Quando mi capita di parlare di questa tecnologia in pubblico il discorso è incentrato sull’impatto negativo che ha in termini di discriminazione e categorizzazione, così come di normalizzazione della sorveglianza. Una volta cominciati ad elencare gli aspetti negativi che una tecnologia simile si porta dietro – a mio parere di gran lunga maggiori rispetto a quelli positivi – il pubblico si divide in due: chi concorda su tutta la linea e, scuotendo la testa si chiede dove finiremo di questo passo; e chi, più che dissentire, polemizza scettico: «Non ho niente da nascondere se mi riconoscono in una piazza o per strada con una videocamera», questa è la frase più gettonata.

Una chiave di lettura decisiva per poter descrivere che cosa significhi un mondo dominato dall’utilizzo di tecnologie biometriche e quindi dalla necessità continua di essere scannerizzati come codici a barre, è incentrarsi sul “noi”. Perché noi potremmo aver bisogno del riconoscimento facciale?

In estrema sintesi, oggi, se si vuole attribuire un nome e un cognome al volto di una persona, molto probabilmente si ricorrerà a un sistema di riconoscimento facciale. Utilizzando l’analisi statistica e le previsioni algoritmiche, questo sistema biometrico misura e identifica automaticamente un volto all’interno di una fotografia o un’immagine presa da una videocamera, e lo fa sia in tempo reale che “in differita”. Il primo caso è illecito in Italia, il secondo è invece ciò che dal 2017 fa il Ministero dell’Interno attraverso SARI Enterprise, un sistema di riconoscimento facciale comprato da un’azienda pugliese che permette di identificare un soggetto semplicemente utilizzando il girato di una qualsiasi videocamera pubblica a circuito chiuso. Questo era ciò che voleva fare anche il comune di Como, che è stato costretto a tornare sui suoi passi perché nel nostro paese non vi è una base legale a sostegno e inoltre perché il garante privacy ha storto il naso a causa della mancanza di un giusto trattamento dei dati. In Italia, così come in tutta Europa il dibattito su queste tecnologie si riduce al fatto che possano servire per rendere più sicura la vita delle persone, prevenire attentati o rapimenti di bambini, tralasciando tutta una serie di questioni che si porta dietro.

Quando ad esempio la Polizia di Stato vuole sapere se una persona è stata in un posto specifico (una piazza, una via, una stazione) non fa altro che acquisire le immagini riprese dalle videocamere presenti sul luogo e sottoporle al sistema SARI, il sistema di riconoscimento facciale che ha in dotazione. Ma quest’ultimo non è onnisciente: per capire se chi è inquadrato è Pinco Pallino, il sistema attinge da un database specifico che si chiama AFIS. Dentro il database AFIS ad oggi sono contenute le immagini foto segnaletiche di quasi 10 milioni di persone, di cui 2 milioni – dice il Ministero dell’Interno – sono attribuibili a cittadini italiani mentre i restanti a cittadini “stranieri”. Dunque il sistema ricerca una corrispondenza tra il volto che è inquadrato dalla videocamera e un volto già incluso all’interno di AFIS.

Questi ultimi sono pregiudicati, quindi soggetti che hanno commesso un reato, tra i quali ci sono anche i migranti che arrivano sul nostro territorio via mare o via terra. Anche se, a dirla tutta, il reato di immigrazione è molto diverso da una rapina, un furto oppure un omicidio. In questo senso sembra proprio che la criminalizzazione dei migranti sia inscritta nell’infrastruttura tecnologica italiana, la quale sta profilando perlopiù persone provenienti da “altri” paesi.

In estrema sintesi, oggi, se si vuole attribuire un nome e un cognome al volto di una persona, molto probabilmente si ricorrerà a un sistema di riconoscimento facciale. Utilizzando l’analisi statistica e le previsioni algoritmiche, questo sistema biometrico misura e identifica automaticamente un volto all’interno di una fotografia o un’immagine presa da una videocamera, e lo fa sia in tempo reale che “in differita”.

Se il funzionamento è quello appena delineato, lo scopo, oltre ad attribuire un nome e un cognome al volto analizzato, è anche quello di fornire una valutazione di una persona o di prendere una decisione: l’algoritmo trova una somiglianza tra il volto ripreso e quello di un sospetto? Allora la polizia interverrà per interrogare quella persona, oppure la arresterà. È ciò che è già avvenuto in numerosi casi negli Stati Uniti, in Cina e in America Latina, così come in Russia (anche se per motivi diversi e su soggetti bianchi), spesso ai danni di persone nere e di minoranze etniche, e questo poiché i sistemi di riconoscimento facciale sono attualmente inaccurati.

Come accennato poco più su, una chiave di lettura per rispondere alla considerazione “credo che (noi) potremmo aver bisogno del riconoscimento facciale così come di molti altri strumenti tecnologici” è partire dal presupposto che non esiste un noi unitario, non siamo tutti raggruppabili nella stessa categoria sociale e men che meno abbiamo tutti gli stessi obiettivi, ruoli e poteri nella società. Senza contare poi che “aver bisogno” di queste tecnologie è una considerazione un po’ ambigua.

Proviamo a giocare al vecchio gioco dello scambio dei ruoli, in cui ci immedesimiamo in alcune categorie di persone che hanno vari ruoli nella società e cerchiamo una ragione all’utilizzo di questi sistemi per chiunque di loro.

Se “noi” significa essere un’azienda tecnologica, costruiamo sistemi di riconoscimento facciale – di cui secondo noi c’è bisogno – perché ne trarremo semplicemente profitto. Più riusciremo ad allenare i nostri algoritmi a riconoscere persone cercandone una corrispondenza all’interno di un enorme database, più il nostro algoritmo sarà ben valutato dagli istituti di valutazione e guadagneremo denaro. 

Se “noi” significa essere un’agenzia pubblicitaria, avremo bisogno di sistemi di riconoscimento facciale perché ci offrono uno sguardo non filtrato sulle emozioni e le reazioni che hanno i consumatori guardando in un totem pubblicitario i nostri prodotti. Un’opportunità unica per ottenere informazioni preziose e costruire relazioni con i clienti in futuro, in modo scalabile.

Se “noi”significa essere la polizia, allora cerchiamo i criminali o i potenziali sospetti grazie a SARI, come detto prima. Abbiamo bisogno del riconoscimento facciale perché ci potrebbe aiutare ad essere più veloci nel dare una risposta alla sempre crescente percezione di insicurezza dei cittadini. O per riconoscere ed identificare migranti ancor prima che sbarchino sulle nostre coste, come aveva intenzione di fare proprio il nostro Ministero dell’Interno un anno fa. Per “noi” dovrebbe essere utilizzato anche se è inaccurato e se identifica in modo errato una persona innocente che sarà arrestata al posto di quella colpevole, cosa possibile, perché la tecnologia è imperfetta.

Se “noi” significa essere una multinazionale del food delivery o un’azienda big tech, allora il riconoscimento facciale ci serve per controllare che la persona che sta lavorando a distanza per noi sia di fronte al suo computer.

Se “noi” significa essere un gruppo di hacker malevoli, siamo contenti esistano sistemi di riconoscimento facciale perchè sono vulnerabili e potremmo entrarci all’interno, esfiltrare le identità delle persone riconosciute e vendere a qualcuno un’informazione precisa e sensibile: dov’era in un dato momento, luogo, ora.

Infine, se “noi” significa essere Facebook, ci piace fornire alle persone la possibilità di taggare automaticamente le persone in una foto, andando a spulciare il suo nome e comparandolo a tutte le immagini che sono caricate nei nostri enormi database. 

Si potrebbe fare lo stesso gioco con tutte le parti e categorie che vi vengono in mente, troverete sempre più ragioni che potrebbero portarle a dire “ne abbiamo bisogno tutti”. Curiosamente sono però tutte legate a profitto e sorveglianza, controllo e mercato.

Rimane solo una categoria di persone che ha incredibilmente pochissimi benefici ad utilizzare questa tecnologia: i cittadini e le cittadine “ordinarie”, che non ricoprono nessuno di questi ruoli o che non appartengono a settori di mercato. Forse più compiutamente: che non detengono un potere, quello di agire una tecnologia su qualcun altro.

Possiamo sbloccare l’iPhone o inserire questo sistema tra tutti gli strumenti della domotica, ma insomma, come esseri umani siamo generalmente in grado di riconoscere parenti e amici senza l’assistenza di un computer. E quindi la domanda, anche se con una diversa intonazione, rimane perché abbiamo bisogno del riconoscimento facciale?