Si parla con sempre maggiore insistenza dei dispositivi di riconoscimento facciale. Per questo la Commissione Europea ha presentato un’articolata proposta per la regolamentazione dell’utilizzo dei sistemi di intelligenza artificiale, con lo scopo di indicarne gli usi consentiti e quelli proibiti per tutelare la privacy e altri diritti dei cittadini europei. Per entrare in vigore, il nuovo regolamento dovrà essere discusso e votato dal Parlamento Europeo e dagli stati membri, processo che richiederà alcuni anni per essere completato.
L’approccio della Commissione è quello di regolare i sistemi di intelligenza artificiale sulla base del contesto e dello scopo con cui vengono utilizzati. A questo scopo vengono definiti tre livelli di rischio, basso, medio e alto, e una quarta categoria definita di “rischio inaccettabile”, che contiene le applicazioni vietate. Tra queste ci sono i sistemi di social scoring, quegli algoritmi che raccolgono i dati digitali dei cittadini (per esempio i loro acquisti online) e li usano per calcolare un punteggio di affidabilità che può influenzare l’accesso all’istruzione o a strumenti di sostegno al reddito. In Cina esistono delle sperimentazioni in questo senso.
LEGGI ANCHE: Singapore, riconoscimento facciale come documento d’identità per servizi online
Un altro tema, già ampiamente discusso prima che la proposta fosse presentata ufficialmente, è legato ai sistemi per riconoscere automaticamente gli individui nelle riprese delle telecamere di sicurezza. La proposta prevede che sia vietato in generale l’utilizzo «in tempo reale» di questi sistemi negli spazi pubblici anche se a scopo di attività condotte dalle forze dell’ordine. Il regolamento prevede però numerose eccezioni, compresa la possibilità di ricorrere al riconoscimento facciale per la ricerca da parte della polizia di sospetti in attività criminali.
Per quest’ultimo caso è citata la necessità di avere un’autorizzazione da parte delle autorità giudiziarie, requisito che secondo diversi critici non costituirà un deterrente per evitare un ricorso eccessivo al riconoscimento facciale. È raro che non siano accordati permessi per svolgere attività di questo tipo, soprattutto se in condizioni di emergenza e quando si rende necessaria la ricerca di una o più persone sospettate di un crimine. Inoltre, si parla di attività di sorveglianza «in tempo reale», cosa che sembra indicare che sia sempre consentito effettuare ricerche con tecnologie per il riconoscimento facciale su immagini già acquisite.
Come era stato segnalato nei mesi scorsi quando erano emerse anticipazioni del testo, il nuovo regolamento sembra mantenere una posizione poco netta nei confronti di tecnologie che potrebbero violare i diritti alla riservatezza dei cittadini. Se da un lato ne vieta l’utilizzo segnalandone i rischi, dall’altro prevede varie eccezioni che di fatto consentiranno alle forze di polizia di effettuare attività di sorveglianza di massa, senza molte garanzie sul trattamento dei dati.
