Edoardo Marchesi Il tema dell’uso del riconoscimento facciale associato all’intelligenza artificiale è al centro di un richiamo istituzionale pronunciato a Roma il 08 SET da Pasquale Stanzione Garante della Privacy. L’appello evidenzia un duplice punto: da un lato il valore investigativo della tecnologia, dall’altro il pericolo che la sua applicazione possa trasformarsi in una forma di sorveglianza massiva e indiscriminata.
Questo equilibrio tra efficacia operativa e diritti fondamentali è il fulcro delle richieste rivolte al legislatore.
Dichiarazioni del Garante e richiesta di limiti normativi
Durante l’intervento del 08 SET a Roma, il Garante ha affermato che “il riconoscimento facciale ha una rilevante utilità investigativa se utilizzato in maniera circoscritta e con ogni garanzia“. Parallelamente, ha sottolineato che la tecnologia “non deve trasformarsi, però, in uno strumento di sorveglianza massiva e indiscriminata“.
Su questa base è stata ribadita la necessità di introdurre dal legislatore specifici limiti e garanzie affinché l’IA contribuisca alle indagini e alla sicurezza senza compromettere le libertà su cui si fonda la democrazia.
Perché servono norme chiare
La richiesta di norme puntuali nasce dall’osservazione che, senza regole precise, tecniche potenti come il machine learning applicato al riconoscimento facciale possono essere impiegate in modi che ledono la dignità e la libertà individuale.
Il Garante ha invitato a tracciare un confine netto tra l’uso legittimo a fini investigativi e l’accettazione di una progressiva perdita di libertà: “se superassimo questa soglia, negheremmo il senso stesso della democrazia“, ha ammonito.
Rischi concreti: falsi positivi, errori e discriminazione algoritmica
Nel suo intervento Stanzione ha posto l’accento su problemi pratici e già osservati nell’uso dell’IA: in particolare la possibilità di falsi positivi errori di identificazione e risultati discriminatori. Ha chiesto esplicitamente “misure che possano ridurre pericoli di falsi positivi, errori di identificazione e risultati discriminatori” per evitare che strumenti utili alle indagini degenerino in strumenti di controllo esteso.
Il Garante ha inoltre ricordato come “il rischio di discriminazione algoritmica che spesso caratterizza i sistemi di Intelligenza artificiale, è tanto più inaccettabile se correlato all’attività di polizia, che incide in maniera così rilevante sulla libertà e la dignità personale“. Questa considerazione mette in luce che le conseguenze degli errori non sono solo tecniche, ma hanno impatti sociali e giuridici rilevanti.
Uso indebito di banche dati e limiti tecnologici
Un altro aspetto enfatizzato è il potenziale abuso o l’uso scorretto delle banche dati connesse ai sistemi di IA: “Con l’intelligenza artificiale si estende rischio di uso indebito o anche solo scorretto di banche dati“, ha osservato il Garante, aggiungendo che la straordinaria capacità analitica dell’IA è “tanto potente quanto non immune dal rischio di sbagliare“. Da qui la richiesta di strumenti di governance che limitino accessi, monitorino l’uso e garantiscano trasparenza nelle operazioni di identificazione.
L’appello porta con sé un invito operativo: ogni implementazione di riconoscimento facciale deve essere accompagnata da garanzie procedurali, controlli indipendenti e misure tecniche in grado di mitigare gli errori. Senza questi elementi, il rischio è che tecnologie inizialmente pensate per supportare le indagini diventino leve di una sorveglianza pervasiva.
Linee guida implicite per il legislatore
L’insieme delle osservazioni del Garante indica alcune direttrici concrete che il legislatore dovrebbe considerare: definire ambiti circoscritti di impiego, stabilire tutele contro l’abuso di banche dati, prevedere verifiche sistematiche sull’accuratezza degli algoritmi e introdurre rimedi per gli effetti discriminatori. L’obiettivo dichiarato è preservare l’utilità investigativa del riconoscimento facciale senza compromettere diritti costituzionalmente rilevanti come la libertà e la dignità personale.
Le parole pronunciate a Roma il 08 SET da Pasquale Stanzione richiamano quindi a un equilibrio non negoziabile: sfruttare i vantaggi delle tecnologie emergenti, ma con regole chiare e garanzie concrete per prevenire abusi e errori che possono avere conseguenze profonde sulla vita delle persone.