Eduardo Marchesi El uso del reconocimiento facial combinado con la inteligencia artificial es el tema central de una advertencia institucional emitida en Roma el 08 de septiembre por Pasquale Stanzione, la Autoridad Italiana de Protección de Datos. La advertencia destaca dos puntos: por un lado, el valor investigativo de la tecnología y, por otro, el peligro de que su aplicación se convierta en una forma de vigilancia masiva e indiscriminada.
Este equilibrio entre la eficacia operativa y los derechos fundamentales es la base de las exigencias que se le plantean al legislador.
Declaraciones del garante y solicitud de límites reglamentarios
Durante su discurso del 08 de septiembre en Roma, el Garante afirmó que « el reconocimiento facial tiene un valor investigativo significativo si se utiliza de forma limitada y con todas las medidas de seguridad ». Al mismo tiempo, recalcó que la tecnología « no debe, sin embargo, transformarse en una herramienta para la vigilancia masiva e indiscriminada ».
Sobre esta base, se reiteró la necesidad de que los legisladores introduzcan límites y garantías específicas para que la IA pueda contribuir a las investigaciones y la seguridad sin comprometer las libertades en las que se fundamenta la democracia.
Por qué se necesitan reglas claras
La exigencia de normas específicas surge de la observación de que, sin reglas precisas, técnicas poderosas como el aprendizaje automático aplicado al reconocimiento facial pueden utilizarse de maneras que socavan la dignidad y la libertad individuales.
El garante pidió que se estableciera una línea divisoria clara entre el uso legítimo con fines de investigación y la aceptación de una pérdida progresiva de libertades: " Si cruzáramos ese umbral, estaríamos negando el significado mismo de la democracia ", advirtió.
Riesgos reales: falsos positivos, errores y discriminación algorítmica.
En su discurso, Stanzione hizo hincapié en los problemas prácticos y ya observados en el uso de la IA: en particular, el potencial de falsos positivos, errores de identificación y resultados discriminatorios. Pidió explícitamente « medidas que reduzcan el riesgo de falsos positivos, errores de identificación y resultados discriminatorios » para evitar que las herramientas útiles para las investigaciones degeneren en instrumentos de control generalizado.
El Garante también recordó que « el riesgo de discriminación algorítmica que suele caracterizar a los sistemas de inteligencia artificial resulta aún más inaceptable cuando se relaciona con la actividad policial, que afecta de manera tan significativa a la libertad y la dignidad personales ». Esta consideración subraya que las consecuencias de los errores no son solo técnicas, sino que también tienen importantes repercusiones sociales y jurídicas.
Uso inadecuado de bases de datos y limitaciones tecnológicas
Otro aspecto destacado es el potencial de abuso o mal uso de las bases de datos conectadas a sistemas de IA: « La inteligencia artificial aumenta el riesgo de mal uso, o incluso de un uso indebido, de las bases de datos », observó el Garante, añadiendo que la extraordinaria capacidad analítica de la IA es « tan poderosa como vulnerable al riesgo de error ». De ahí la necesidad de herramientas de gobernanza que limiten el acceso, supervisen el uso y garanticen la transparencia en las operaciones de identificación.
El llamamiento conlleva un requisito operativo: toda implementación de reconocimiento facial debe ir acompañada de garantías de procedimiento, controles independientes y medidas técnicas capaces de mitigar errores. Sin estos elementos, existe el riesgo de que las tecnologías diseñadas inicialmente para apoyar las investigaciones se conviertan en instrumentos de vigilancia generalizada.
Directrices implícitas para el legislador
Las observaciones de la Autoridad describen algunas directrices concretas que los legisladores deberían considerar: definir áreas de uso limitadas, establecer salvaguardias contra el abuso de las bases de datos, prever controles sistemáticos sobre la precisión de los algoritmos e introducir medidas correctivas para los efectos discriminatorios. El objetivo declarado es preservar la utilidad del reconocimiento facial para la investigación sin menoscabar derechos constitucionalmente relevantes como la libertad personal y la dignidad.
Las palabras pronunciadas en Roma el 08 de septiembre por Pasquale Stanzione abogan, por tanto, por un equilibrio innegociable: aprovechar las ventajas de las tecnologías emergentes, pero con reglas claras y garantías concretas para prevenir abusos y errores que puedan tener profundas consecuencias en la vida de las personas.