Hay una curiosa obsesión que se está apoderando de nuestras administraciones públicas: quieren salvarnos de todo. De los delincuentes, de los accidentes, de los comportamientos incívicos, de los peligros reales y de los imaginarios. Y, si para conseguirlo tienen que vigilarnos, clasificarnos y seguir nuestros movimientos mediante inteligencia artificial, parece que tampoco les supone un gran problema. Todo, naturalmente, por nuestro bien.
La última muestra la encontramos en dos ayuntamientos españoles. La Agencia Española de Protección de Datos (AEPD) publicó el pasado 6 de octubre sendas advertencias sobre proyectos municipales de videovigilancia dotados de inteligencia artificial (no se ha atrevido a sancionarlos, ni a llevarlos a Fiscalía) . Los nombres de los consistorios aparecían anonimizados, pero los números de los expedientes de contratación permiten identificarlos: Hellín, en Albacete, y Gandia, en Valencia.
Lo interesante es que no comparten color político. Hellín está gobernado por el Partido Popular y Vox, con Manuel Serena como alcalde. Gandia lo está por el PSPV-PSOE y Compromís, bajo la alcaldía de José Manuel Prieto. Distintas ideologías, diferentes discursos electorales y, sin embargo, una coincidencia preocupante: cuando se trata de aumentar la capacidad de vigilancia sobre los ciudadanos, las diferencias parecen diluirse con sorprendente facilidad.
En Hellín, los pliegos contemplan grabadores con funcionalidades de detección o reconocimiento facial. En Gandia, el proyecto es considerablemente más ambicioso: 38 nuevas cámaras, integración de otras 124 ya existentes y un sistema de inteligencia artificial capaz de detectar personas y vehículos, generar datos sobre sus características y realizar búsquedas de individuos a partir de su ropa, su pelo, su sexo aparente, su grupo de edad o una fotografía. El pliego de Gandia llega a establecer que las cámaras analizarán el cien por cien de la escena durante el cien por cien del tiempo, incluso sin que se haya producido un incidente.
Detengámonos un momento en este detalle.
No estamos hablando simplemente de una cámara que registra un posible delito para que un juez pueda disponer después de las imágenes. Estamos ante un proyecto que contempla convertir el espacio público en un entorno susceptible de análisis automatizado continuo, con capacidad de buscar y localizar personas mediante sus características físicas.
La diferencia no es tecnológica. Es democrática. Y conviene precisar algo: la AEPD no ha sancionado a estos ayuntamientos ni ha acreditado que estén utilizando ilegalmente reconocimiento facial. Sus advertencias son preventivas y las funciones previstas no necesariamente se han activado. Pero precisamente por eso resultan tan reveladoras: el problema aparece ya en el momento de decidir qué tecnología queremos comprar y qué facultades pretendemos poner en manos de la Administración.
Seguridad como excusa universal
La palabra «seguridad» se ha convertido en una especie de salvoconducto político. Basta pronunciarla para que cualquier medida parezca razonable. Más cámaras, más bases de datos, más identificación, más algoritmos y más seguimiento. Siempre se empieza explicando que se pretende localizar delincuentes. Casi nunca se explica con el mismo entusiasmo qué ocurrirá con los datos de quienes no han cometido ningún delito. Ahí está el problema.
La inmensa mayoría de las personas que transitan por una plaza, se reúnen con amigos, acuden a una manifestación o simplemente pasean al perro por su ciudad no tienen nada que justificar ante la Administración. No son sospechosas. No necesitan demostrar su inocencia. Y mucho menos necesitan que un algoritmo construya una descripción de su apariencia y facilite su localización a través de una red de cámaras porque un responsable público haya decidido que esa funcionalidad podría resultar útil algún día.
El argumento de que quien no tiene nada que ocultar no debe preocuparse es profundamente contrario a la lógica de los derechos fundamentales. La intimidad y la protección de datos no existen para encubrir delitos. Existen para limitar el poder, también cuando ese poder afirma actuar con las mejores intenciones.
Nuestra Constitución, en su artículo 18.4, estableció hace casi medio siglo algo que algunos responsables políticos parecen haber olvidado: es la ley la que debe limitar el uso de la informática para garantizar los derechos de los ciudadanos, y no la tecnología la que debe ir ampliando las posibilidades de intervención del Estado hasta donde alcance el presupuesto municipal.
La legislación española de protección de datos para fines policiales exige necesidad, proporcionalidad e intervención mínima. Y la normativa europea sobre inteligencia artificial impone restricciones especialmente severas a determinadas formas de identificación biométrica remota en espacios públicos. No son obstáculos burocráticos. Son garantías democráticas.
Ciudadano convertido en dato
Hay además una cuestión que raramente aparece en los discursos de inauguración de estos sistemas: los algoritmos se equivocan.
Una máquina puede estimar incorrectamente la edad de una persona, clasificar mal determinadas características físicas o producir coincidencias que no correspondan con la realidad. Cuando esos resultados intervienen en actuaciones policiales, el error tecnológico deja de ser una simple incidencia informática. Puede convertirse en una sospecha injustificada.
Por eso importa saber quién controla las búsquedas, qué fotografías pueden introducirse, quién consulta los resultados, cuánto tiempo se conservan los datos, cómo se evitan los falsos positivos y qué mecanismos existen para impedir que una herramienta concebida para una finalidad concreta termine utilizándose para otras.
También importa quién audita los sistemas, qué información recibe la ciudadanía y si realmente se ha demostrado que no existen alternativas menos invasivas. La propia AEPD recuerda que disponer de una capacidad tecnológica no constituye, por sí solo, una justificación para utilizarla. Parece una obviedad, pero contiene toda una filosofía de gobierno. Que algo pueda hacerse no significa que deba hacerse y que una Administración pueda comprar una tecnología no significa que esté legitimada para emplear todas sus funciones sobre la población.
Empezar por proteger nuestros derechos
No se trata de negar que existan problemas de seguridad. Ni de sostener que las cámaras sean siempre ilegítimas. La tecnología puede resultar extraordinariamente útil para investigar hechos concretos, proteger instalaciones o responder a amenazas reales.
Pero una democracia no se mide únicamente por su capacidad para descubrir infracciones. También se mide por su disposición a renunciar a determinadas formas de control cuando el precio es una restricción injustificada de las libertades.
La pregunta que deberían hacerse los alcaldes no es cuántas cámaras pueden instalar, qué inteligencia artificial pueden incorporar o cuántas personas serán técnicamente capaces de localizar. La pregunta es qué problema concreto pretenden resolver, qué pruebas acreditan la eficacia de la medida y por qué no pueden conseguir el mismo resultado mediante una intervención menos intrusiva. Y, sobre todo, qué parte de nuestra libertad consideran aceptable comprometer para alcanzar ese objetivo.
Quizás deberíamos empezar a desconfiar de esa Administración paternalista que pretende anticiparse a todos nuestros riesgos mientras parece olvidar que su obligación principal no consiste en dirigir nuestras vidas.
Los ciudadanos no somos menores de edad puestos bajo la tutela tecnológica de nuestros ayuntamientos. Somos los titulares de unos derechos que las instituciones están obligadas a respetar, precisamente cuando resulta incómodo hacerlo. El poder público no debe confundir proteger con vigilar, ni prevenir con controlar, ni gobernar con saberlo todo sobre aquellos a quienes gobierna. Porque hay algo mucho más inquietante que una ciudad donde puedan producirse delitos: una sociedad que, por miedo a que se produzcan, haya terminado aceptando que todos sus habitantes sean tratados como sospechosos potenciales. Y quizás convendría que nuestros gobernantes recordasen una última cosa.
No necesitamos que nos salven de nosotros mismos. Necesitamos que nos protejan de los abusos, incluidos los que pueden cometer las propias administraciones cuando se olvidan de sus límites.
Añadir DiarioSabemos como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.