Imagine que solicita una prestación social y recibe una respuesta negativa. Cumple los requisitos, ha presentado toda la documentación exigida y, aun así, la respuesta es un no. Intenta averiguar qué ha ocurrido, pregunta, reclama y busca una explicación razonable, pero descubre que su expediente ha sido analizado, al menos en parte, mediante un sistema automatizado cuyos criterios desconoce. Nadie parece capaz de explicarle con claridad por qué se ha llegado a esa conclusión ni quién debe responder si la decisión es errónea.
No se trata de una hipótesis futurista ni de una advertencia sobre un mundo dominado por las máquinas. La inteligencia artificial ya participa en procedimientos administrativos, procesos de selección de personal, sistemas de evaluación y herramientas de gestión que influyen de manera directa en la vida cotidiana de millones de personas. Sus ventajas son evidentes ya que permite procesar grandes volúmenes de información, agilizar trámites y optimizar recursos en ámbitos donde la demanda crece a un ritmo superior a la capacidad de respuesta de muchas organizaciones.
Sin embargo, buena parte del debate público sigue girando alrededor de la productividad, la innovación o la competitividad, mientras una cuestión esencial permanece en segundo plano, ¿qué garantías tiene un ciudadano cuando una decisión automatizada afecta a sus derechos y necesita saber quién asume la responsabilidad de esa decisión?. Porque detrás de cada expediente administrativo existe una realidad concreta, detrás de cada prestación denegada hay una persona que necesita una ayuda y detrás de cada candidatura descartada puede encontrarse alguien que lleva meses buscando una oportunidad laboral.
La desigualdad también puede programarse
Durante años se ha repetido la idea de que las máquinas son más objetivas que los seres humanos porque no tienen emociones, preferencias o intereses propios. La afirmación resulta seductora, pero simplifica una realidad mucho más compleja. Los sistemas automatizados no nacen en un vacío. Son desarrollados por equipos humanos, entrenados con datos históricos y diseñados para identificar patrones presentes en decisiones anteriores, de modo que pueden reproducir errores, sesgos o desigualdades ya existentes.
Un algoritmo destinado a seleccionar candidatos para un puesto de trabajo puede perpetuar patrones discriminatorios acumulados durante años. Una herramienta utilizada para evaluar situaciones de vulnerabilidad social puede ofrecer resultados injustos si los datos sobre los que trabaja son incompletos o están sesgados. Del mismo modo, un sistema diseñado para mejorar la eficiencia de determinados servicios puede terminar perjudicando siempre a los mismos colectivos si no existe una supervisión adecuada sobre su funcionamiento.
Nada de esto significa que la inteligencia artificial sea incompatible con la igualdad o que toda automatización conduzca necesariamente a decisiones injustas. Significa algo mucho más sencillo, la tecnología no es neutral por definición y sus resultados deben estar sometidos a mecanismos de control, evaluación y rendición de cuentas. La experiencia demuestra que los problemas sociales no desaparecen por el simple hecho de digitalizarse; en ocasiones incluso adquieren una apariencia de objetividad que los vuelve más difíciles de detectar y combatir.
Como ocurre con frecuencia, además, los riesgos no se distribuyen de manera uniforme. Quien dispone de recursos económicos puede buscar asesoramiento especializado, recurrir una resolución o acudir a los tribunales. Quien carece de ellos suele quedar atrapado en procedimientos que apenas comprende y frente a los que cuenta con muchas menos herramientas para defenderse. El verdadero peligro no es que los algoritmos se equivoquen, sino que las consecuencias de esos errores recaigan siempre sobre quienes tienen más dificultades para hacer valer sus derechos.
El derecho a comprender una decisión
La Unión Europea ha comenzado a construir un marco regulador específico para controlar los usos más sensibles de la inteligencia artificial y limitar sus posibles impactos sobre los derechos fundamentales. El objetivo es razonable, se trata de aprovechar el potencial de estas herramientas sin poner en riesgo principios esenciales como la igualdad, la protección de datos, la no discriminación o la tutela efectiva de los ciudadanos.
Sin embargo, ninguna regulación será suficiente si en la práctica las personas no pueden comprender las decisiones que afectan a su vida. La verdadera prueba llegará cuando alguien necesite conocer por qué se le ha denegado una ayuda, por qué ha sido descartado en un proceso de selección o por qué un sistema le ha asignado una determinada evaluación. Una democracia avanzada no puede aceptar que una persona quede indefensa frente a una decisión cuyos fundamentos desconoce y ante la que no sabe siquiera quién debe responder.
La Administración no deja de ser responsable porque utilice herramientas digitales. Tampoco una empresa debería poder escudarse en la complejidad de un algoritmo para eludir las consecuencias de una decisión que afecta a trabajadores, candidatos o usuarios. La responsabilidad jurídica, institucional y política debe seguir siendo plenamente humana.
Por eso resulta imprescindible establecer mecanismos de supervisión efectivos, auditorías independientes, procedimientos de revisión accesibles y niveles adecuados de transparencia, de manera que los ciudadanos puedan conocer cómo se adoptan las decisiones que afectan a sus derechos y dispongan de instrumentos reales para cuestionarlas cuando consideren que son injustas.
Modernizar no es desproteger
La inteligencia artificial ofrece oportunidades extraordinarias para mejorar los servicios públicos, agilizar procedimientos administrativos, optimizar recursos y facilitar tareas complejas que consumen tiempo y esfuerzo. Ignorar ese potencial sería tan equivocado como asumir que cualquier innovación tecnológica es positiva por definición.
La cuestión de fondo no consiste en decidir si debemos utilizar estas herramientas, sino en determinar cómo deben utilizarse estas herramientas y qué límites deben regir su funcionamiento cuando están en juego derechos fundamentales. Si la tecnología ayuda a reducir tiempos de espera, mejorar la atención ciudadana y ampliar el acceso a servicios esenciales, estaremos ante una herramienta capaz de reforzar la igualdad. Si, por el contrario, dificulta identificar responsabilidades, complica la defensa de los derechos o aumenta la opacidad de las decisiones, habremos confundido modernización con desprotección.
Por eso conviene recordar que la eficiencia no puede convertirse en una categoría superior a la justicia. Durante décadas, las sociedades democráticas han desarrollado garantías destinadas a limitar la arbitrariedad del poder y a proteger a los ciudadanos frente a decisiones injustas. La incorporación de nuevas tecnologías debería servir para fortalecer esos principios y no para debilitarlos mediante procedimientos que resulten más difíciles de comprender o cuestionar.
Una Administración moderna no es la que sustituye personas por algoritmos, sino la que utiliza la tecnología para prestar mejores servicios sin renunciar a las garantías que protegen a los ciudadanos. Porque cuando una decisión automatizada provoca una injusticia, detrás siempre hay una persona que asume las consecuencias y una institución que debe responder por ellas.
Añadir DiarioSabemos como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.