La rendición cognitiva es una expresión moderna para una práctica muy antigua: renunciar al propio juicio porque otro, ahora una máquina, parece hacerlo más rápido, más limpio y con menos bostezos. En el contexto de la inteligencia artificial, el concepto se ha formulado como la adopción de respuestas generadas por IA con un escrutinio mínimo, hasta el punto de sustituir la intuición y la deliberación humanas por una “cognición artificial” externa. Steven D. Shaw y Gideon Nave lo han planteado dentro de una teoría de tres sistemas: pensamiento intuitivo, pensamiento deliberativo y un tercer sistema artificial que puede ayudar, pero también suplantar.
Aplicado a la vida cotidiana, el fenómeno es relativamente fácil de detectar. Alguien pregunta algo a una IA, recibe una respuesta convincente y decide no comprobar nada más. Aplicado a la función pública y al Derecho, la cosa deja de ser una anécdota tecnológica y empieza a parecerse a una avería institucional con interfaz amable.
Porque la Administración no trabaja con ocurrencias. Trabaja con competencia, procedimiento, motivación, expediente, firma, responsabilidad, notificación, recurso, plazo y control. La gracia, si es que puede llamarse así, es que todos esos elementos son precisamente los que suelen desaparecer cuando alguien convierte una respuesta automática en criterio administrativo.
La inteligencia artificial puede resumir expedientes, ordenar antecedentes, detectar contradicciones, comparar versiones, generar borradores, localizar jurisprudencia, estructurar argumentos o proponer matrices de riesgo. Todo eso es útil. Muy útil. El problema no está en usarla. El problema está en usarla como si la Administración fuera una máquina expendedora de textos plausibles.
El Derecho, además, tiene una virtud que desespera a los amantes del botón único: casi nunca basta con saber “qué dice la norma”. Hay que saber qué norma, en qué versión, con qué rango, en qué fecha, para qué sujetos, bajo qué competencia, con qué régimen transitorio, según qué interpretación y frente a qué hechos probados. Un modelo puede producir una respuesta brillante y, aun así, jurídicamente inútil si ignora el matiz que cambia el caso.
La rendición cognitiva en el Derecho no suele llegar vestida de negligencia grosera. Llega con traje de eficiencia. Primero se pide a la IA que “mejore la redacción”. Después que “prepare una primera versión”. Luego que “revise si falta algo”. Finalmente, sin que nadie haya declarado formalmente el golpe de Estado epistemológico, el criterio humano se limita a corregir el tono y añadir un “conforme” al final.
El resultado puede ser elegante, incluso persuasivo. También puede ser falso, incompleto o peligrosamente tendencioso o genérico. Pero como el texto suena a informe, tiene estructura de informe y contiene palabras de informe, alguien decide que probablemente es un informe. Es el viejo milagro burocrático: si lleva membrete, sangría y conclusiones, debe de haber pensamiento dentro.
En la función pública el riesgo es más grave porque la decisión administrativa no es una recomendación privada. Afecta derechos, obligaciones, prestaciones, sanciones, autorizaciones, contratos, subvenciones y expectativas legítimas. La Ley 40/2015 ya prevé la actuación administrativa automatizada y exige identificar previamente los órganos responsables de la definición de especificaciones, programación, mantenimiento, supervisión, control de calidad y, en su caso, auditoría del sistema y de su código fuente, además del órgano responsable a efectos de impugnación.
Esa previsión revela algo elemental: automatizar no significa evaporar la responsabilidad. La máquina puede ejecutar, calcular o asistir, pero alguien debe poder explicar qué se ha hecho, con qué reglas, bajo qué control y quién responde cuando el ciudadano impugna. La Ley 39/2015 reconoce, además, el derecho de los interesados a identificar a las autoridades y al personal bajo cuya responsabilidad se tramitan los procedimientos; repitamos, responsabilidad.
La inteligencia artificial generativa introduce una zona más resbaladiza que la automatización clásica. No siempre decide; a veces solo sugiere. No siempre resuelve; a veces solo redacta. No siempre firma; a veces solo inclina la mano de quien firma. Ahí está precisamente el veneno: cuanto menos visible es la influencia, más fácil resulta fingir que no existe.
El Reglamento Europeo de Inteligencia Artificial intenta poner límites a ese entusiasmo con corbata. Su finalidad incluye promover una IA centrada en el ser humano y fiable, garantizando protección de salud, seguridad y derechos fundamentales; y, para sistemas de alto riesgo, exige que puedan ser supervisados eficazmente por personas durante su uso.
Pero la supervisión humana puede convertirse en una ceremonia vacía. Un funcionario saturado, con una pantalla llena de expedientes, plazos encima y una herramienta que genera respuestas impecables en veinte segundos, no está “supervisando” si solo pulsa aceptar. Está bendiciendo. Y entre supervisar y bendecir hay una distancia jurídica que no cabe en una guía de transformación digital.
En el Derecho pasa algo parecido. Una abogada que usa IA para explorar argumentos trabaja mejor. Una abogada que acepta la salida sin verificar fuentes, vigencia, hechos y encaje procesal trabaja peor, aunque entregue antes. Un juez que utiliza herramientas de análisis documental puede ganar tiempo. Un juez que delega la arquitectura de la motivación entra en terreno pantanoso, aunque la sentencia venga con citas y tono solemne. La solemnidad, conviene recordarlo, también puede automatizarse.
La rendición cognitiva no consiste en que la IA sustituya a los juristas. Consiste en que los juristas se comporten como si su tarea fuera demasiado molesta para ejercerla. Y eso es más triste que futurista.
La solución no es prohibir la IA ni convertir cada uso en una liturgia paralizante. La solución es introducir fricción inteligente: obligación de verificar fuentes, trazabilidad de prompts relevantes, identificación de partes asistidas por IA, revisión humana sustantiva, control de sesgos, contraste de hipótesis, documentación de criterios y formación real. No formación de escaparate con diapositivas de robots sonrientes, sino entrenamiento en duda, prueba, procedimiento y responsabilidad.
En la función pública, la pregunta no debería ser “¿podemos usar IA?”. Debería ser: ¿en qué fases, con qué límites, con qué datos, con qué control, con qué explicación, con qué posibilidad de impugnación y con qué responsable identificable? En Derecho, la pregunta tampoco es “¿puede ayudarme?”. Claro que puede. La pregunta seria es: ¿qué parte de mi juicio estoy dispuesto a no delegar nunca?
La inteligencia artificial puede ser una gran herramienta para la Administración y para el Derecho. Puede reducir ruido, ordenar complejidad y liberar tiempo para pensar mejor. Pero si se usa para dejar de pensar, no estaremos ante innovación pública ni modernización jurídica. Estaremos ante algo bastante más antiguo: burocracia sin criterio, ahora con autocompletado. Y para eso, no hacen falta ni funcionarios ni abogados, ni jueces.
Y lo peor de una Administración que se rinde cognitivamente no es que use máquinas. Es que conserve humanos solo para firmar.