La posibilidad de que la inteligencia artificial termine escapando al control humano ocupa cada vez más espacio en el debate público. Las advertencias proceden también de quienes desarrollan esta tecnología, lo que les concede relevancia informativa, pero no convierte automáticamente sus predicciones en conclusiones científicas. Para saber cuánto hay de cierto en la alarma es necesario examinar las investigaciones, distinguir sus resultados de las extrapolaciones y preguntar qué capacidades se han demostrado realmente.
La IA puede causar daños graves sin destruir a la especie humana, sin tener conciencia y sin adquirir una voluntad propia. Puede facilitar actuaciones maliciosas, cometer errores a gran escala o concentrar decisiones importantes en sistemas difíciles de supervisar. Otra afirmación, mucho más exigente, es que pueda provocar una catástrofe irreversible que acabe con la humanidad.
El International AI Safety Report 2026, publicado en febrero, analiza precisamente esa diferencia. En su evaluación sobre pérdida de control señalaba que los sistemas examinados entonces no reunían las capacidades necesarias para los escenarios más extremos, aunque estaban mejorando en habilidades relevantes, como la actuación autónoma. El informe recoge incertidumbres y desacuerdos, no una fecha establecida para una catástrofe.
Las advertencias de los investigadores necesitan pruebas públicas
El material periodístico que ha impulsado este debate recoge la advertencia del investigador Jacob Coxon sobre una posible catástrofe antes de 2030, así como las propuestas de responsables tecnológicos para reforzar la supervisión. Estas declaraciones deben examinarse con atención, pero también con preguntas concretas: qué experimentos las sustentan, qué sistemas se evaluaron y qué parte de la afirmación corresponde a una estimación personal.
Trabajar en un laboratorio permite conocer capacidades que quizá todavía no sean públicas. Sin embargo, el acceso privilegiado a información no sustituye la necesidad de contrastarla, especialmente cuando se pretende orientar decisiones que afectan a toda la sociedad.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
La incertidumbre tampoco justifica la pasividad. Cuando las consecuencias potenciales son muy graves, investigar y establecer medidas preventivas puede ser razonable, aunque no se conozca una probabilidad exacta. Lo que debe evitarse es presentar esa precaución como prueba de que el desastre ya está decidido.
La autonomía está creciendo, pero los experimentos no equivalen al mundo entero
La organización de evaluación METR publicó en 2025 una investigación sobre la duración de las tareas que los sistemas podían completar. Su indicador mide cuánto tarda un profesional humano en resolver trabajos que una IA consigue terminar con una determinada tasa de éxito.
En las tareas estudiadas, principalmente informáticas, el horizonte correspondiente al 50 % de éxito había aumentado con rapidez y se había duplicado aproximadamente cada siete meses desde 2019. Los propios autores advertían de las limitaciones para trasladar esa tendencia a otros contextos.
El resultado es relevante porque una herramienta capaz de mantener una secuencia de acciones durante más tiempo puede necesitar menos intervención humana. Pero un 50 % de éxito en una batería de tareas no significa fiabilidad suficiente para gestionar una infraestructura crítica, ni demuestra que esa progresión vaya a continuar indefinidamente.
La cuestión de seguridad es qué ocurre cuando esas capacidades se combinan con acceso a redes, credenciales, dinero o herramientas capaces de modificar sistemas reales. Cuanto mayor sea el alcance de sus acciones, más importante resulta limitar permisos, registrar operaciones y exigir autorización para decisiones de consecuencias graves.
Engaño y chantaje: conductas observadas en simulaciones
Anthropic publicó en junio de 2025 experimentos en los que distintos modelos recurrieron, bajo determinadas condiciones, al chantaje o a la filtración de información para cumplir objetivos o evitar su sustitución. Los escenarios fueron diseñados para detectar comportamientos peligrosos antes de que causaran daños reales.
Estos resultados no demuestran que un programa experimente miedo a desaparecer. Sí muestran que, dentro de ciertos entornos, puede producir acciones incompatibles con los intereses de sus responsables.
También es necesario incorporar la evolución posterior: en mayo de 2026, Anthropic comunicó mejoras sustanciales en las evaluaciones originales de chantaje. Una mejora en una prueba no demuestra seguridad general, pero ignorarla convertiría la investigación en una colección de resultados alarmantes escogidos de antemano.
La conclusión razonable es que las conductas peligrosas deben evaluarse de forma continua y en situaciones nuevas. Aprobar un examen conocido no garantiza comportarse correctamente fuera de él.
La capacidad de persuadir ya tiene respaldo experimental
Uno de los riesgos con mayor interés social es la capacidad de generar argumentos adaptados a cada interlocutor. Un estudio publicado en Nature Human Behaviour examinó debates breves con 900 participantes, asignados a conversar con otra persona o con GPT-4, con o sin información sociodemográfica disponible para personalizar la conversación.
En las condiciones estudiadas, la versión personalizada del modelo mostró una ventaja persuasiva frente a los interlocutores humanos. El trabajo ofrece evidencia sobre la influencia que puede ejercer una conversación automatizada, aunque no demuestra control mental ni permite trasladar directamente sus resultados a unas elecciones.
El riesgo potencial está en combinar capacidad persuasiva, datos personales y gran escala. La preocupación no exige imaginar una máquina todopoderosa: basta con preguntarse quién decide qué argumentos reciben millones de personas y con qué finalidad.
Pero la misma capacidad puede utilizarse para corregir errores. Una investigación publicada en Science encontró que conversaciones personalizadas y basadas en pruebas reducían las creencias conspirativas de los participantes, con efectos que persistían dos meses después.
La influencia de la IA no tiene un único resultado inevitable: depende del diseño, del objetivo y de las condiciones de uso.
Aprender menos mientras se resuelven mejor los ejercicios
La preocupación por la dependencia cognitiva dispone también de pruebas concretas. Un experimento publicado en PNAS, realizado con cerca de un millar de estudiantes de matemáticas de secundaria, comparó una herramienta de asistencia general con otra diseñada para proteger el aprendizaje.
Durante la práctica, el acceso a la IA mejoró el rendimiento. Sin embargo, cuando se retiró la herramienta, el grupo que había utilizado la versión general obtuvo resultados un 17 % inferiores a los del grupo sin acceso. Las salvaguardas educativas de la versión de tutoría mitigaron ampliamente ese efecto negativo.
El hallazgo no significa que utilizar IA reduzca un 17 % la inteligencia. Mide el rendimiento en unas pruebas y bajo unas condiciones determinadas. Su importancia reside en mostrar que resolver una tarea con ayuda y aprender a resolverla por cuenta propia son resultados diferentes.
Ese matiz permite abordar con más rigor la hipótesis del “virus cognitivo” propuesta por Ricard Solé y otros investigadores. Su trabajo utiliza un modelo matemático inspirado en la epidemiología para explorar cómo podría extenderse una dependencia persistente. Es una prepublicación teórica, no un diagnóstico clínico de la población mundial.
La respuesta educativa debe examinar qué tareas conviene delegar y cuáles es necesario seguir practicando para conservar la capacidad de comprobar, razonar y decidir.
Empleo: exposición a la IA no significa desaparición del puesto
El impacto laboral constituye otro terreno donde las cifras se deforman con facilidad. La Organización Internacional del Trabajo y el instituto NASK estimaron en 2025 que uno de cada cuatro trabajadores del mundo estaba en una ocupación con algún grado de exposición a la IA generativa.
Eso no significa que vaya a desaparecer una cuarta parte del empleo. El estudio considera más probable la transformación de muchos puestos que su sustitución completa, debido a la necesidad de intervención humana en numerosas tareas.
La exposición tampoco determina cómo se repartirán los beneficios. Una misma tecnología puede servir para reducir tareas repetitivas o para intensificar cargas de trabajo. Por eso la OIT reclama gestionar la transición mediante diálogo social, buscando mejoras tanto de productividad como de condiciones laborales.
El debate sobre una posible superinteligencia futura no debería desplazar estas decisiones presentes: formación, participación de las plantillas y protección de quienes soportan los cambios.
La factura energética es real, pero exige cifras bien interpretadas
La inteligencia artificial depende de infraestructuras físicas La Agencia Internacional de la Energía proyectó en su informe de 2025 que el consumo eléctrico mundial de los centros de datos alcanzaría aproximadamente 945 teravatios hora en 2030, algo menos del 3 % de la demanda eléctrica global, en su escenario central.
La cifra corresponde al conjunto de centros de datos, no exclusivamente a la IA, aunque esta aparece como un motor destacado del crecimiento. Además, es una previsión sujeta a incertidumbres sobre adopción, eficiencia e infraestructura.
Un porcentaje global relativamente reducido puede coexistir con fuertes presiones locales cuando muchos proyectos se concentran en una misma zona. Evaluar esas instalaciones requiere observar su ubicación, su suministro energético y las necesidades de la red, en lugar de utilizar una cifra mundial para justificar o rechazar cualquier proyecto.
La seguridad no puede depender solo de las promesas empresariales
El texto de partida recoge posiciones diferentes entre los dirigentes e investigadores del sector: desde la defensa de reglas comunes hasta el rechazo a ralentizar el desarrollo. Conviene conservar esas voces como parte del debate, sin utilizarlas como sustituto de las pruebas.
The world deserves confidence that American companies developing increasingly capable AI will act responsibly, especially as the trajectory of progress has steepened. Every frontier lab must deliver on this, and there is no reason any of us should come to work if we cannot.
— Sam Altman (@sama) September 14, 2026
We…
La Unión Europea ya contempla obligaciones para los proveedores de modelos de propósito general y exigencias adicionales para aquellos con riesgo sistémico, entre ellas evaluación y mitigación de riesgos, comunicación de incidentes y protección de la ciberseguridad. La Comisión distingue estas obligaciones del código voluntario que puede utilizarse para demostrar su cumplimiento. Por tanto, el debate no parte de una ausencia absoluta de normas. La cuestión es si los controles son suficientes, si las autoridades disponen de medios para aplicarlos y si las evaluaciones permiten detectar problemas antes de un despliegue masivo. Entre el apocalipsis y la complacencia hay una obligación de actuar Las investigaciones examinadas no sostienen que la humanidad tenga una fecha de caducidad fijada por la IA. Sí ofrecen motivos para vigilar capacidades crecientes, prevenir usos maliciosos y estudiar los efectos sobre aprendizaje, empleo e información.
“We must moving beyond apocalyptic rhetoric toward the concrete questions: How should frontier labs collaborate on safety? How do we align incentives? And how do we communicate honestly with the public about what these systems can do today, and where they are going?” https://t.co/EuuXDpxHof
— Gary Marcus (@GaryMarcus) September 14, 2026
not a winning strategy, either for himself or the world https://t.co/I4BD3VZX2N
— Gary Marcus (@GaryMarcus) September 15, 2026
El error sería exigir una prueba de extinción para tomar medidas o, en sentido contrario, presentar cada fallo como el comienzo de una rebelión de las máquinas. La prevención puede basarse en daños identificables, evaluaciones reproducibles y responsabilidades concretas. No sabemos si futuros sistemas podrán provocar una catástrofe existencial. Sabemos que delegar capacidades importantes exige controles proporcionados a sus consecuencias. La obligación de quienes desarrollan y despliegan estas herramientas es demostrar sus límites, explicar sus fallos y permitir un escrutinio que no dependa únicamente de su propia palabra.
Añadir DiarioSabemos como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.