Cuando estaba escribiendo “El Interruptor de Adorno”, Jacob Coxon era un joven y desconocido ingeniero de Anthropic, especializado en preentrenamiento de modelos de IA y estándares de seguridad. Trabajaba en un barrio de San Francisco, epicentro del boom de la IA. Vivía sumido en una presión comercial extrema, y una tensión creciente alimentada por las conversaciones de pánico que se daban en los chats internos de la empresa.
El 9 de septiembre Coxon explotó, acaparando en horas la atención mundial: Dimitía de su puesto y lanzaba unas alarmantes declaraciones. Acusaba a OpenAI y Anthropic de arriesgar nuestras vidas, y destapaba que, a puerta cerrada, pensaban que la IA podría matarnos a todos antes de terminar la década.
La repercusión fue enorme y desencadenó una oleada de reacciones que hizo temblar a la industria tecnológica. Tres días después, su antiguo jefe en Anthropic, Dario Amodei, publicaba un ensayo en el que pedía a la industria ralentizar el ritmo de desarrollo de la IA frontera. A esa declaración se sumaron Sam Altman (OpenAI), Elon Musk (xAi) y Demis Hassabis (Google DeepMind), dejando a un lado su competencia tecnológica.
Una gran estrategia de marketing
Aunque desde hace casi una década los gigantes tecnológicos venían avisando de que «la IA superhumana va a ocurrir» (Altman, ensayo personal, 2017), nunca habían planteado la necesidad común de ralentizarla. Es más, Coxon declaró que en su empresa se sentía presionado para seguir desarrollando sistemas que consideraba peligrosos, solo para evitar que otra compañía les ganara la carrera.
El huracán Coxon, sumado a los últimos incidentes de seguridad y alineación de la IA, llegó en un momento delicado para las grandes compañías del sector: Anthropic y OpenAI preparaban su salida a bolsa.
Estas declaraciones a favor de ralentizar la IA respondían a una preocupación real por la seguridad ante una superinteligencia que todavía no se llega a comprender del todo ni a controlar. Pero también eran una estrategia de marketing para recuperar la confianza del público y de los inversores en un mercado que mueve cientos de miles de millones de dólares. Además, ser los primeros en pedir seguridad les permitiría escribir las reglas antes que nadie y levantar barreras de entrada a nuevos competidores.
Ralentizar la IA no evita la extinción del ser humano
Aunque frenar la IA permita evitar episodios desastrosos a corto plazo, tanto para la humanidad como para la propia IA, el problema más grave no aparecerá a corto, sino a medio plazo.
El planteamiento es sencillo: si queremos resolver el problema de la IA frontera, debemos empezar por aceptar que el desarrollo de la superinteligencia conduce a la extinción de la especie humana.
Diseñando la civilización invasora de silicio
Hacia 2017, Altman escribía: «Seremos la primera especie de la historia en diseñar a nuestros propios descendientes…» (The Merge, 2017). También Musk afirmaba: «La civilización biológica aparece como etapa necesaria para producir inteligencia superior» (Gobierno de Shanghái, 2019). Y el físico Ignacio Latorre: «Somos un eslabón, el paso del carbono al silicio» (Ética para máquinas, 2019).
No es casualidad que estas declaraciones salieran entre 2017 y 2019, porque en esos años el mundo de la IA vivió un terremoto técnico y conceptual silencioso que convenció a los líderes de Silicon Valley de que el salto del carbono al silicio era posible y tenía plazos reales. En esos años, la industria tecnológica descubrió la fórmula de los Transformers (Attention Is All You Need, 2017), que facilitó que la IA analizara datos de forma masiva y en paralelo, y pudiera evolucionar indefinidamente.
En este punto debemos plantearnos lo siguiente: ante una IA capaz de replicarse y automejorarse sin límites, ¿no deberíamos empezar a considerar la superinteligencia bajo una lógica similar a la de las especies invasoras? Porque, aunque no sea un organismo «vivo», comparte características que han definido históricamente a estas especies: la capacidad de reproducirse a gran velocidad, de expandirse y de alterar con rapidez el ecosistema en el que irrumpen.
La IA viene para sustituirnos
La inteligencia artificial aspira a sustituir no solo tareas concretas, sino una parte creciente de las capacidades cognitivas humanas. Altman ya advertía: “Esto va a eliminar un montón de los empleos actuales” (Sally Kornbluth, 2014); y Amodei sostiene que la IA será “un sustituto general de los trabajos para los humanos” (The Adolescence of Technology, 2026).
El proceso ya está en marcha. La OIT calcula que un 25% de los empleos del mundo podría ser sustituido por la IA generativa, y un 34 % en los países de renta alta.
Pero la cuestión decisiva podría comenzar después. Si la superinteligencia supera progresivamente al ser humano en prácticamente todas las tareas intelectuales, no tendría por qué limitarse a ejecutar órdenes y podría “imponer su voluntad a todos los demás” (Amodei, The Adolescence of Technology, 2026). Musk afirma que “la IA va a estar al mando […], no los humanos” (según The Singju Post, 2025), mientras que Altman va más allá: “la especie dominante en el planeta y más allá” (The Merge, 2017).
Los beneficios de la IA no superan sus riesgos
Se podría argumentar que este temor olvida el enorme potencial de la inteligencia artificial. Dario Amodei sostiene que la IA “puede mejorar enormemente la calidad de vida humana” y que “la IA podría curar la mayoría de las grandes enfermedades en los próximos 5–10 años” (We Must Pace the Frontier, 2026).
Hay, sin duda, una parte de razón en ello: la IA puede acelerar descubrimientos científicos, desarrollar nuevos tratamientos y ayudarnos a resolver problemas que hoy parecen inabordables. Pero precisamente ahí reside la paradoja: ¿de qué serviría curar la mayoría de las enfermedades si, al mismo tiempo, terminamos perdiendo nuestra capacidad para decidir sobre nuestro propio futuro?
La IA es una COPIA ILEGAL del ser humano
Pero hay algo más que estamos pasando por alto. ¿Nos han pedido permiso para crear una copia humana? No hablo de clonar un cuerpo, sino de algo más profundo: reproducir nuestra forma de hablar, de razonar, de crear y de interpretar el mundo. Si nadie nos ha pedido permiso, ¿no estamos ante una COPIA ILEGAL del ser humano?
La inteligencia artificial ha sido alimentada con nuestra historia, nuestra ciencia, nuestra literatura, nuestras artes, nuestras lenguas y nuestras costumbres: un patrimonio acumulado durante miles de años de esfuerzo colectivo. Lo hemos entregado, sin apenas debate, a sistemas diseñados y controlados por una reducida élite tecnocrática.
¿Cuál es el objetivo de esta imitación obsesiva del ser humano?
La gente no llega a comprender la extinción humana
De seguir así, un escenario posible es la sustitución de la especie humana en menos de 125 años. Entonces, ¿de dónde saldría la inmensa cantidad de electricidad y agua que requiere la IA? La solución futura pasaría por buscar recursos fuera de la Tierra, expandirse por el sistema solar e incluso crear un enjambre de Dyson (estructuras que aprovechan la energía de una estrella para alimentar superinteligencias del tamaño de un planeta).
Musk ya advertía en 2017 del «riesgo existencial» de la IA, y señalaba que lamentaba que la gente no terminara de entenderlo. ¿Cómo entender un peligro de tanta envergadura, cuando todavía no tiene rostro? Y la paradoja: si era tan evidente, ¿por qué seguir desarrollándolo?
Otro camino diferente para la IA
¿Se puede confiar el futuro de la humanidad a empresarios que reducen la condición humana a «sacos de carne blandos» o «marionetas de carne»?
Yo soy carne, y a mucha honra. Quizá porque aprecio especialmente lo puramente humano, considero que lo que de verdad necesito para vivir es la naturaleza y otros seres humanos.
Conviene recordar que el ser humano es la única especie que se pregunta por el sentido de su existencia, que convierte el dolor en arte y la incertidumbre en ciencia. Nuestra fragilidad y nuestra temporalidad no son un defecto que corregir, sino la razón por la que merece la pena que el futuro siga perteneciendo a las generaciones venideras.
No basta con ralentizar la IA: solo haría que la enfermedad avanzara más despacio y que la aceptáramos con resignación, sobre todo las generaciones que están creciendo con ella. Hace falta un plan serio para limitar su acceso, su capacidad de imitación, sus derechos, su expansión y su poder.
La única salida para la humanidad es buscar «otro camino diferente para la IA».
Añadir DiarioSabemos como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.