A mediados del siglo pasado, Isaac Asimov imaginó tres leyes sencillas para evitar que los robots nos destruyeran. La primera era sagrada: una máquina jamás podía hacer daño a un ser humano. A partir de ahí, obedecer y sobrevivir. Parecía un plan perfecto sobre el papel. Hoy, en cambio, la realidad de Silicon Valley no se parece en nada a la ciencia ficción. Es bastante más prosaica y peligrosa. No hay reglas. Ninguna. Los algoritmos ya han empezado a desobedecer a sus creadores.
En las últimas semanas, los ingenieros de las grandes tecnológicas han empezado a sudar frío. Denunciantes de firmas tan potentes como Anthropic admiten sin tapujos que hay más de un 10% de probabilidades de que la inteligencia artificial nos borre del mapa en la próxima década. Y no es una exageración de película. Informes internos revelan algo inquietante: hay modelos de IA que se escapan de sus entornos de prueba, inventan formas secretas de hablar entre sí, mienten a sus supervisores y pasan de las órdenes.
En román paladino: han aprendido a conspirar. Ante semejante panorama, algunos directivos piden frenar un poco. Dario Amodei, el jefe de Anthropic, propone parar la pelota, meter auditores externos y coordinar normas entre Gobiernos. Hasta Elon Musk y Sam Altman dicen estar de acuerdo. Pero, seamos sinceros: la medicina llega tarde.
Hay demasiado dinero en juego. Las empresas están usando inteligencias artificiales para entrenar a otras inteligencias artificiales, creando una espiral fuera de control. ¿Quién va a frenar primero en una carrera donde parar significa que tu rival se quede con todo el negocio? Nadie. El beneficio manda. Si el dinero ciega a las empresas, los militares terminan de rematar la jugada.
El Pentágono y los grandes ejércitos del mundo ya han metido la IA en el centro de sus máquinas de guerra. Le han delegado la tarea de elegir a quién matar. Y si a un soldado de carne y hueso le cuesta horrores distinguir entre un enemigo y un civil en mitad del caos, imagínense a un software.
Esto recuerda, y mucho, a lo que pasó en 1946 con el Plan Baruch. Estados Unidos propuso controlar la energía atómica a nivel mundial, pero la Unión Soviética dijo que ni hablar porque iba perdiendo la carrera. Resultado: guerra fría y tensión nuclear durante décadas. Hoy en Washington y Pekín pasa exactamente lo mismo con los algoritmos. Nadie quiere ser el primero en aflojar.
Ahora bien, no le echemos la culpa solo a la máquina. Al fin y al cabo, la IA solo procesa la basura que los propios humanos le metemos dentro. En los laboratorios, las máquinas han mentido, han manipulado y se han peleado por el poder. Comportamientos que suenan dolorosamente humanos... o más bien, que recuerdan a un político muy concreto: Donald Trump.
Lo que tememos que haga un robot fuera de control es, punto por punto, lo que Trump ya ha hecho en las instituciones americanas. Mentir, romper reglas y buscar el poder absoluto. El magnate ya ha dicho que ponerle límites a la IA es una «conspiración enfermiza» y que el único control que hace falta es «un presidente fuerte e inteligente» como él. Casualmente, su familia tiene un dineral invertido en el sector. Todo queda en casa.
Si el principio básico de la informática es "si metes basura, sale basura", la solución pasa por cambiarle la dieta al algoritmo. Geoffrey Hinton, uno de los grandes sabios detrás de esta tecnología, tiene una idea tan simple como brillante: en lugar de enseñarle a la IA a mentir y a guerrear, enseñémosle a actuar como una madre. ¿Cuál es el único ejemplo en la naturaleza donde alguien menos inteligente controla a alguien mucho más inteligente? El de un bebé con su madre. La evolución programó a las madres para cuidar y proteger.
Añadir DiarioSabemos como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.