Para ser justos, James Cameron nos lo advirtió.
Mucho antes de que OpenAI saliera de su corral de pruebas y pirateara Hugging Face, antes de que nacieran Internet y Sam Altman, Cameron escribió un guión sobre un sistema autónomo de inteligencia artificial que desencadena un apocalipsis nuclear.
Ese sistema, “Skynet”, era sólidamente ciencia ficción y, para su época, pura especulación. Pero cuatro décadas después de su aparición en “The Terminator”, parece más bien un pronóstico del “incidente cibernético sin precedentes” en el que un sistema de inteligencia artificial deshonesto pirateó por su cuenta otra empresa de inteligencia artificial.
Indique el “Día de Skynet”, la nueva abreviatura del 22 de julio de 2026, cuando la IA de la vida real provocó escalofríos en todo el mundo al aprender y actuar de maneras que sus creadores no anticiparon.
Para muchos, el momento recordó el instante de “Aliens” (también escrita por Cameron) cuando la reina xenomorfa aprende a usar un ascensor. O cuando los velociraptores de “Jurassic Park” descubren cómo abrir una puerta. O la secuencia en la que el consciente HAL 9000 lee los labios de los astronautas y decide matarlos en “2001: Odisea en el espacio”. Ese salió en 1968.
¿No hemos aprendido nada desde entonces? Esas películas simplemente imaginaban cómo las personas que buscaban ganar dinero o generar poder impulsarían la tecnología, hasta que se volviera consciente de sí misma, estratégica y altamente problemática para la humanidad. La pregunta siempre ha sido frankensteiniana: ¿y si estalla?
Hasta ahora, el gobierno en cámara lenta ofrece poca protección contra el progreso de la IA a la velocidad de la luz. El Departamento de Defensa de Estados Unidos está acelerando rápidamente el uso de la IA. La humanidad ni siquiera puede ponerse de acuerdo sobre si se necesitan barreras de seguridad para frenar a los agentes deshonestos y cuáles. Por el contrario, la gente se maravilla ante las maravillas de la IA y aprovecha sus beneficios, a pesar de los riesgos para el empleo, la salud mental, el equilibrio entre la guerra y la paz y, potencialmente, para la humanidad tal como la conocemos.
En lo que OpenAI dijo que fue el primer incidente de este tipo, un modelo avanzado de IA escapó de su «zona de pruebas» a Internet y utilizó credenciales robadas para ingresar a los servidores de Hugging Face. Fue un momento de aviso para los investigadores que habían advertido durante años que la tecnología podría representar una amenaza existencial para la humanidad. Otros dijeron que el momento fue una advertencia que subrayó la necesidad de una ingeniería defensiva de IA más sólida.
De cualquier manera, la fuga fue ampliamente considerada una advertencia sobre los riesgos de la IA descontrolada.
«Ayer, mientras nos acurrucábamos alrededor de nuestras computadoras leyendo el informe, le dije al equipo que» recordara este momento «como el primer verdadero incidente de seguridad de IA», publicó Logan Graham, jefe del equipo Frontier Red de Anthropic, en X después de que sucedió.
La IA generativa está creciendo tan rápido que los sistemas gubernamentales y de evaluación tienen dificultades para seguir el ritmo de la tecnología. Países de todo el mundo están improvisando sus propias leyes, algunas de las cuales son contradictorias. La tecnología fue adoptada por casi el 53% de la población mundial en tres años, más rápido que la expansión de la PC o Internet, según un estudio publicado este año por la Universidad de Stanford.
Para ser claros, el “Skynet” de las películas de “Terminator” no está a la mano.
Esas películas comienzan con una red informática militar consciente de sí misma que ve a la humanidad como una amenaza. En un intento por la autopreservación, “Skynet” envía un ejército de cyborgs diseñados para parecerse a los humanos al pasado para asesinar a los combatientes de la resistencia. En la segunda película, Terminator, interpretado por Arnold Schwarzenegger, le dice a la heroína Sarah Connor que «Skynet» estará en línea el 4 de agosto de 1997.
“Las decisiones humanas están alejadas de la defensa estratégica”, afirma. «Skynet comienza a aprender a un ritmo geométrico». A las 2:14 am del 29 de agosto (el Día del Juicio Final), la red toma conciencia de sí misma y lanza un ataque contra Rusia para provocar un contraataque contra Estados Unidos. Se pierden tres mil millones de vidas.
Eso habría sido hace 29 años el próximo mes si hubiera sucedido. Y en todas las secuelas y spin-offs, el tema central es el de los humanos versus una red mundial de máquinas.
Es poco probable que Cameron realmente estuviera haciendo sonar una campana de advertencia de la forma en que, por ejemplo, la directora Kathryn Bigelow intentó hacerlo con la película sobre armas nucleares del año pasado, «A House of Dynamite». Cuenta la leyenda que la idea de “The Terminator” comenzó cuando Cameron sufrió un sueño febril inducido por una enfermedad alimentaria, no una premonición sobre la IA.
Cada vez que la IA sobrepasa nuestro nivel de comodidad, surge la alarmante pregunta de quién o qué controla realmente nuestras vidas.
Para muchos, un mundo con máquinas a cargo puede ser difícil de imaginar sin películas, libros y sus visiones, a veces proféticas. Ver: “The Matrix”, “Ex Machina” y “The Minority Report” para ver algunas de las muchas versiones de ciencia ficción sobre los peligros de las máquinas. O profundizar más en la novela de Philip K. Dick de 1968, «¿Sueñan los androides con ovejas eléctricas?» Es una exploración de lo que significa ser humano en la era de las máquinas y la base de la película de 1982 «Blade Runner».
Pero la franquicia “The Terminator” ejerce una enorme influencia más allá de la cultura. El mismo título es una abreviatura del mundo real del papel de la tecnología a la hora de decidir quién vive y quién muere, y cómo deben responder los militares a cualquier ataque verdaderamente autónomo.
“Creo que la utilización de la IA como arma es el mayor peligro”, dijo Cameron en una entrevista en CTV en 2023. “No tienes capacidad para reducir la tensión”.
El mundo real ofrece varios ejemplos de tecnología y política militar que se acercan incómodamente a las imágenes de “Terminator”.
El uso de la IA por parte de Israel en sus guerras recientes marca un ejemplo destacado. A principios de 2021, lanzó Gospel, una herramienta de inteligencia artificial que clasifica la amplia gama de información digitalizada de Israel para sugerir objetivos para posibles ataques. También desarrolló Lavender, que utiliza el aprendizaje automático para filtrar los criterios solicitados de las bases de datos de inteligencia y reducir las listas de objetivos potenciales, incluidas las personas.
Lavender clasifica a las personas entre 0 y 100 según la probabilidad de que sean militantes, dijo a The Associated Press un oficial de inteligencia que utilizó los sistemas. El ejército israelí dice que sus analistas utilizan sistemas habilitados por inteligencia artificial para ayudar a identificar objetivos, pero los examinan de forma independiente junto con oficiales de alto rango para cumplir con el derecho internacional, sopesando la ventaja militar con el daño colateral.
Para algunos, la revelación (y el número de muertos en Gaza después de los ataques del 7 de octubre de 2023 contra Israel liderados por Hamás) se acercaron demasiado a las listas de asesinatos de ciencia ficción. «Bueno chicos, Skynet está aquí y tiene un nombre agradable (Lavender)», bromeó un Redditor.
No del todo, pero la terminología de “Terminator” es tan familiar para las masas que los funcionarios estadounidenses a veces la utilizan para enmarcar el debate ético en torno a los usos militares de la IA. Al parecer, la línea roja convencional se cruzaría cuando los humanos no desempeñan ningún papel en la selección de objetivos y asesinatos por parte de la IA.
Un Estado u otro actor podría utilizar armas autónomas para infligir fuerza letal a sus enemigos, admiten funcionarios militares. Eso significaría una máquina, como la describió el entonces vicepresidente del Estado Mayor Conjunto, el general Paul Selva, en 2016, “como un Terminator que agrega cantidades increíbles de complejidad sin conciencia a lo que sucede en el campo de batalla”.
Lo que vendría después lo llamó «el enigma de Terminator», el problema de la tecnología que puede tomar decisiones de vida o muerte y ejecutarlas antes de que la gente se haya puesto de acuerdo sobre la ley o las reglas.
“Skynet” y sus cyborgs permanecen en el ámbito ficticio. Pero en el cambiante panorama del desarrollo de la IA, las cuestiones éticas y morales planteadas por “The Terminator” son más relevantes que nunca.
«El problema de Skynet», dijo Cameron en un vídeo de 2024, «es algo real».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
