NACIONES UNIDAS — Los jefes de las principales empresas de inteligencia artificial pidieron el miércoles a las Naciones Unidas que salven al mundo o al menos a su gente, regulando de alguna manera la tecnología de rápida expansión que han estado diseñando.
«Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto», dijo Dario Amodei, director ejecutivo de Anthropic. Y de su competidor Sam Altman, director ejecutivo de OpenAI, llegó esta evaluación: «Podríamos perder el control del futuro ante la IA».
Ambos dijeron que los países del mundo, a través del Consejo de Seguridad de la ONU, donde testificaron el miércoles, tienen que establecer salvaguardias de algún tipo para evitar que la tecnología se vuelva demasiado poderosa como para controlarla.
También pidieron al mundo que se asegure de que el poder de la IA no se concentre en una sola empresa o país. También promocionaron los beneficios de la tecnología para mejorar la humanidad y lo que Altman llamó «dar a las personas más poder sobre sus propias vidas».
Esos líderes tecnológicos “nos están diciendo en términos crudos que no se les puede dejar a ellos evitar que el desastre ocurra en el mundo”, dijo el Secretario de Relaciones Exteriores británico, Ed Miliband, en el Consejo de Seguridad. «No podemos ignorarlos porque tienen razón».
Miliband dijo que cuando el Reino Unido lidere el G20 el próximo año, pondrá el control de la IA en el centro de las discusiones, buscando un conjunto único de estándares globales «para garantizar que el desarrollo de la IA sea seguro».
Pero Estados Unidos dijo: no lo hagas.
Las preocupaciones sobre el control de la IA “no son motivo para detener su desarrollo futuro o limitarlo con una nueva estructura de gobernanza global”, dijo el asesor científico de la Casa Blanca, Michael Kratsios. «Queremos que ustedes, nuestros aliados y socios, compartan los beneficios de esta tecnología».
Estados Unidos y China están luchando por el dominio de la IA, y el embajador chino en la ONU, Fu Cong, enfatizó que todos los países deberían poder elegir la tecnología de IA como mejor les parezca.
Advirtió contra “unirse en una pequeña camarilla de nosotros contra ellos en el sector tecnológico y obligar a otros países a tomar partido” y permitir a grandes potencias no identificadas que describió como buscando “hegemonía digital”. En cambio, hizo un llamado a los países para que promuevan modelos de código abierto: el enfoque de China hacia la tecnología.
Para la mayoría de los líderes mundiales, una pregunta clave sobre la IA es la siguiente: ¿quién debería controlar las decisiones de vida o muerte: los humanos o las máquinas?
Amodei, Altman y el director ejecutivo de Hugging Face, Clément Delangue, que hablaron a través de una conexión remota con fallas, hablaron con el consejo más poderoso de la ONU porque ellos y los líderes mundiales están tratando de determinar no sólo si controlar la IA, sino quién, cómo podría hacerlo y cuándo podría ser demasiado tarde.
El día anterior, el secretario general de la ONU, Antonio Guterres, advirtió sobre los “robots asesinos”. Los expertos y los líderes europeos dijeron que eso no es una hipérbole sino algo que ya es una triste realidad o está peligrosamente cerca.
Amodei pidió a los líderes mundiales que se pongan de acuerdo para no permitir que la IA fabrique armas biológicas, que descubran cómo verificar qué modelos tienen la capacidad de hacerlo y que “establezcan estándares comunes” para las pruebas y la pérdida de control y el uso indebido.
El Ministro de Asuntos Exteriores francés, Jean-Noël Barrot, cuyo país convocó la reunión del miércoles, comparó el estado actual de la IA tanto con la computadora fuera de control HAL9000 de la película “2001: Una odisea en el espacio” como con los albores de la era atómica.
«Al igual que con el átomo en aquel entonces, la comunidad internacional debe ahora regular la IA para aprovechar al máximo su potencial y evitar lo peor», dijo Barrot.
La suya no fue la única preocupación expresada durante esta semana de reuniones de alto perfil de la ONU.
«No debemos permitir que el costo de las vacilaciones de hoy se convierta en la catástrofe de mañana», dijo el embajador de Liberia ante las Naciones Unidas, Lewis G. Brown II.
El presidente ucraniano, Volodymyr Zelenskyy, hablando en la Asamblea General, dijo que pronto se debe lograr algún tipo de control humano sobre las máquinas. De lo contrario, dijo, para su país, que lleva cuatro años y medio en guerra, puede que sea demasiado tarde.
«Ya existe una posibilidad real de que la IA, y no sólo las personas, comience a decidir lo que sucede en el campo de batalla. Y necesitamos la paz antes de llegar a ese punto», dijo Zelenskyy.
El mes pasado, un dron ruso que aparentemente utilizaba IA «tomó de forma autónoma una decisión de selección que mató a tres ucranianos. Los robots asesinos son técnicamente fáciles de construir y son reales. De lo contrario, no deberíamos hacernos ilusiones», dijo en un correo electrónico Kentaro Toyama, profesor de tecnología de la información en la Universidad de Michigan.
El científico de datos Rumman Chowdhury, cofundador de la organización sin fines de lucro Humane Intelligence, dijo que la idea de robots asesinos “evoca a un villano de ciencia ficción, cuando la pregunta que quiero que el público haga es mucho más concreta: ¿Quién autorizó a una máquina a seleccionar y atacar a un objetivo, bajo qué restricciones y quién responde por el resultado?”
La reunión de la ONU se desarrolló mientras el presidente chino, Xi Jinping, se dirigía a Washington para una visita de Estado muy esperada. Los intereses de AI están atentos a lo que surja de las conversaciones de Xi con el presidente estadounidense, Donald Trump. Anteriormente, el secretario del Tesoro de Estados Unidos, Scott Bessent, dijo que los dos países habían discutido un posible nuevo “mecanismo de notificación” para incidentes de IA que podrían afectar la seguridad nacional.
Pero el martes, Trump, elogiando a la IA como “superinteligencia”, dijo que Estados Unidos rechazaría los esfuerzos por controlar la tecnología mientras intenta ganar la carrera de desarrollo con China. Kratsios fue uno de los pocos que utilizó ese término en el Consejo de Seguridad.
Mientras tanto, grupos regionales en Europa, Asia y otros lugares también están tratando de coordinar políticas de IA, y varias naciones (e incluso subcomponentes, como los estados de EE. UU.) están elaborando las suyas propias.
___
Farnoush Amiri, Edith M. Lederer y Jennifer McDermott contribuyeron a este informe desde las Naciones Unidas.
___
La cobertura climática y ambiental de Associated Press recibe apoyo financiero de múltiples fundaciones privadas. AP es el único responsable de todo el contenido. Encuentre los estándares de AP para trabajar con organizaciones filantrópicas, una lista de partidarios y áreas de cobertura financiadas en AP.org.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
