Las voces líderes de la industria de la IA rara vez están de acuerdo, por lo que cuando lo hacen, no es de extrañar que capten la atención.
Dario Amodei de Anthropic, Sam Altman de OpenAI, Elon Musk de SpaceXAI y otros destacados líderes de la industria han dicho en los últimos días que el desarrollo de la IA debe desacelerarse. El consenso se produjo después de que un investigador de Anthropic dimitiera con una terrible advertencia sobre las amenazas que la tecnología representa para la humanidad.
Pero obstáculos como la competencia nacional y global, las motivaciones de ganancias y la reacción del presidente Donald Trump obstaculizan un esfuerzo coordinado para acelerar el desarrollo de la IA.
Aún así, este momento podría obligar a la industria a luchar con una «replanteación de lo que consideramos exitoso», dijo Nick Reese, ex director de política de tecnología emergente en el Departamento de Seguridad Nacional y profesor adjunto en la Universidad de Nueva York.
«¿Qué pasaría si consideráramos el éxito de la IA de la misma manera que consideramos el éxito de las aerolíneas? A tiempo y sin haber tenido un accidente en quién sabe cuánto tiempo», dijo Reese. «No toleramos los accidentes de líneas aéreas comerciales, pero sí toleramos fallos importantes de la IA».
En teoría, las principales startups de IA podrían frenar el progreso de sus modelos en cualquier momento. Pero los avances en la tecnología han surgido en parte de la competencia para construir modelos aún más potentes, todo con la bendición de una Casa Blanca que no quiere que Estados Unidos pierda su ventaja sobre China. Anthropic y OpenAI también están compitiendo hacia ofertas públicas potencialmente récord en Wall Street, aunque este último dijo que pospondrá su salida a bolsa este año mientras continúa con sus esfuerzos de seguridad.
Es por eso que las propuestas presentadas por la industria dependen de la colaboración mutua y, hasta cierto punto, de la regulación gubernamental.
Amodei publicó recientemente un extenso ensayo en el que esbozó un plan para frenar el desarrollo avanzado de la IA.
Una propuesta exige que las empresas a la vanguardia de la IA, a menudo llamadas laboratorios fronterizos, se comprometan a dar “acceso continuo, similar al de los empleados”, a evaluadores externos independientes. Los equipos de evaluadores tendrían oficinas, tarjetas de acceso y computadoras portátiles de la empresa para poder monitorear las prácticas de seguridad.
Anthropic se está “comprometiendo unilateralmente” con este paso ahora, escribió Amodei. Altman lo calificó como una “gran idea” en las redes sociales y dijo que OpenAI hará lo mismo.
Altman dijo que acogía con agrado un «marco federal» que estableciera estándares de seguridad para la IA avanzada, pero dijo que la empresa no necesitaba esperar a que se aprobara una legislación o una exención antimonopolio antes de abordar la seguridad de la IA.
El ensayo de Amodei también pedía regulación e intervención gubernamental, incluida la coordinación entre empresas fronterizas de IA con la ayuda del gobierno de Estados Unidos y los gobiernos de otros países democráticos. Dijo que espera que los laboratorios líderes puedan establecer «estándares de seguridad comunes, así como límites al ritmo de progreso no controlado de la IA».
El plan de Amodei también incluye que Estados Unidos y otros países trabajen para coordinarse con “gobiernos autoritarios”. Reconoció la dificultad, citando específicamente los desafíos para obtener cooperación de China.
El director de Anthropic describió varios niveles de acuerdo que los líderes globales podrían firmar. Lo más factible, dijo, sería un acuerdo que prohíba «ciertos usos limitados y obviamente peligrosos de la IA», como producir armas biológicas o permitir que los usuarios las hagan. Más difícil sería lograr que Estados Unidos y sus adversarios aceptaran probar modelos antes de su lanzamiento, posiblemente a través de un organismo de estándares global, para detectar riesgos en áreas como la ciberseguridad o las amenazas biológicas.
Aún más difícil sería establecer un “límite de velocidad” para los modelos de IA que pueden desarrollar por sí solos versiones mejoradas de sí mismos, lo que se conoce como superación personal recursiva.
«Disminuir el ritmo de ‘extremadamente rápido’ a ‘sólo algo rápido’ da una ventaja estratégica relativamente pequeña, mientras que potencialmente mejora enormemente la seguridad», escribió Amodei.
Hizo una analogía con los tratados de la época de la Guerra Fría en los que «limitar el número de misiles limitaba el potencial de destrucción y al mismo tiempo preservaba el poder disuasorio de cada país».
Amodei dijo que la propuesta más difícil de implementar sería un “ritmo completo, o incluso una ‘pausa'», mediante la cual los gobiernos participantes acuerden limitar sustancialmente la tasa general de desarrollo de la IA.
En un artículo en las redes sociales, Altman dijo que el “ritmo” del desarrollo de la IA no significa detenerse. El progreso de la IA seguirá siendo rápido, dijo Altman en X. «Pero debería ser más lento de lo que podría ser de otra manera; las intervenciones como los casos de seguridad y el monitoreo tienen costos significativos».
«El ritmo bien valdrá este costo», dijo, añadiendo que «ninguna presión competitiva estadounidense debería justificar la imprudencia».
Si bien los expertos dijeron que la sensación de acuerdo en toda la industria es prometedora, quedan muchas preguntas sin respuesta.
Una desaceleración es posible “en teoría”, dijo Sandra Wachter, profesora de tecnología y regulación en el Oxford Internet Institute.
Pero en la práctica, «requeriría una coordinación y cooperación sustancial entre empresas y gobiernos de todos los países», algo que ella considera «muy poco realista» debido al «estado actual del mundo».
Las opciones para promover una desaceleración, dijo, incluyen que los gobiernos hagan más para responsabilizar a las empresas de inteligencia artificial por los riesgos que plantea su tecnología y apliquen regulaciones que limiten su acceso a la electricidad, el agua y otros recursos que alimentan los centros de datos.
La idea de incorporar evaluadores externos dentro de las empresas ha sido bien recibida en su mayoría por la industria, pero algunos críticos cuestionaron cuán independientes podrían ser los evaluadores y cómo se redactarían los estándares de evaluación. El resultado podría ser una concentración aún mayor de poder, escribió Aidan Gómez, cofundador y director ejecutivo del laboratorio canadiense de inteligencia artificial Cohere, en respuesta al ensayo de Amodei.
«Un puñado de los laboratorios más poderosos con sede en un país acordarían estándares compartidos y los límites a la rapidez con la que debe avanzar la tecnología», dijo Gómez.
También rechazó la idea de Amodei de que el gobierno de Estados Unidos otorgue exenciones a los laboratorios fronterizos para eludir las restricciones antimonopolio.
«Si esta es la tecnología más importante en la historia de la humanidad, entonces las reglas para ella no pueden ser escritas por un pequeño grupo de compañías comercialmente alineadas detrás de una exención antimonopolio», dijo Gómez.
Elham Tabassi, director de la Iniciativa de Inteligencia Artificial y Tecnología Emergente e investigador principal de la Brookings Institution, dijo que hasta que las medidas a las que se comprometen las empresas se solidifiquen y se hagan públicas, tener auditores independientes sería una medida “proporcionada voluntariamente y controlada por la empresa”.
Tabassi dijo que es fundamental que las empresas de IA sigan invirtiendo en el desarrollo de formas «científicamente válidas» de probar y medir sus modelos en su objetivo de aumentar la seguridad. Sin esto, la regulación no tendrá tanto poder, afirmó.
La administración Trump ha favorecido durante mucho tiempo un enfoque ligero hacia la industria de la IA con la esperanza de que la innovación florezca y que el desarrollo de la IA en Estados Unidos supere a China.
La competencia entre empresas de IA estadounidenses y chinas se ha comparado con una carrera armamentista, que según los expertos no favorece la colaboración. Eso crea “condiciones en las que ahora tenemos este adversario existencial”, dijo Reese.
Aún así, algunos líderes de la industria mantienen «cautelosamente esperanzadas» en que el desarrollo de la IA avance en una dirección más orientada a la seguridad, dijo Zahra Timsah, cofundadora y directora ejecutiva de la plataforma de gobernanza i-GENTIC AI.
«En cuestión de días, hay directores ejecutivos que compiten; todos ellos, de repente, encontraron puntos en común. Hay senadores de ambos partidos que comenzaron a promover diferentes formas de supervisión», dijo Timsah.
«Está recibiendo atención, pero atención no es lo mismo que implementación. ¿Funcionará realmente? No lo sé».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
