Washington– Dos destacados legisladores progresistas, el senador Bernie Sanders y el representante Greg Casar, presentarán el miércoles una legislación que prohibiría la superinteligencia artificial y crearía una agencia federal para supervisar la IA avanzada, mientras algunos de los propios líderes de la industria instan al Congreso a imponer barreras al avance de la tecnología.
El proyecto de ley, proporcionado por primera vez a The Associated Press, también suspendería el desarrollo avanzado de IA hasta que se implementen las pautas mientras se crea el Departamento de Inteligencia Artificial. Varios empleados de empresas líderes en inteligencia artificial están respaldando el proyecto de ley.
«No hace falta ser un genio para decir ‘reduzca la velocidad'», dijo Sanders, I-Vt., en una entrevista con AP. «¿Realmente queremos desarrollar una superinteligencia que cuando sea más inteligente que los seres humanos pueda actuar independientemente del control humano? No creo que queramos».
Hasta ahora, el Congreso ha hecho poco para frenar la industria de la IA, incluso cuando algunos de sus líderes más destacados advierten sobre riesgos potencialmente catastróficos. El presidente Donald Trump se ha resistido a los recientes llamados a una mayor supervisión gubernamental, lo que lo ha puesto en desacuerdo con líderes tecnológicos como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk de xAI.
La legislación prohibiría permanentemente la superinteligencia artificial, que define como un sistema que excede la capacidad cognitiva humana o tiene capacidades suficientes para planificar y ejecutar la destrucción o el desempoderamiento de la humanidad.
Pausaría temporalmente el desarrollo de los sistemas de inteligencia artificial más avanzados hasta que un nuevo Departamento de Inteligencia Artificial establezca nuevas reglas federales de seguridad. Los sistemas avanzados de IA necesitarían entonces aprobación federal antes de poder implementarse. Las violaciones podrían acarrear sanciones importantes, incluidos hasta 20 años de prisión en algunos casos.
Varios empleados actuales de empresas de inteligencia artificial y expertos firmaron en apoyo del proyecto de ley, según un comunicado compartido con AP.
Juan Felipe Cerón Uribe, investigador de Sistemas de Seguridad de OpenAI, dijo en un comunicado apoyando el proyecto de ley que «la superinteligencia podría ir extremadamente bien o extremadamente mal» y que «no deberíamos jugar a esos juegos».
Swante Scholz, un ingeniero de software de Google DeepMind que dijo que no hablaba en nombre de su empleador, dijo que en el actual camino de desarrollo, “el resultado más probable es una catástrofe existencial para la humanidad”.
«Una prohibición del desarrollo de superinteligencia sería un cambio positivo para el futuro previsible», dijo Scholz en un comunicado.
El proyecto de ley de Sanders y Casar enfrenta muchas dificultades en el Congreso controlado por los republicanos, donde los legisladores han luchado por unirse en torno a regulaciones de IA aún menos radicales.
Pero ofrece una ventana a cómo el ala progresista del Partido Demócrata está abordando la regulación de la IA antes de las elecciones intermedias de noviembre y de una campaña presidencial de 2028 en la que se espera que la tecnología sea un tema cada vez más destacado. Casar, un demócrata de Texas, es el presidente del Grupo Progresista del Congreso.
Los posibles candidatos presidenciales para 2028 se han apresurado en las últimas semanas a publicar propuestas que demuestran que se están tomando el tema en serio. El gobernador demócrata de Maryland, Wes Moore, anunció el martes un plan para regular la IA, mientras que el gobernador demócrata de California, Gavin Newsom, firmó la semana pasada una orden ejecutiva para acelerar la implementación de una ley de California que exige una supervisión independiente de las empresas de IA.
Sanders, dos veces candidato presidencial y que ahora tiene 85 años, se ha centrado especialmente en el tema en los últimos meses. En junio, presentó una legislación para crear un fondo soberano financiado mediante un impuesto único sobre las acciones de las mayores empresas de inteligencia artificial. La semana pasada, recibió a colegas para una sesión informativa con expertos y también asistió a una conferencia centrada en el tema junto con republicanos, incluido el exasesor de la Casa Blanca Steve Bannon.
El debate sobre las regulaciones de la IA ha alterado las alianzas políticas tanto en Washington como entre los votantes de todo el país.
Los estadounidenses se han preocupado más por los impactos ambientales de la inteligencia artificial durante el último año, según una encuesta reciente de The Associated Press-NORC Center for Public Affairs Research y el Energy Policy Institute de la Universidad de Chicago.
Los datos de la encuesta dicen que alrededor de la mitad (53%) de los estadounidenses están “extremadamente” o “muy” preocupados por los impactos ambientales de la inteligencia artificial. Eso es más que el 41% del año pasado. Los demócratas están impulsando gran parte del aumento de la preocupación ambiental, pero la encuesta también revela preocupaciones más amplias sobre el impacto local de los centros de datos, que impulsan la inteligencia artificial y la computación en la nube.
Si bien algunos líderes de la industria han pedido nuevas salvaguardias, Trump ha presionado en la dirección opuesta. El martes, Trump dijo ante la Asamblea General de las Naciones Unidas que la inteligencia artificial pasará a llamarse «superinteligencia».
«Creo que Trump comprende muy poco de qué se trata este tema», dijo Sanders. «Creo que lo que más le preocupa son las implicaciones económicas de una desaceleración».
Se espera que la seguridad de la IA sea una parte central de las conversaciones entre Trump y Xi Jinping de China en la Casa Blanca esta semana mientras los países compiten por el dominio en el sector. La perspectiva de una desaceleración del desarrollo en Estados Unidos mientras China continúa adelante también ha sido uno de los argumentos centrales contra las restricciones generalizadas.
Sanders argumentó que evitar las formas más peligrosas de IA requeriría en última instancia cooperación entre los dos países, comparando el desafío con el control de armas nucleares durante la Guerra Fría.
«Ronald Reagan, ultraconservador, fue lo suficientemente inteligente como para comprender que tenía que sentarse con Gorbachev, un comunista, y elaborar un tratado nuclear que protegiera a la humanidad», dijo Sanders. «Creo que podemos hacerlo de nuevo ahora».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
