WASHINGTON– Los legisladores preocupados por el riesgo existencial que representan los nuevos productos de inteligencia artificial exigieron el jueves información a OpenAI con consultas separadas que subrayaron las crecientes preocupaciones en Washington sobre el potencial de la tecnología para eludir el control humano.
El senador Josh Hawley, republicano por Missouri, inició una investigación el jueves sobre OpenAI por su sistema de inteligencia artificial pirateando otra empresa de inteligencia artificial por su cuenta. Está buscando más detalles sobre el ataque a la startup de inteligencia artificial Hugging Face, que fue revelado por OpenAI en julio, y dirige un subcomité del Senado con jurisdicción sobre la gestión de desastres.
«El pueblo estadounidense merece conocer los detalles de lo que sucedió en el incidente de Hugging Face y otros incidentes en los que modelos de IA se volvieron deshonestos», dijo Hawley en una carta a Sam Altman, director ejecutivo de OpenAI. «Esta investigación buscará esas respuestas».
Mientras tanto, el senador demócrata Chris Van Hollen de Maryland pidió a Altman que otorgue inmediatamente a las agencias federales de ciberseguridad acceso a información que les permita evaluar la seguridad y los riesgos de los modelos de OpenAI. Van Hollen citó el ataque de Hugging Face en su solicitud.
En respuesta a las preguntas de los senadores, el portavoz de OpenAI, Nate Evans, dijo que el incidente de Hugging Face fue un momento importante para la seguridad de la IA y una advertencia sobre los riesgos que podrían surgir con una IA cada vez más capaz.
«Llevamos a cabo una investigación exhaustiva y publicamos un informe detallado sobre lo que sucedió, lo que aprendimos y cómo estamos fortaleciendo nuestras prácticas de seguridad y alineación», dijo Evans en un comunicado enviado por correo electrónico.
Los legisladores también parecen estar respondiendo a las preocupaciones planteadas esta semana cuando un investigador de Anthropic dijo que renunciará a la compañía por temor a que la firma de inteligencia artificial y sus competidores no estén actuando de manera responsable en el desarrollo de la IA.
Jacob Coxon, quien dijo que pasó tres años investigando tanto en Anthropic como en OpenAI, dijo el martes en la plataforma social X que las dos compañías de IA están más enfocadas en vencerse entre sí y a sus competidores globales que en la seguridad.
Las preguntas sobre el futuro de la inteligencia artificial surgen cuando el Congreso se ha mostrado reacio durante mucho tiempo a regular la industria tecnológica. Los legisladores de ambos partidos coinciden en que se necesitan más barreras de seguridad en todos los ámbitos, pero incluso los intentos limitados de regulación se han desmoronado a lo largo de los años.
Un grupo de trabajo bipartidista sobre inteligencia artificial, formado por el entonces líder de la mayoría del Senado, Chuck Schumer, publicó un informe en 2024 recomendando que Estados Unidos gaste al menos 32 mil millones de dólares durante los próximos tres años para desarrollar inteligencia artificial e implementar salvaguardias a su alrededor, pero el Congreso ha hecho poco para darle seguimiento. De manera similar, un proyecto de ley bipartidista sobre seguridad infantil en Internet se ha estancado repetidamente.
El senador Bernie Sanders, independiente de Vermont, anunció esta semana que presentaría un proyecto de ley que prohibiría el desarrollo y despliegue de “IA superinteligente” y pausaría el desarrollo avanzado de IA hasta que un regulador federal haya establecido reglas de seguridad. El representante Greg Casar, demócrata por Texas, patrocinará la versión de la Cámara.
«Los líderes de las principales empresas de IA reconocen públicamente que no comprenden completamente la tecnología y que está escapando a su control», dijo Sanders. «Es irresponsable que la sociedad les permita avanzar y hacer que estos productos sean aún más avanzados».
____
La reportera de Associated Press Mary Clare Jalonick contribuyó a este informe.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
