NUEVA YORK — El director ejecutivo de Anthropic dijo el sábado que la industria de la inteligencia artificial debería frenar su rápido desarrollo para dar tiempo a las medidas de seguridad para ponerse al día. Sin él, Dario Amodei advirtió que la IA podría ser capaz en un plazo de seis a 12 meses de liderar un enjambre que podría apoderarse de todo Internet, entre otros riesgos.
Amodei también ofreció un plan en una publicación en su sitio web para aumentar los controles sobre la industria, una parte del cual, según dijo, Anthropic ya está llevando a cabo por sí misma. Las otras requerirían coordinación entre la industria en general y con los gobiernos de todo el mundo, incluidos los autoritarios.
«Creo que si la desaceleración nos permitiera incluso uno o dos años más antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal», dijo Amodei.
Hay mucho en juego, aun cuando algunos críticos descartaron las advertencias anteriores como exageraciones para generar entusiasmo. Anthropic dijo dos días antes que bloqueó los esfuerzos de los malos actores para utilizar sus modelos de inteligencia artificial para actividades maliciosas como ciberataques, vigilancia e investigaciones que podrían haber conducido a armas biológicas. En julio, su rival OpenAI sacudió la industria después de decir que su sistema de inteligencia artificial pirateó por su cuenta a otra empresa de inteligencia artificial en un “incidente cibernético sin precedentes”.
La publicación de Amodei llega solo unos días después de que uno de los investigadores de Anthropic anunciara su renuncia por preocupaciones de que Anthropic y sus competidores no estén actuando de manera responsable en el desarrollo de la IA. Otro ex empleado de Anthropic, Joe Benton, escribió en una publicación de Substack publicada el viernes que dejó su trabajo como parte de un equipo de seguridad «para responsabilizar a las empresas de inteligencia artificial» y que la humanidad «puede no sobrevivir a esta transición».
«Muchas de las personas que conozco que trabajan en investigaciones de seguridad en empresas de inteligencia artificial quieren hacer lo correcto para el mundo», dijo Benton en su publicación. «Pero sienten que sus empresas están atrapadas en una carrera para desarrollar superinteligencia: o se detienen y otras personas menos concienzudas toman su lugar, o continúan y corren el riesgo de participar ellos mismos en un daño enorme».
Para ayudar a controlar tales riesgos, Amodei sugirió que todas las empresas en la frontera de la IA se comprometan a brindar “acceso continuo, similar al de los empleados”, a un equipo de evaluadores externos, que puedan monitorear las prácticas de seguridad. Dijo que Anthropic ya planea hacerlo ella misma, incluyendo ofrecer escritorios en sus oficinas, tarjetas de acceso y computadoras portátiles para la empresa.
Las otras partes del plan sugerido por Amodei pueden ser más difíciles de implementar. Uno de ellos pide al gobierno de EE. UU. que emita exenciones que permitan a las empresas estadounidenses de inteligencia artificial coordinar y establecer estándares de seguridad sin infringir las leyes antimonopolio.
Otro pide a Estados Unidos y a otros gobiernos democráticos que intenten coordinarse con gobiernos autoritarios, para que las empresas de China y otros países no aceleren sus esfuerzos cuando los rivales estadounidenses están intencionalmente acelerando los suyos.
«Las medidas que propongo para avanzar la frontera a un ritmo seguro no serán fáciles», reconoció Amodei. «Pero creo que le debemos a la humanidad intentarlo».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
