El director ejecutivo de Meta, Mark Zuckerberg, dijo que depende de cada empresa de inteligencia artificial asegurarse de que su tecnología sea segura, distanciándose de los llamados de empresas rivales para una desaceleración coordinada en el desarrollo de inteligencia artificial avanzada.
Los comentarios que Zuckerberg publicó en las redes sociales siguieron a una propuesta del director ejecutivo de Anthropic, Dario Amodei, que rápidamente encontró el apoyo de líderes tecnológicos, incluidos Sam Altman de OpenAI y Elon Musk en SpaceXAI.
Las advertencias de los investigadores sobre las amenazas potenciales de la tecnología a la humanidad han provocado un debate entre los líderes de la industria sobre la mejor manera de controlar la tecnología antes de que pueda escapar del control humano.
Las empresas de inteligencia artificial ya están motivadas para desarrollar sus modelos de manera segura y enfrentan una “responsabilidad significativa” para evitar que causen daños, dijo Zuckerberg.
«Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias acciones para garantizar que eso suceda», escribió en X.
Zuckerberg, que no nombró a Anthropic ni a ninguna otra empresa, publicó días después de que Amodei esbozara un plan de tres pasos para garantizar la seguridad de la IA, incluida una propuesta para que las empresas y los países coordinaran una desaceleración en su desarrollo.
Zuckerberg dijo que Meta retrasó la liberación de su agente Muse AI durante varios meses para garantizar su seguridad.
«No pedimos a todos los demás que hicieran esto antes que nosotros», dijo.
Las empresas deberían priorizar la construcción de modelos de IA seguros en lugar de sistemas que puedan mejorarse automáticamente, una función conocida como automejora recursiva, escribió Zuckerberg.
«Dedicar la gran mayoría de la informática al servicio de las personas en lugar de correr hacia la superación personal recursiva es una de las mejores formas de garantizar que desarrollemos esta tecnología de forma segura».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
