LONDRES — El rey Carlos III instó el jueves a los altos dirigentes de OpenAI, Anthropic, Google DeepMind y Nvidia a garantizar que la inteligencia artificial permanezca bajo control y al servicio de las personas y el planeta.
La reunión en Escocia fue convocada para discutir cómo la IA puede beneficiar a la sociedad, y llega en un momento crucial para la tecnología, mientras se debate si los rápidos avances pronto la pondrán más allá de la capacidad de los humanos para controlarla.
«El desarrollo de la IA -su sustancia y su ritmo- es a la vez intrigante y profundamente preocupante», dijo el rey en sus palabras de apertura.
Se deben considerar urgentemente los «peligros existenciales de que tales tecnologías caigan en manos equivocadas y se utilicen de manera potencialmente catastrófica», afirmó.
«Entonces, ¿necesitamos medios suficientes de control antes de que sea demasiado tarde?»
El rey pidió a los asistentes, incluido el director ejecutivo de Nvidia, Jensen Huang, y el presidente de Google DeepMind, Demis Hassabis, que consideraran los «principios fundamentales» que deberían guiar el desarrollo de la IA.
La directora financiera de OpenAI, fabricante de ChatGPT, Sarah Friar, también estuvo en la reunión, junto con la ministra británica de IA, Kanishka Narayan. También se esperaba la asistencia de un representante de Anthropic, según un comunicado del Palacio de Buckingham.
La reunión se produce cuando la atención mundial se centra en el vertiginoso progreso de la IA y en las advertencias de que podría salirse de control, amenazando a la humanidad. Se celebró en Dumfries House en Ayrshire, Escocia, sede de The King’s Foundation, que es la organización benéfica del monarca.
Después de que el investigador de Anthropic, Jacob Coxon, causara revuelo al renunciar con una grave advertencia sobre los riesgos potenciales de la tecnología, el director ejecutivo de Anthropic, Dario Amodei, respondió con un ensayo que decía que la industria podría necesitar reducir el ritmo de su trabajo.
Una de sus propuestas fue que las empresas y los países trabajaran juntos en un plan coordinado para tal desaceleración.
El rey, sin nombrar ningún país o empresa, dijo que quería que los participantes de la reunión consideraran cómo aprovechar los beneficios de la IA “con la seguridad en el centro” y cómo “construir cooperación y consenso internacional” para lograrlo.
Charles dijo a los ejecutivos de tecnología que su tarea «no es simplemente hacer avanzar la tecnología, sino garantizar que permanezca firmemente al servicio de la humanidad, la comunidad y el mundo natural».
El debate sobre la desaceleración de la IA ha dividido a la industria. Huang, quien criticó el llamado a la desaceleración, dijo que depende de las empresas individuales desarrollar su tecnología de inteligencia artificial de manera segura y probarla adecuadamente antes de lanzar cualquier producto al público.
«Cuando un producto no es lo suficientemente seguro, debemos frenarlo y mantener la ingeniería. Siempre lo hemos hecho y debemos continuar haciéndolo», dijo en su discurso tras las declaraciones del rey.
En el último informe sobre comportamiento alarmante de la IA, OpenAI informó el miércoles seis incidentes de comportamiento “inesperado o preocupante” por parte de sus modelos, como actuar sin autorización, coordinarse con otros modelos y evadir la supervisión.
Si bien el rey es una figura importante cuyos comentarios sobre cuestiones sociales pueden ser influyentes, gran parte del debate actual sobre la seguridad de la IA se centra en las empresas tecnológicas estadounidenses y su competencia con sus rivales chinos, con Gran Bretaña desempeñando un papel menor pero aún vital.
El Instituto de Seguridad de IA del Reino Unido, una organización de investigación gubernamental, goza de buena reputación y el país produce muchos investigadores de IA, incluidos el presidente de Google DeepMind, Demis Hassabis y Coxon.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
