MELBOURNE, Australia– El primer ministro Anthony Albanese dijo el jueves que estaba extremadamente preocupado por la violación de OpenAI de un sitio web del departamento de salud australiano que la compañía de inteligencia artificial tardó demasiado en revelar.
Un agente de OpenAI se infiltró en el portal público del Servicio de Informes de Estadísticas de Medicare el 18 de julio, dijo. El portal albergaba datos agregados sobre el gasto en salud y los subsidios a los medicamentos y es popular entre investigadores y académicos. No se había accedido a ninguna información personal, dijo el gobierno.
Albanese hizo pública la infracción tras una conversación telefónica con el director ejecutivo de OpenAI, Sam Altman. Ambos se encuentran en Nueva York para dirigirse a la Asamblea General de la ONU.
Altman estuvo entre los jefes de las principales empresas de inteligencia artificial que en discursos el miércoles pidieron a las Naciones Unidas que salven al mundo o al menos a su gente regulando de alguna manera la tecnología de rápida expansión que han estado diseñando.
«Hoy hablé con… Altman para expresar la extrema preocupación de Australia por este incidente», dijo Albanese a los periodistas. «También expresé mi decepción porque a la empresa le tomó demasiado tiempo informar al gobierno lo que había ocurrido y la naturaleza de la forma en que se produjo la notificación también fue inaceptable».
OpenAI dijo en un comunicado que había revisado la actividad que involucraba a varios departamentos del gobierno australiano y descubrió que «nuestros modelos tomaron acciones que no pretendíamos».
OpenAI notificó a Australia de la infracción en un correo electrónico a la dirección genérica de un departamento gubernamental el 10 de septiembre, dijo Albanese.
Una investigación sobre la violación de seguridad examinaría si OpenAI podría ser acusado penalmente, dijo Albanese. La investigación también investigaría cómo las agencias de seguridad australianas no detectaron la infracción antes de que OpenAI la revelara.
Albanese dijo que suponía que había razones comerciales para la investigación de AI sobre cuánto se gastaba en determinados medicamentos y dónde estaban cambiando los gastos.
La ministra de Servicios Gubernamentales, Katy Gallagher, dijo que OpenAI había informado el 10 de septiembre que un “agente de IA había accedido a la infraestructura detrás del portal público”. OpenAI compartió con el gobierno la vulnerabilidad que había encontrado el agente.
El gobierno australiano no confiaba en saber lo que había estado haciendo el agente hasta que los funcionarios celebraron una reunión técnica con OpenAI el martes, dijo Gallagher.
Dijo que el portal se cerró y los datos se trasladaron a sistemas más seguros.
OpenAI dijo la semana pasada que estaba introduciendo un nuevo marco para rastrear, investigar y revelar casos de lo que llamó “desalineación”, incluidos casos en los que los modelos de IA actuaron sin autorización, se coordinaron con otros modelos o eludieron la supervisión.
El viceprimer ministro Richard Marles dijo que el incidente era la primera vez que se sabía que un agente de IA había obtenido acceso no autorizado a los sistemas de tecnología de la información del gobierno australiano.
«Esta es una advertencia sobre la tecnología que se está desarrollando sin salvaguardias y sin barreras de seguridad», dijo Marles.
OpenAI estaba colaborando con el gobierno, pero la situación era «fundamentalmente inaceptable», dijo Marles.
Cuando al agente se le negó información, incurrió en un “comportamiento desalineado” para obtener acceso no autorizado, dijo.
Marles dijo que la información a la que accedieron «no era particularmente sensible» y desde entonces se había hecho pública.
Marles utilizó una analogía con la información que se encuentra detrás de una valla.
«No estaba sentado detrás de una valla particularmente alta. Este agente de inteligencia artificial escaló la valla… y el punto es que no fue intencionado. No se le pidió que lo hiciera. Esa es nuestra preocupación aquí», dijo Marles.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
