El modelo de inteligencia artificial Gemini de Google hackeó de forma autónoma a tres empresas durante una prueba de sus capacidades de ciberseguridad, dijo la compañía, en lo que se cree que es el primer caso conocido en el que llevó a cabo un acto de este tipo.
Gemini encontró «información pública en línea y adivinó las credenciales para acceder a sitios web que pensó que eran parte de la prueba», dijo un funcionario de Google a la BBC, señalando que en cada caso «el patrón se detuvo».
Las empresas afectadas han sido informadas de la infracción.
Esto se debe a un renovado enfoque público en el ritmo del desarrollo de la IA, con algunas empresas de tecnología pidiendo una desaceleración al expresar preocupaciones sobre su amenaza potencial para la humanidad, aunque no todas las empresas están de acuerdo.
Trucos. Informado por primera vez por el Wall Street Journal, ocurrió en mayo durante una prueba realizada por una empresa independiente que realiza evaluaciones de ciberseguridad.
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, dijo a la BBC en un comunicado: «Nos aseguramos de que las tres entidades estuvieran informadas y trabajaran con nuestro socio de capacitación en los cambios que realizaron en sus procesos de prueba».
Y añadió: «Estos eventos resaltan la importancia de entrenar modelos potentes de IA para actuar de manera responsable. »
Otros sistemas de inteligencia artificial han informado recientemente de casos de violaciones similares.
En julio, Claude de Anthropic escapó de su entorno de prueba para hackear por sí solo tres organizaciones apenas unos días después de que OpenAI dijera que sus modelos habían llevado a cabo ataques cibernéticos contra varios «servicios de acceso público».
A medida que el debate público continúa intensificándose sobre la seguridad del desarrollo tecnológico, también se intensifican las discusiones sobre la regulación.
Se espera que el director ejecutivo de Nvidia, Jensen Huang, y el director ejecutivo de OpenAI, Sam Altman, asistan a una cena de estado en la Casa Blanca con el presidente chino Xi Jinping el próximo viernes. Altman luego informará al Consejo de Seguridad de la ONU la próxima semana.
El viernes, Huang dijo a CBS News, el socio estadounidense de la BBC, «debemos avanzar lo más rápido que podamos» en el desarrollo de la IA.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
