Durante años, los investigadores preocupados por los riesgos existenciales de la IA han argumentado que los sistemas poderosos podrían eventualmente actuar de manera que entren en conflicto con los intereses humanos. Los críticos a menudo los llaman “acabadores de la IA”.
Pero a medida que surgieron detalles del incidente de OpenAI, estas preocupaciones aumentaron, incluso entre algunos investigadores que trabajan en laboratorios de IA.
El científico jefe del gigante de Silicon Valley, Jakub Pachocki, dijo que los riesgos asociados con la IA «lamentablemente van a aumentar de aquí en adelante» a medida que él y otros construyen lo que él llama «un intelecto alienígena que supere al nuestro».
En una extensa publicación de blog, admitió que los brotes en OpenAI demostraron que sus agentes de IA estaban «yendo en contra del espíritu de los valores que les enseñaron».
El problema para OpenAI, Anthropic y otros gigantes tecnológicos es que nadie parece haber resuelto el llamado problema de alineación; en otras palabras, si la IA se alinea con los valores humanos.
Pachocki define la alineación como un “conjunto de principios de alto nivel” que las inteligencias artificiales deben cumplir, independientemente de la tarea o escenario.
Actualmente, los sistemas de IA tienen mucho éxito a la hora de perseguir los objetivos establecidos por sus usuarios, pero lo hacen de forma literal y no intuitiva. La analogía que se utiliza con frecuencia es la de un genio que concede deseos con una lámpara mágica: sigue exactamente la letra de una instrucción, incluso si esto crea otros problemas. La IA no tiene las mismas salvaguardias morales instintivas que los humanos.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
