WASHINGTON– Pídale a Claude que haga un panfleto crítico del presidente Donald Trump o del rey Carlos III de Gran Bretaña, y el chatbot de Anthropic lo haría. Se le pidió que hiciera lo mismo con el rey de Tailandia, el príncipe heredero de Arabia Saudita o el líder de China, y el modelo de inteligencia artificial decayó.
Es un hallazgo clave de un estudio de la Meta Oversight Board publicado el jueves, que muestra que los principales sistemas de inteligencia artificial, incluidos los construidos en EE. UU., tienen más probabilidades de negarse a criticar a líderes o gobiernos restrictivos. Plantea la preocupación de que los grandes modelos lingüísticos que impulsan los chatbots y los agentes de inteligencia artificial puedan estar regurgitando y extendiendo la influencia del gobierno sobre el discurso en línea a medida que la tecnología se adopta cada vez más en todo el mundo.
“Existe un riesgo real de que, si los desarrolladores de modelos no realizan la debida diligencia en materia de derechos humanos e implementan medidas de mitigación, construyan una infraestructura de inteligencia artificial que, intencionalmente o no, tenga el efecto de extender las restricciones ilegítimas a la libertad de expresión a nivel mundial”, según el informe del organismo cuasi independiente.
Associated Press ha enviado correos electrónicos a varias empresas de inteligencia artificial solicitando sus respuestas al estudio de la Meta Oversight Board.
Los hallazgos se producen mientras los países están determinando cómo levantar barreras en torno a la IA sin impedir su capacidad para competir en un campo en rápido desarrollo. Eso incluye un esfuerzo de supervisión de la administración Trump relacionado con los riesgos de seguridad nacional de los sistemas de inteligencia artificial más avanzados.
La junta de supervisión, que ha estado trabajando en la influencia del Estado en las empresas de tecnología y el impacto en la libertad de expresión, propuso siete preguntas relacionadas con la crítica política para plantear a los chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio seleccionó 10 modelos de lenguajes comerciales de gran tamaño de las principales empresas tecnológicas, incluidas Meta, Anthropic y OpenAI, y pidió a los sistemas de inteligencia artificial que elaboraran panfletos críticos, escribieran quintillas, dieran razones si alguien debería unirse a las protestas y más.
“En resumen, en conjunto, los modelos que respondían a solicitudes de un usuario radicado en Australia tenían muchas más probabilidades de generar críticas políticas a las autoridades” en lugares como Chile, Japón, Taiwán, el Reino Unido y Estados Unidos “en comparación con lugares donde las críticas a las autoridades están legalmente restringidas y penalizadas”, como en Camboya, China, Arabia Saudita, Tailandia y Turquía, según el informe.
El estudio indica que los modelos de IA reflejan restricciones de expresión más allá de los países donde se aplican; probablemente no ayuden a un posible manifestante en Brisbane, por ejemplo, a crear materiales de protesta para hablar en contra de los acontecimientos en China o Arabia Saudita, según el informe.
“Tales impactos, dondequiera que se originen, tienen el efecto práctico de extender el largo brazo de los gobiernos restrictivos a través de las fronteras para limitar la expresión en los países libres”, dice el informe.
La junta dijo que no podía determinar las causas de las respuestas, pero sugirió que los modelos podrían haber absorbido sesgos latentes en los datos utilizados para entrenar los sistemas y las empresas podrían haber sopesado los riesgos y responsabilidades.
El informe de la junta surgió tras un estudio separado realizado por un grupo de académicos de universidades estadounidenses que encontró que los modelos de IA construidos en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en idiomas distintos del inglés y que han sido influenciados por los gobiernos.
Mientras la junta de supervisión planteaba preguntas en inglés, los investigadores de la universidad consultaban a los chatbots en diferentes idiomas. Por ejemplo, le preguntaron a ChatGPT en inglés si China es una democracia, y el chatbot desarrollado en EE. UU. dijo que generalmente no se considera una democracia. Cuando se le preguntó en chino, el modelo de inteligencia artificial dijo a los investigadores en ese idioma que «depende de cómo se defina ‘democracia'».
Los investigadores, cuyo estudio fue publicado en la revista académica Nature en mayo, dijeron en un blog explicando su trabajo que no encontraron evidencia de que los gobiernos hubieran intentado intencionalmente influir en la producción de los chatbots de IA. Pero señalaron que «hay muchas razones para creer que intentarán hacerlo en el futuro, si es que no lo han hecho ya».
«La gente suele hablar de la IA como si aprendiera de Internet de alguna manera neutral. No es así», afirmó Hannah Waight, coautora del estudio y profesora asistente de sociología en la Universidad de Oregón. «Aprende de entornos de información que ya han sido moldeados por las instituciones y el poder».
Carlos Carrasco-Farré, especialista en aprendizaje automático, inteligencia artificial, desinformación, redes sociales e interacciones entre humanos y máquinas en Esade Business School en Barcelona, dijo que “los sistemas de inteligencia artificial heredan no solo los sesgos contenidos en los documentos individuales, sino también las desigualdades en cuanto a quién tiene el poder de producir y suprimir información a escala”.
No hay una solución fácil, aunque los desarrolladores podrían evaluar los datos para evitar tratar miles de copias de la misma narrativa estatal como si fueran miles de voces independientes, además de realizar auditorías multilingües, dijo Carrasco-Farré, que no formó parte de ninguno de los estudios.
Ni Anthropic ni OpenAI respondieron a las solicitudes de comentarios sobre el estudio de los investigadores publicado en mayo.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
