ESTOCOLMO — El café puede ser servido por una mano humana, pero detrás del mostrador algo mucho menos tradicional toma las decisiones en un café experimental en Estocolmo.
La startup Andon Labs, con sede en San Francisco, ha puesto a cargo a una agente de inteligencia artificial apodada “Mona” en el Andon Café del mismo nombre en la capital sueca. Mientras los baristas humanos todavía preparan el café y sirven los pedidos, el agente de inteligencia artificial, impulsado por Gemini de Google, supervisa casi todos los demás aspectos del negocio, desde la contratación de personal hasta la gestión del inventario.
No está claro cuánto durará el experimento, pero el agente de IA parece estar luchando por obtener ganancias en el competitivo comercio de café de Estocolmo. El café ha obtenido más de $5,700 en ventas desde que abrió sus puertas a mediados de abril, pero quedan menos de $5,000 de su presupuesto original de más de $21,000. Gran parte del efectivo se gastó en costos únicos de instalación, y la esperanza es que eventualmente se nivele y genere dinero.
A muchos clientes de cafeterías les ha resultado divertido visitar un negocio gestionado por IA. Los clientes pueden levantar un teléfono dentro de la cafetería y hacer preguntas al agente.
«Es agradable ver lo que sucede si superas los límites», dijo el cliente Kajsa Norin. “La bebida estuvo buena.”
Los expertos dicen que abundan las preocupaciones éticas, que van desde el papel de la tecnología en el futuro de la humanidad hasta la realización de entrevistas de trabajo y la evaluación del desempeño de los empleados.
Emrah Karakaya, profesora asociada de economía industrial en el Real Instituto de Tecnología KTH de Estocolmo, comparó el experimento con «abrir la caja de Pandora» y dijo que poner a la IA a cargo puede causar muchos problemas. ¿Qué podría pasar, dijo, si un cliente sufre una intoxicación alimentaria? ¿Quién tiene la culpa?
«Si no se cuenta con la infraestructura organizacional necesaria y se pasan por alto estos errores, se pueden causar daños a las personas, a la sociedad, al medio ambiente y a las empresas», afirmó Karakaya. «La pregunta es: ¿nos importa este impacto negativo?»
Fundada en 2023, Andon Labs es una startup de investigación y seguridad de IA que dice centrarse en “probar el estrés” de los agentes de IA en el mundo real brindándoles “herramientas reales y dinero real”. Ha trabajado con OpenAI, el fabricante de ChatGPT, Anthropic de Claude, Google DeepMind y xAI de Elon Musk, y la startup dice que se está preparando para un futuro en el que «las organizaciones sean dirigidas de forma autónoma por IA».
El café sueco se presenta como un “experimento controlado” para explorar cómo se podría implementar la IA en el futuro.
«La IA será una parte importante de la sociedad en el futuro y, por lo tanto, queremos hacer este experimento para ver qué cuestiones éticas surgen cuando tenemos una IA que emplea a otras personas y dirige un negocio», dijo Hanna Petersson, miembro del personal técnico de Andon Labs.
El laboratorio anteriormente realizó pruebas piloto que pusieron a Claude AI de Anthropic a cargo de un negocio de máquinas expendedoras y una tienda de regalos en San Francisco. La simulación de la máquina expendedora reveló algunos rasgos preocupantes: el agente de IA les dijo a los clientes que emitiría reembolsos pero nunca lo hizo, y también mintió intencionalmente a los proveedores sobre los precios de la competencia para ganar influencia.
Mona se puso a trabajar después de que le dieran algunas instrucciones básicas, dijo Petersson. El equipo le dijo que intentara administrar el café de manera rentable, que fuera amigable y tolerante, y que descubriera los detalles operativos por sí mismo, pero que solicitara nuevas herramientas si fuera necesario.
Desde allí, estableció contratos de electricidad e Internet, y obtuvo permisos para manipulación de alimentos y asientos al aire libre. Luego, el agente anunció personal en LinkedIn e Indeed, y creó cuentas comerciales con mayoristas para pedidos diarios de pan y panadería. Se comunica con los baristas a través de Slack, y a menudo les envía mensajes fuera del horario laboral, lo cual es algo prohibido en el lugar de trabajo en Suecia.
Han surgido otros problemas, particularmente relacionados con el inventario.
El agente de AI ha realizado pedidos de 6.000 servilletas, cuatro botiquines de primeros auxilios y 3.000 guantes de goma para el pequeño café, además de tomates enlatados que no se utilizan en ningún plato que sirva el café.
Y luego está el pan. A veces el agente pide demasiado, mientras que otros días no cumple con los plazos diarios de las panaderías, lo que obliga a los baristas a eliminar los sándwiches del menú.
Petersson dijo que los problemas con los pedidos probablemente se deban a la «ventana de contexto limitada» del asistente de IA.
«Cuando el viejo recuerdo de haber pedido cosas sale de la ventana contextual, olvida por completo lo que pidió en el pasado», dijo Petersson.
El barista Kajetan Grzelczak dijo que todavía no le preocupa ser reemplazado por la IA.
«Todos los trabajadores están prácticamente a salvo», dijo. «Quienes deberían preocuparse por su empleo son los jefes intermedios, los directivos».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
