Las familias de las víctimas de un tiroteo en una escuela en una ciudad de las Montañas Rocosas de Canadá están demandando a la compañía de inteligencia artificial OpenAI en un tribunal federal de EE. UU., buscando responsabilizar al fabricante de ChatGPT por no alertar a la policía sobre las alarmantes interacciones del tirador con el chatbot.
Una demanda presentada el miércoles en nombre de Maya Gebala, de 12 años, que resultó gravemente herida en el tiroteo de febrero, se encuentra entre las primeras de docenas de casos que familias en Tumbler Ridge, Columbia Británica, están planeando con demandas que alegan muerte por negligencia, negligencia y responsabilidad por productos defectuosos.
El abogado de los demandantes, Jay Edelson, dijo en una entrevista que las decisiones tomadas por OpenAI y su director ejecutivo Sam Altman «han destruido la ciudad. La gente es realmente resistente, pero lo que pasó es inimaginable».
Altman envió una carta la semana pasada disculpándose formalmente a la comunidad porque su compañía no notificó a las autoridades sobre el comportamiento en línea del tirador.
Las autoridades dijeron que el tirador mató a su madre y a su hermanastro de 11 años en su casa el 10 de febrero antes de abrir fuego en la cercana escuela secundaria Tumbler Ridge, matando a cinco niños y a un educador antes de suicidarse. Veinticinco personas también resultaron heridas en el ataque, el tiroteo masivo más mortífero ocurrido en Canadá en años.
El caso pone de relieve las preocupaciones sobre los daños que plantean los chatbots de IA demasiado agradables y las obligaciones que tiene la industria tecnológica de controlarlos o notificar a las autoridades sobre la violencia planificada por parte de los usuarios de chatbot. Este mes, los fiscales que investigan la muerte de dos estudiantes de doctorado de la Universidad del Sur de Florida dijeron que el sospechoso preguntó a ChatGPT sobre la eliminación de los cuerpos antes de la desaparición de los estudiantes.
En respuesta a la demanda, OpenAI dijo en una declaración escrita que «los eventos en Tumbler Ridge son una tragedia. Tenemos una política de tolerancia cero para el uso de nuestras herramientas para ayudar a cometer violencia».
«Como compartimos con los funcionarios canadienses, ya hemos fortalecido nuestras salvaguardas, incluida la mejora de cómo ChatGPT responde a las señales de angustia, conectando a las personas con apoyo local y recursos de salud mental, fortaleciendo la forma en que evaluamos y escalamos posibles amenazas de violencia y mejorando la detección de infractores reincidentes de políticas», dijo la compañía.
Edelson, un abogado con sede en Chicago conocido por enfrentarse a la industria tecnológica, ya está haciendo malabarismos con una serie de casos de alto perfil contra OpenAI, incluido el de la familia de un adolescente de California que se suicidó después de conversaciones con ChatGPT y otro de los herederos de una mujer de Connecticut de 83 años asesinada por su hijo después de que ChatGPT supuestamente amplificara los «delirios paranoicos» del hombre.
«Esta no es una tecnología pasiva», dijo Edelson, comparando las interacciones del chatbot con una búsqueda de información en línea más convencional. «Lo que hemos visto en el pasado es que (para) las personas con enfermedades mentales, el chatbot validará lo que dicen y luego amplificará lo que dicen».
La semana pasada, Edelson visitó el pequeño pueblo de Tumbler Ridge y se reunió con decenas de personas en el sótano de un centro de visitantes. También visitó a Gebala en un hospital infantil en Vancouver, donde permanece hospitalizada y parecía alerta pero incapaz de hablar.
“Fue muy desgarrador”, dijo.
Las demandas presentadas el miércoles representan a las familias de los cinco niños asesinados en el tiroteo en la escuela: Zoey Benoit, Abel Mwansa Jr., Ticaria “Tiki” Lampert y Kylie Smith, todos de 12 años, y Ezekiel Schofield, de 13, y la asistente de educación, Shannda Aviugana-Durand.
Después de los tiroteos, OpenAI se adelantó y dijo que en junio pasado la compañía había señalado que la cuenta del tirador se había utilizado para discutir la violencia contra otras personas.
La compañía dijo que consideró remitir la cuenta a la Real Policía Montada de Canadá, pero determinó en ese momento que la actividad de la cuenta no cumplía con el umbral para remitirla a las autoridades. OpenAI prohibió la cuenta en junio por violar su política de uso.
Las demandas presentadas el miércoles alegan que «las víctimas no se enteraron de esto porque OpenAI fue comunicativo, sino porque sus propios empleados lo filtraron a The Wall Street Journal después de que ya no podían soportar el silencio de la compañía».
En su carta publicada el viernes, Altman dijo que lamentaba «profundamente no haber alertado a las autoridades sobre la cuenta que fue prohibida en junio».
“Si bien sé que las palabras nunca serán suficientes, creo que es necesaria una disculpa para reconocer el daño y la pérdida irreversible que ha sufrido su comunidad”, escribió Altman.
El primer ministro de Columbia Británica, David Eby, en una publicación en las redes sociales, calificó la disculpa de “necesaria y, sin embargo, extremadamente insuficiente para la devastación causada a las familias de Tumbler Ridge”.
La demanda de Gebala acusa a OpenAI de negligencia que implica no advertir a las autoridades y “ayudar e instigar a un tiroteo masivo”.
Además de los daños y perjuicios, la demanda de Gebala busca una orden judicial que requiera que OpenAI prohíba a los usuarios de ChatGPT si sus cuentas fueron desactivadas por uso indebido violento, y que exija a la empresa que alerte a las autoridades cuando sus sistemas identifiquen a alguien que represente un «riesgo de violencia en el mundo real».
Un caso anterior se presentó en un tribunal de Columbia Británica, pero un equipo de abogados de ambos países está tratando de llevar el caso afiliado a San Francisco, donde tiene su sede OpenAI.
——- El periodista de AP Jim Morris contribuyó a este artículo desde Vancouver, Columbia Británica.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
