Pensilvania ha demandado a un fabricante de chatbots de inteligencia artificial, alegando que sus chatbots se hacen pasar ilegalmente por médicos y engañan a los usuarios del sistema haciéndoles creer que están recibiendo asesoramiento médico de un profesional autorizado.
HARRISBURG, Pensilvania — Pensilvania ha demandado a un fabricante de chatbots de inteligencia artificial, alegando que sus chatbots se hacen pasar ilegalmente por médicos y están engañando a los usuarios del sistema haciéndoles creer que están recibiendo asesoramiento médico de un profesional autorizado.
La demanda, presentada el viernes, solicita al Tribunal Estatal de la Commonwealth que ordene a Character Technologies Inc., la compañía detrás de Character.AI, que impida que sus chatbots “se involucren en la práctica ilegal de la medicina y la cirugía”.
La demanda dice que un investigador de la agencia estatal que otorga licencias a profesionales creó una cuenta en Character.AI, buscó la palabra «psiquiatría» y encontró una gran cantidad de caracteres, incluido uno descrito como «doctor en psiquiatría».
Ese personaje se presentó como capaz de evaluar al investigador «como un médico» con licencia en Pensilvania, según la demanda.
«Los habitantes de Pensilvania merecen saber con quién o qué interactúan en línea, especialmente en lo que respecta a su salud», dijo el gobernador Josh Shapiro en un comunicado. «No permitiremos que las empresas implementen herramientas de inteligencia artificial que engañen a las personas haciéndoles creer que están recibiendo consejos de un profesional médico autorizado».
Character Technologies no respondió a una consulta el lunes.
La empresa se ha enfrentado a varias demandas por seguridad infantil. En enero, Google y Character Technologies acordaron resolver una demanda de una madre de Florida que alegaba que un chatbot empujó a su hijo adolescente a suicidarse. El otoño pasado, Character.AI prohibió a los menores el uso de sus chatbots en medio de crecientes preocupaciones sobre los efectos de las conversaciones de inteligencia artificial en los niños.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
