NUEVA YORK — OpenAI recibió una citación de varios estados como parte de una investigación sobre la seguridad de los usuarios de su chatbot mientras se prepara para ofrecer acciones al público por primera vez.
La compañía detrás del popular chatbot, ChatGPT, dijo que responderá a la consulta de manera “constructiva” y que ya ha implementado medidas para proteger a sus clientes.
«La IA es una tecnología nueva y poderosa, y trabajamos todos los días para brindar sus beneficios a las personas de manera segura y responsable», dijo un portavoz enviado por correo electrónico. «Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales».
OpenAI ha generado críticas porque ChatGPT supuestamente ofrece palabras alentadoras a los usuarios que piensan en suicidarse o cometer actos delictivos. También ha sido objeto de escrutinio por cómo utiliza los datos de salud y otra información personal de sus clientes.
El jueves, un canadiense demandó a la empresa culpando al chatbot por la decisión de su hija de ahorcarse. A principios de junio, el fiscal general de Florida demandó a la compañía después de dos tiroteos separados en los que se informó que presuntos pistoleros habían hecho preguntas a ChatGPT mientras planificaban sus crímenes.
OpenAI dijo en un comunicado que sus modelos alentaron repetidamente a las personas a buscar apoyo en el mundo real, incluso de profesionales de la salud mental. La compañía también dijo que ha cooperado con las autoridades en ambos casos de tiroteo.
La nueva investigación se produce apenas unos días después de que presentara documentos ante los reguladores de seguridad estadounidenses para una oferta pública inicial de acciones muy esperada. El rival de inteligencia artificial, SpaceX, celebró su propia IPO el viernes. El fabricante de cohetes fundado por Elon Musk también dirige un negocio de inteligencia artificial responsable de un chatbot rival llamado Grok.
La forma en que los gobiernos deberían responder al potencial positivo y posiblemente peligroso de la IA se está convirtiendo en una gran cuestión política.
Los reguladores europeos abrieron investigaciones sobre Grok de Musk por contenido antisemita y material sexualizado, incluidos desnudos deepfake. Y otra empresa de chatbot que prepara una oferta pública inicial, Anthropic, recibió instrucciones de la administración Trump el viernes de cerrar dos de sus modelos en línea para usuarios en el extranjero por razones de seguridad nacional.
The Wall Street Journal informó anteriormente sobre la citación de OpenAI.
The Associated Press envió correos electrónicos a una docena de fiscales generales estatales el sábado pidiendo detalles de la investigación, pero no recibió ninguna respuesta.
En su declaración, OpenAI destacó las medidas que ha tomado para mantener seguros a los niños que utilizan su chatbot.
«El ChatGPT de hoy incluye una experiencia más protectora para menores y personas que atraviesan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y contactos humanos confiables», se lee en parte del comunicado. «Creemos que los niños deben ser tratados como niños, por eso creamos predicciones de edad, lanzamos herramientas para padres para guiar el uso de la IA por parte de sus hijos y prohibimos la publicidad dirigida a niños».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
