Y este no es un incidente aislado.
En 2021, funcionarios locales fueron arrestados, acusados de encubrir o subestimar 139 muertes en la provincia de Henan.
Incidentes como estos generaron un vacío de confianza que hizo mucho más fácil para los malos actores difundir contenido falso.
Pero la policía está implorando a la gente que confíe en fuentes acreditadas en caso de emergencia.
«Cuando reciba información relacionada con un desastre de una fuente desconocida, acérquese a ella con escepticismo y confíe en los anuncios oficiales», dijo Gao Kai, de la Oficina de Seguridad Pública de Ningbo.
También trató de asegurar al público que los creadores de noticias falsas serían arrestados, diciendo que «Internet no es una zona sin ley. Las autoridades de seguridad pública seguirán intensificando los esfuerzos para acabar con las actividades ilegales en línea».
«Hemos establecido un grupo de trabajo especializado para monitorear de cerca las redes sociales, especialmente las plataformas de videos cortos. Investigarán y manejarán estos casos rápidamente, tomando medidas muy estrictas».
Las penas podrían variar desde una multa hasta siete años de prisión si las consecuencias de la desinformación son lo suficientemente graves.
El 23 de julio, la Administración del Ciberespacio de China también anunció una ofensiva a nivel nacional contra el contenido falso de Internet relacionado con inundaciones y otros desastres, ordenando a sus sucursales locales que se concentraran en detectar datos fabricados, ediciones maliciosas, escenas montadas, eventos históricos mal atribuidos y suplantaciones de funcionarios. Además, pidió a las plataformas de redes sociales que intensifiquen el escrutinio del contenido que publican.
El profesor Gao cree que «la respuesta está en la educación pública combinada con la aplicación de la ley», afirmando que es «necesario hacer públicos los casos reales en los que las personas fueron castigadas».
Añadió que «el daño causado por el contenido falso generado por IA es, en última instancia, el resultado de cómo las personas eligen usar la tecnología, no la tecnología en sí», y agregó que las leyes existentes eran suficientes para abordar este problema.
Sin embargo, otros no tienen tanta confianza. El profesor Chen destacó que «la tecnología de IA continúa evolucionando mucho más rápido que los marcos legales. A medida que surgen nuevas cuestiones legales, la desinformación sobre la IA sigue siendo un desafío considerable».
Peter Pang, un abogado radicado en Shanghai y Washington, dice que los abogados de todo el mundo están viendo una explosión en el número de casos relacionados con estos temas.
Él cree que las empresas que crean aplicaciones y plataformas de inteligencia artificial utilizadas para publicar videos falsos y otros contenidos deberían ser legalmente responsables, al igual que las personas que crean desinformación.
«La primera línea serían las plataformas, porque son ellas las que facilitan. Son las que permiten que esto suceda», le dijo a la BBC.
Usó el ejemplo hipotético de una persona atropellando a un peatón tras el pánico causado por una publicación falsa en las redes sociales.
«El creador del vídeo podría decir ‘atropellaste a alguien. Ese es tu problema. Yo no lo hice’. Pero pensemos en ello. Creaste la base a partir de la cual la gente respondió. Si tú creaste este pánico, debes ser responsable de las consecuencias que se deriven del mismo. »
Y el profesor Xu advierte que “es probable que la desinformación generada por la IA aumente no sólo en volumen sino también en la velocidad a la que se propaga”.
“En el futuro, es probable que las elecciones políticas, las emergencias de salud pública, los conflictos armados, los desastres naturales y las cuestiones que afectan los medios de vida de las personas se conviertan en áreas de alto riesgo para la desinformación generada por la IA.
“En lugar de esperar a que las noticias falsas se vuelvan virales para intentar contenerlas, los gobiernos y las plataformas deberían prepararse con anticipación”.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
