SACRAMENTO, California — El gobernador de California, Gavin Newsom, firmó el jueves un amplio paquete de leyes destinado a proteger a los niños de los riesgos de la tecnología, incluidas las redes sociales y los chatbots de inteligencia artificial.
Las leyes penalizarán a las grandes empresas de redes sociales con hasta un millón de dólares por niño si se las considera negligentes en dañar a los niños a través de sus plataformas, prohibirán a las empresas de tecnología ofrecer contenidos adictivos a menores de 16 años y exigirán que los operadores de chatbots de IA realicen evaluaciones de riesgos antes de implementarlos.
Newsom se unió a su esposa y a legisladores estatales en un museo infantil cerca de San Francisco para enfatizar la importancia de proteger a los niños en un momento en el que tienen un acceso tan fácil a las redes sociales y a los chatbots de inteligencia artificial.
“Hemos diseñado cunas para que sean seguras, sillas para que sean seguras y asientos para automóviles”, dijo la asambleísta Rebecca Bauer-Kahan. «Sin embargo, hemos permitido que la tecnología llegue a nuestros hijos y nunca hemos pedido ni esperado que sea segura».
La firma del proyecto de ley se produce semanas después de que Meta llegara a un acuerdo con California y otros 28 estados después de que alegaron en una demanda de 2023 que el gigante tecnológico diseñó deliberadamente funciones para niños adictos. La empresa acordó pagar hasta 18.000 millones de dólares y reforzar sus medidas de seguridad infantil.
Newsom dijo que las nuevas leyes resaltan el liderazgo del estado en el tema.
«Es un buen día para nuestros hijos», dijo. «Es un buen día para el estado de California».
Pero Meta expresó su preocupación por algunos de los proyectos de ley, diciendo que la ley para restringir los feeds adictivos obstaculiza la capacidad de la compañía de ofrecer contenido agradable a los usuarios en sus plataformas.
«Creemos que ofrecer una experiencia personalizada es una parte importante de lo que hace que Facebook e Instagram sean valiosos para los adolescentes, ya que se conectan con familiares y amigos y exploran sus intereses de forma segura», dijo el portavoz Jim Cullinan en un comunicado. «La personalización también es la forma en que ofrecemos contenido apropiado para la edad de los adolescentes y que sea relevante para ellos, todo con las medidas de seguridad adecuadas».
El gobernador ha caminado por una línea muy fina en política tecnológica durante sus casi ocho años como gobernador en el estado más poblado del país, cuyo estatus como centro tecnológico global ha promocionado repetidamente en sus discursos.
El año pasado firmó una ley que exige que las plataformas recuerden a los usuarios que están interactuando con un chatbot y no con un humano. Horas más tarde, vetó un proyecto de ley que habría prohibido a las empresas poner chatbots de IA a disposición de cualquier persona menor de 18 años, a menos que las empresas pudieran garantizar que la tecnología no pudiera entablar conversaciones sexuales ni fomentar la autolesión.
Newsom también firmó una ley en 2024 para restringir el uso de teléfonos inteligentes por parte de los estudiantes en las escuelas.
El asambleísta Josh Lowenthal, un demócrata que ayudó a redactar la ley para imponer sanciones a las empresas por dañar a los niños, dijo que era un momento crítico para aprobar las nuevas leyes.
«El ritmo de la tecnología avanza más rápido de lo que el gobierno puede poner barreras», dijo.
Newsom también firmó leyes el miércoles destinadas a mejorar la supervisión de las empresas de inteligencia artificial. Los proyectos de ley, que cuentan con el apoyo de Anthropic, requieren que el estado cree reglas para que organizaciones independientes evalúen los riesgos de seguridad de los modelos de IA y creen un registro de auditores de IA, que tendrían que ser financieramente independientes de las empresas que están auditando.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
