Las afirmaciones de investigadores actuales y anteriores de que la tecnología pondría en peligro a la humanidad (uno de ellos sugiere que hay más del 10% de posibilidades de que “mate a todos los humanos”) han hecho sonar las alarmas en las últimas semanas.
Las grandes empresas de IA han estado compitiendo para desarrollar mejores sistemas, incluida la creación de lo que llaman superinteligencia: tecnología teórica más inteligente que los humanos.
Los titanes de la IA Anthropic, OpenAI y Google, las empresas tecnológicas detrás de Claude, ChatGPT y Gemini respectivamente, también han revelado casos de violaciones de seguridad o incidentes en los que sus chatbots se utilizaron para «actividades maliciosas».
El director de Anthropic, Dario Amodei, pidió recientemente desacelerar el desarrollo de la IA y propuso una desaceleración y regulación en toda la industria, así como una supervisión independiente del desarrollo de modelos de IA.
Sam Altman de OpenAI y Elon Musk de xAI dijeron que estaban de acuerdo con sus recomendaciones.
Jack Clark, cofundador de Anthropic, le dijo a la BBC que es posible que sea obligatorio para la industria un «disyuntor» que pueda ser verificado por un tercero.
Las advertencias han llevado a los legisladores estadounidenses a proponer legislación en torno a la tecnología, pero Altman sugirió esta semana que Washington está luchando por mantenerse al día con el ritmo de las nuevas tecnologías y cómo regularlas. Dijo que la gente debería tener más confianza en las empresas de inteligencia artificial para mantenerlas seguras.
«El mundo tiene que confiar en que vamos a hacer lo correcto porque es lo correcto y sentimos su magnitud», dijo Altman en una conferencia en San Francisco.
En el Reino Unido, parlamentarios de todos los partidos y sus pares han identificado los riesgos para los derechos humanos que plantea la inteligencia artificial y han argumentado que las leyes existentes no son adecuadas para hacer frente al rápido crecimiento de esta tecnología.
El Comité Conjunto de Derechos Humanos (JCHR) ha publicado un informe en el que pide un nuevo proyecto de ley sobre IA para “abordar la escala y la gravedad” de estas amenazas.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
