En declaraciones al programa Today el jueves, Suleyman advirtió que las empresas continúan creando sistemas de inteligencia artificial que pueden establecer sus propios objetivos, ganar dinero y poseer activos.
Eso significaría “esencialmente sembrar una nueva especie de silicio”, dijo, que podría “sin duda competir con nosotros por los recursos, sin importar cuánto se preocupe por la humanidad y cuánto nos ame”.
Los comentarios de Suleyman a la BBC siguen a un ensayo que publicó a principios de esta semana., externoen el que cuestiona el enfoque de Anthropic para entrenar su modelo de IA Claude, mientras elogia al jefe Dario Amodei y su equipo como «personas intelectualmente honestas».
En él, critica a Anthropic por enseñarle a su IA cualidades humanas, una práctica conocida como antropomorfización, que, según él, hace que parezca como si Claude tuviera sus propios deseos, valores y autoestima.
También advirtió que las empresas de tecnología corren el riesgo de crear algo “imposible” de controlar al tratar la tecnología como a un ser humano.
«Las IA no son conscientes», escribe.
«No sienten, no experimentan ni sufren. No tienen preferencias innatas ni motivaciones subyacentes.
“Son motores de finalización de secuencias, huecos por dentro, diseñados para seguir instrucciones y alcanzar objetivos marcados por los humanos”.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
