Claude de Anthropic está ayudando a la compañía a desarrollar la próxima versión más inteligente del modelo, dijo el laboratorio de inteligencia artificial en un anuncio el jueves.
Claude lidera el 26% de la investigación y el desarrollo del modelo de Anthropic, lo que, según la compañía, significa que puede completar la mayor parte de una tarea determinada «de un extremo a otro desde un aviso de alto nivel» sin dejar de estar bajo supervisión humana. El modelo aún no funciona de forma completamente autónoma.
Aún así, alrededor del 90% de la investigación y el desarrollo de la compañía se realizan en «colaboración» con Claude, lo que, según Anthropic, significa que el modelo puede realizar «grandes cantidades de trabajo bajo una estrecha dirección humana».
El anuncio se produjo cuando algunas figuras destacadas de la inteligencia artificial, encabezadas en gran parte por el director ejecutivo de Anthropic, Dario Amodei, están pidiendo una desaceleración en el desarrollo de la tecnología por preocupaciones de seguridad.
Mientras los líderes consideran acelerar el desarrollo de la IA, “deberíamos hacer todo lo posible para minimizar la brecha entre lo que saben los laboratorios de vanguardia y lo que sabe el público”, dijo la compañía en una publicación de blog. «Esto significa medir mejor el desarrollo de la IA, informar públicamente sobre ello y dar a la sociedad la oportunidad de decidir cómo utilizar esta información».
La compañía dijo que los modelos que aceleran su propio desarrollo podrían hacer que sea «más difícil para los humanos comprender o controlar estos sistemas». Argumentó que compartir estas métricas podría conducir a una mejor comprensión de qué tan cerca están los principales laboratorios de IA de alcanzar la superación personal recursiva, o la capacidad de un modelo para construir de forma autónoma su sucesor.
Anthropic también instó a otros desarrolladores de IA a compartir métricas similares de forma regular, fomentando el uso de una metodología pública para que las cifras pudieran compararse a lo largo del tiempo y potencialmente entre laboratorios.
No quedó claro en la divulgación de Anthropic qué tan cerca cree estar la compañía de lograr la superación personal recursiva, pero el ritmo al que Claude ha contribuido cada vez más a la investigación y el desarrollo es notable. La parte del trabajo que Claude “dirige”, o realiza en gran parte mientras permanece bajo supervisión humana, no fue ninguna en febrero. Seis meses después, lideraba una cuarta parte del trabajo de investigación y desarrollo y alcanzó ese punto de referencia en agosto.
La compañía también compartió detalles de las medidas de supervisión de agentes que tiene implementadas, señalando que había aproximadamente 30,000 agentes realizando trabajos de investigación e ingeniería en agosto. Las medidas de supervisión son cruciales para ver con qué frecuencia los sistemas de monitoreo detectan el mal comportamiento de los agentes, dijo la compañía. Anthropic se comprometió recientemente a establecer evaluadores externos externos que estarán integrados dentro de la empresa para monitorear los esfuerzos de seguridad.
Un investigador de Anthropic inició gran parte del diálogo reciente sobre la seguridad de la IA cuando renunció la semana pasada con una terrible advertencia sobre las amenazas que la tecnología representa para la humanidad. Desde entonces, Amodei, el director ejecutivo de OpenAI, Sam Altman, Elon Musk y otros líderes tecnológicos han apoyado la idea de desacelerar el desarrollo, pero otros líderes tecnológicos y el presidente Donald Trump se han opuesto.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
