La pregunta más difícil de responder, según Coxon, fue cómo sería un apocalipsis de la IA.
Uno de los riesgos destacados en los comentarios de Amodei fue el de que un enjambre de robots actuara como una supercomputadora capaz de apoderarse de Internet.
Coxon dijo que ese escenario podría ser realista en seis meses a un año.
En respuesta a la partida de Coxon, un portavoz de Anthropic le dijo a BBC News: «Siempre hemos sido transparentes en cuanto a que la IA traerá enormes beneficios y riesgos sin precedentes.
«Para abordar estos riesgos, continuamos construyendo modelos con algunas de las protecciones más sólidas de la industria».
La empresa fue pionera en estudiar cómo funcionan los modelos de IA, añadió el portavoz. Fue el primero en publicar un marco para mitigar los riesgos que plantea su desarrollo, y también prueba “agresivamente” sus modelos y publica los resultados para facilitar el seguimiento y prevenir incidentes de “desalineación de la IA”.
«Este trabajo es también la razón por la que creemos que el mundo se beneficiaría si la industria adoptara una forma legal y verificable de trabajar en conjunto para acelerar el lanzamiento de modelos potentes», dijeron.
Coxon dijo que sus pares temen que el peligro pueda llegar incluso dentro de los próximos dos años.
Dijo que el personal de las empresas de IA está «planificando qué hacer con sus vidas y pensando en los impactos de su trabajo», mientras que algunos están «considerando comprar terrenos en algún lugar porque tienen mucho miedo de la inestabilidad resultante de los rápidos avances en IA».
«Todos lo tienen en cuenta todos los días cuando trabajan en tecnología».
Pero Coxon se mostró optimista sobre el futuro de la IA y le dijo a la BBC que los investigadores de la tecnología «realmente quieren ver los beneficios» de cosas como «resolver enfermedades y mejorar la vida de todos».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
