Anthropic afirma haber identificado y frustrado intentos de utilizar su modelo de inteligencia artificial para “actividades maliciosas” que podrían respaldar el desarrollo de armas biológicas.
Los hallazgos, del reciente informe de inteligencia de amenazas de la compañía, son los últimos de una serie creciente de advertencias de investigadores de IA y expertos de la industria sobre los riesgos potenciales de la tecnología para la humanidad.
Estas advertencias han provocado llamados a la acción, y el senador estadounidense Bernie Sanders ha exigido una pausa en el desarrollo avanzado de la IA y la prohibición de la superinteligencia artificial.
Hasta ahora, el presidente Donald Trump ha descartado esos temores y dijo el jueves que teme que «si no ganamos en IA, nos encontraremos en una posición muy mala».
La compañía publicó su último informe de inteligencia sobre amenazas., externo JUEVES.
Este tipo de informes se han vuelto comunes en el sector de la IA, a medida que las empresas buscan demostrar cómo identifican y frustran los intentos de hacer un mal uso de sus modelos.
Esto incluye a Google, que escribió el martes, externo que alguien había intentado utilizar su herramienta de inteligencia artificial, Gemini, para obtener una «guía técnica completa, paso a paso, para sintetizar agentes biológicos utilizados como armas».
Claude, el modelo de IA de Anthropic también ha sido utilizado por actores vinculados a una campaña de ciberespionaje con sede en Rusia y por una institución de propaganda iraní. según su informe.
Los casos preocupantes detectados en los últimos ocho meses abarcaron desde aplicaciones de citas falsas hasta estafas de Wi-Fi en hoteles y vigilancia diseñada para identificar a los disidentes.
Anthropic también acusó a las empresas chinas de inteligencia artificial de intentar replicar las habilidades de Claude.
El extenso informe enumera casos en los que presuntos grupos patrocinados por el Estado, delincuentes, proveedores de software espía, instituciones de propaganda estatales e individuos con motivaciones políticas abusaron de su tecnología.
El “uso malicioso” de sus modelos Claude Haiku, Sonnet y Opus fue interrumpido entre diciembre de 2025 y agosto de 2026, precisa.
Ninguno de los casos de uso indebido involucró a Claude Fable o los poderosos modelos de clase Mythos, excepto por un caso de destilación: el proceso de entrenamiento de modelos de IA más pequeños utilizando modelos más grandes y costosos.
Además de detectar el uso de sus modelos para ciberseguridad y operaciones de influencia, vigilancia, estafas, fraude y desarrollo de armas, Anthropic dijo que bloqueó a los científicos que usaban su IA de maneras que apoyaban el desarrollo de armas biológicas.
El informe destaca «cinco estudios de caso de actores que utilizan nuestros modelos de manera que apoyen el desarrollo de armas biológicas».
El mal uso de productos biológicos, según el informe, es “uno de los riesgos más graves del modelo de IA fronteriza”. Sin las salvaguardias adecuadas, tales capacidades «podrían tener consecuencias catastróficas», dijo Anthropic.
«La misma información que puede usarse para desarrollar un arma biológica también podría usarse para desarrollar, por ejemplo, una vacuna o una cura para una enfermedad», dijo Anthropic.
Jacob Klein, jefe de inteligencia de amenazas de Anthropic, dijo al New York Times, externo fue «una situación increíblemente matizada».
«No ves a alguien en un cómic diciendo: ‘Oye, quiero construir un arma biológica para matar a todos'», dijo.
El informe también señala seis casos en los que Claude fue utilizado «para desarrollar software para armas convencionales, incluidas armas de fuego, misiles, drones armados, bombas y otras municiones, así como los sistemas de control y focalización que los operan».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
