La slopsquatting representa una amenaza emergente en la cadena de suministro habilitada por las alucinaciones de la IA. A medida que los desarrolladores dependen cada vez más de los asistentes de codificación de IA, sin saberlo, otorgan a los ciberdelincuentes acceso a su software desde el primer día.
Entendiendo qué es slopsquatting
Slopsquatting es un nuevo tipo de ataque a la cadena de suministro que utiliza un modelo de lenguaje extendido (LLM) alucinaciones para inyectar código malicioso en los flujos de trabajo de desarrollo. El término combina «AI slop» y «typosquatting», una práctica engañosa en la que los atacantes registran versiones mal escritas o similares de dominios populares para aprovecharse de los usuarios que ingresan URL incorrectamente.
Este nuevo vector de ataque explota la tendencia de los LLM a generar nombres de paquetes de software ficticios, que luego los actores maliciosos pueden guardar y completar con código malicioso.
Durante la codificación asistida por IA, el modelo puede generar paquetes falsos de código abierto, es decir, colecciones empaquetadas de archivos, programas y herramientas de instalación. Esto por sí solo no es necesariamente perjudicial. Sin embargo, si un atacante registra este nombre de paquete falso, puede inyectar malware que esté directamente integrado en el código base del desarrollador.
Cómo la IA crea riesgos en la cadena de suministro
Tradicionalmente, la A.I. Los riesgos para la seguridad provienen de las alucinaciones.lo que puede perjudicar a los usuarios que consideran válida la información errónea. Sin embargo, esas mismas alucinaciones se han convertido en vulnerabilidades de seguridad explotables.
Typosquatting es una práctica engañosa en la que un ciberdelincuente guarda una versión mal escrita de un paquete popular para engañar a los desarrolladores. Ha existido durante décadas, por lo que los registros cuentan con protecciones contra este fenómeno.
Sin embargo, la IA ha cambiado el modelo de amenaza. Recomienda paquetes ficticios que parezcan plausibles en lugar de simples errores ortográficos. Una vez que los atacantes descubren qué paquetes locos tienden a inventar los modelos, pueden registrar paquetes llenos de malware con esos nombres.
Dado que los paquetes alucinados no son simplemente versiones mecanografiadas de bibliotecas populares, no existe protección contra esta práctica generalizada. Por ejemplo, el registro protege contra un atacante que publica «crossenv», una versión del popular paquete «cross-env». Sin embargo, no identificaría “mpn install cross-env file” o “cross-env-extended” como amenazas.
Las alucinaciones son persistentes y graves.
Incluso si muchos LLM recomiendan el mismo paquete loco, sigue siendo posible un compromiso generalizado. Los paquetes maliciosos pueden pasar desapercibidos en producción durante meses o incluso años, lo que permite a los actores maliciosos inyectar malware pasivamente en innumerables entornos.
una busqueda el equipo analizó 31.267 vulnerabilidades perteneciente a 14.675 paquetes en 10 lenguajes de programación. Descubrieron que las vulnerabilidades reportadas están aumentando a una tasa anual del 98%, un crecimiento más rápido que el aumento anual del 25% en la cantidad de software de código abierto. El equipo también observó un aumento del 85 % en la vida útil promedio de las vulnerabilidades, lo que indica una disminución de la seguridad.
Peligros reales de las alucinaciones de la IA
Los actores maliciosos pueden crear paquetes de acceso abierto con el mismo nombre que las bibliotecas comúnmente alucinadas. En lugar de código estándar, están llenos de malware. Los modelos creen que se refieren a paquetes existentes, por lo que a menudo repiten los mismos nombres locos. Dado que las alucinaciones no son aleatorias, en teoría los atacantes podrían registrar paquetes que engañarían a decenas de miles de desarrolladores.
Estos paquetes parecen legítimos. La similitud de las cadenas con bibliotecas reales las hace reconocibles. Los errores tipográficos de un carácter sugieren errores simples en lugar de intenciones maliciosas. Incluso los nombres completamente inventados siguen siendo creíbles cuando la IA los presenta en el contexto adecuado. La detección es difícil porque los desarrolladores confían en sus asistentes de codificación para recomendar dependencias válidas.
¿Por qué los LLM alucinan paquetes?
Los LLM generan la respuesta estadísticamente más probable en lugar de priorizar la precisión. Por tanto, las alucinaciones son relativamente comunes. Un estudio encontró tasas de alucinaciones varía del 50% al 82%dependiendo del patrón y método de aviso. Incluso GPT-4o, el modelo de mejor rendimiento, no baja del 23%, incluso con atenuación basada en avisos.
Los ataques de alucinaciones contradictorias podrían empeorar este problema. Los actores de amenazas pueden explotar la manipulación a nivel de token o el envenenamiento de la recuperación para obligar a los modelos a alucinar como deseen, aumentando así la probabilidad de que los modelos recomienden sus paquetes maliciosos.
¿Qué LLM son propensos a hacer slopsquatting?
Aunque todos los LLM son propensos a hacer slopsquatting, algunos son más vulnerables que otros. La probabilidad de producir paquetes alucinados durante la generación del código depende del modelo. Los modelos propietarios tienen cuatro veces menos probabilidades de generar paquetes locos que los modelos de código abierto.
Un grupo de investigación lo demostró realizando 30 pruebas en 30 sistemas diferentes. De los 576.000 ejemplos de código y de 2,23 millones de paquetes producidos, el 19,7% eran alucinaciones. GPT-4.0 Turbo tuvo una tasa de alucinaciones del 3,59%, mientras que DeepSeek 1B, el modelo de código abierto con mejor rendimiento, alcanzó el 13,63%.
Esta investigación sugiere que las organizaciones que dependen de herramientas de inteligencia artificial de código abierto para la generación de código están aproximadamente cuatro veces más expuestas a ataques de slopsquatting. Esto no significa necesariamente que las herramientas propietarias siempre serán más seguras. Una vez que los atacantes se dan cuenta de esta disparidad, pueden manipular los LLM propietarios para aprovechar la seguridad percibida.
La codificación vibratoria contribuye al problema.
Los desarrolladores de software que utilizan herramientas de inteligencia artificial creen que más del 40 por ciento del código están comprometidos a incluir asistencia de IA. Esperan que este porcentaje aumente significativamente en los próximos años. El 72% de quienes han probado la IA ya la utilizan a diario.
El aumento de la codificación vibratoria y la codificación asistida por IA amplifica la superficie de amenaza. A medida que más desarrolladores integran herramientas de inteligencia artificial en sus flujos de trabajo sin implementar procesos de verificación adecuados, la superficie de ataque de slopsquatting continúa expandiéndose.
Para quienes utilizan la IA como ayuda en la codificación, verificar los resultados es esencial. Verificar que los paquetes recomendados realmente existan en los repositorios oficiales antes de integrarlos en los proyectos reduce el riesgo.
Navegando por el desarrollo asistido por IA
La implementación de verificaciones automatizadas que validen los nombres de los paquetes con registros conocidos puede ayudar a detectar paquetes alucinados antes de que ingresen al código de producción. Los equipos de seguridad también deben monitorear las instalaciones de paquetes inusuales y mantener información actualizada sobre amenazas en campañas de slopsquatting conocidas.
Zac Amos es el editor de funciones en Rehackear.
¡Bienvenido a la comunidad VentureBeat!
Nuestro programa de publicaciones invitadas es donde los expertos técnicos comparten sus conocimientos y brindan análisis neutrales e imparciales en profundidad sobre inteligencia artificial, infraestructura de datos, ciberseguridad y otras tecnologías de vanguardia que están dando forma al futuro de los negocios.
Más información de nuestro programa de publicación de invitados y consulte nuestro pautas ¡Si quieres contribuir con tu propio artículo!
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
