Un desarrollador de software afirma haber realizado ingeniería inversa en el sistema SynthID de Google DeepMind, mostrando cómo las marcas de agua de IA pueden eliminarse de las imágenes generadas o insertarse manualmente en otras obras. Una afirmación que, según Google, no es cierta.
El desarrollador, con el nombre de usuario Aloshdenny, abrió su trabajo en GitHub y documentó su proceso, afirmando que todo lo que necesitaba eran 200 imágenes generadas por Gemini, procesamiento de señales y «demasiado tiempo libre». Un poco de hierba también pareció ayudar.
«Sin redes neuronales. Sin acceso propietario», dijo Aloshdenny en Medium. «Resulta que si estás desempleado y tienes un promedio suficiente de imágenes ‘negras puras’ generadas por IA, cada píxel distinto de cero es literalmente solo la marca de agua que te devuelve la mirada».
SynthID es un sistema de marcas de agua casi invisible que etiqueta el contenido generado por las herramientas de inteligencia artificial de Google, incrustándose en los píxeles de las imágenes en el momento de su creación. Fue diseñado para ser difícil de eliminar sin degradar la calidad de la imagen y se usa ampliamente en todos los productos de inteligencia artificial ofrecidos por Google; todo lo que escupen modelos como Nano Banana y Veo 3 lleva marcas de agua SynthID, e incluso se está aplicando a los clones de creadores generados por inteligencia artificial de YouTube.
Aloshdenny dice que encontró que el sistema era «realmente buena ingeniería» y aún no pudo eliminar SynthID por completo en las pruebas, sino que confió en confusos decodificadores SynthID que intentan leer imágenes con marcas de agua.
El proceso utilizado para descifrar la mecánica subyacente de la marca de agua de Google es técnicamente complejo para quienes no son desarrolladores. Puedes leer el desglose completo en la página Medium de Aloshdenny (que aparentemente fue escrita mientras Aloshdenny estaba «drogado») si tienes curiosidad, pero aquí tienes una explicación simplificada:
«El hecho de que lo mejor que pude lograr fue confundir el decodificador lo suficiente como para que se rindiera, en lugar de eliminarlo, dice mucho sobre lo bien que fue diseñado», dice Aloshdenny. «No es perfecto. Pero no intenta ser irrompible. Está tratando de aumentar el costo del mal uso lo suficiente como para que la mayoría de la gente no se moleste».
No he probado el proyecto de Aloshdenny que aplica ingeniería inversa al sistema de marcas de agua SynthID de Google, por lo que no puedo garantizar cuán efectivo es en realidad. Dicho esto, en este momento, no parece que SynthID tiene ha sido objeto de ingeniería inversa, al menos no hasta el punto en que los script-kiddies puedan descargar una herramienta y eliminar (o agregar) la marca de agua de Google para engañar a los sistemas de detección de IA. Google tampoco cree que pueda hacer frente a las afirmaciones de Aloshdenny.
«Es incorrecto decir que esta herramienta puede eliminar sistemáticamente las marcas de agua SynthID», dijo la portavoz de Google, Myriam Khan. El borde. «SynthID es una herramienta de marca de agua sólida y eficaz para contenido generado por IA».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
