AbiertoAI anunció nuevas herramientas para facilitar la identificación de imágenes generadas estafa inteligencia artificialen medio del crecimiento de contenidos creados por Iowa un internet.
La compañía confirmó que comenzará a utilizar estándares abiertos de autenticidad y marcas de agua invisibles para ayudar a verificar si una imagen fue creada con sus modelos.
Cómo funcionará el nuevo sistema de verificación de OpenAI
Una de las principales novedades es la adopción del estándar abierto C2PAdesarrollado por la organización Coalición para la procedencia y autenticidad del contenido.
Este sistema incorpora información dentro de los metadatos de la imagen para indicar claramente que fue generada mediante inteligencia artificial.
Según explicó OpenAI, la idea es mejorar la trazabilidad y la autenticidad del contenido digital.
Qué es SynthID y para qué servirá
Además del sistema C2PA, OpenAI trabajará junto a Google integrar SynthIDuna marca de agua invisible diseñada específicamente para contenidos creados con IA.
La tecnología fue desarrollada por Google y busca resistir modificaciones comunes como capturas de pantalla, recortes, redimensionamiento o ediciones digitales.
A diferencia de los metadatos tradicionales, la marca de agua es más difícil de detectar y también más compleja de eliminar.
OpenAI lanzará una herramienta pública para verificar imágenes
La empresa también adelantó que trabaja en una herramienta pública de verificación.
El sistema permitirá comprobar si una imagen contiene señales vinculadas a inteligencia artificial generada por productos de OpenAI.
Inicialmente, la plataforma funcionará únicamente con imágenes creadas mediante herramientas de la compañía, aunque OpenAI aseguró que busca ampliar la compatibilidad a futuro.
Por qué OpenAI apuesta por doble protección
La compañía explicó que los dos sistemas fueron pensados para complementarse. Mientras los metadatos permiten ofrecer información detallada sobre el origen del archivo, las marcas de agua invisibles aportan mayor resistencia frente a manipulaciones.
“Juntos hacen que la procedencia sea más sólida que utilizando solo una de las capas”, señaló OpenAI en su comunicado.
Qué límites tienen estas herramientas
Las nuevas protecciones solo se aplicarán a imágenes generadas mediante productos de OpenAI.
Eso significa que no impactarán sobre contenidos creados con otras herramientas de inteligencia artificial menos reguladas o sin sistemas de verificación.
Aun así, la empresa busca evitar que sus modelos contribuyan a la circulación de imágenes falsas o engañosas.
Qué es C2PA y quiénes lo utilizan
La organización C2PA fue fundada en 2021 y trabaja en estándares para combatir la desinformación y mejorar la autenticidad del contenido digital.
El sistema ya fue adoptado por distintos productos de Google y otras compañías tecnológicas. Sin embargo, su implementación todavía es irregular dentro de la industria tecnológica y audiovisual.
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
