Presentado por Veriff
Los estadounidenses no pueden distinguir de manera confiable el contenido real del contenido generado por IA, y eso no es sólo un problema de alfabetización mediática; es una amenaza directa a la forma en que las empresas verifican sus identidades en línea.
Una nueva investigación revela que, si bien muchas personas conocen los deepfakes, su capacidad para distinguirlos de la realidad es poco mejor que lanzar una moneda al aire. Una encuesta realizada en 2026 por Veriff y Kantar a 3.000 encuestados en Estados Unidos, Reino Unido y Brasil muestra que los estadounidenses obtuvieron solo 0,07 en una escala donde 0 representa una suposición aleatoria.
Si las personas no pueden distinguir el contenido visual auténtico, no pueden distinguir de manera confiable identidades auténticas. En la práctica, esto significa que los mismos usuarios que interactúan con los servicios digitales muchas veces no pueden saber si la persona que está al otro lado de la pantalla es real.
Esta ineficiencia tiene consecuencias directas para todas las empresas digitales que dependen de la verificación de identidad por imágenes y videos para confirmar quién está al otro lado de una pantalla. Esto incluye todo, desde la incorporación del banco del cliente y la recuperación de cuentas hasta la verificación del vendedor del mercado, transacciones de comercio electrónico de alto valor, autenticación de plataformas sociales y control de acceso empresarial.
En Estados Unidos, estas consecuencias ya son significativas: el fraude de identidad sintética ahora representa miles de millones en pérdidas anuales y las herramientas para generar falsificaciones convincentes ahora son ampliamente accesibles.
El informe también identifica una cohorte pequeña pero de alto riesgo: aproximadamente el 7% de los usuarios que tienen un desempeño deficiente en la detección de deepfakes, pero que siguen confiando en sus habilidades y rara vez verifican lo que ven. Si bien este porcentaje es pequeño, a escala representa millones de cuentas que son objetivos altamente explotables para el fraude.
Si los usuarios no pueden distinguir de manera confiable las identidades reales de las sintéticas, entonces cualquier sistema que dependa de la verificación visual estará fundamentalmente expuesto. La verificación de identidad ya no puede considerarse una función de cumplimiento; más bien, debe construirse como infraestructura digital básica.
«Ahora que el contenido generado por IA se está volviendo indistinguible de la realidad, el ojo humano por sí solo ya no es una línea de defensa confiable», afirma Ira Bondar-Mucci, jefe de la plataforma antifraude de Veriff. «Las empresas y los formuladores de políticas en los Estados Unidos deben abordar urgentemente esta brecha de conciencia, al mismo tiempo que invierten en tecnologías de verificación automatizadas que puedan detectar lo que los humanos simplemente no pueden».
La brecha de concienciación sobre los deepfakes en EE. UU. es mayor de lo esperado
Estados Unidos puede ser el epicentro global del desarrollo de la IA generativa, pero los consumidores estadounidenses son los menos familiarizados con los deepfakes entre los tres mercados estudiados. Sólo el 63% de los adultos estadounidenses están familiarizados con el término, en comparación con el 74% en el Reino Unido y el 67% en Brasil.
«Hay una paradoja en juego», dice Bondar-Mucci. «Estados Unidos es el epicentro global del desarrollo de la IA, pero los consumidores estadounidenses son los que menos conciencia tienen de uno de sus subproductos más peligrosos. Históricamente, los consumidores han tenido una mayor confianza en el contenido digital, y el debate sobre el fraude se centró más en la privacidad de los datos que en la autenticidad del contenido. El problema es que la falta de conciencia no reduce el riesgo, sino que lo amplifica. Si no sabes qué es un deepfake, es mucho menos consciente que te detengas y compruebes si te has encontrado con uno».
Suscríbete y recibe las historias más importantes del día.
Al suscribirte aceptas nuestros términos y condiciones y política de privacidad.
La detección humana de deepfakes es poco mejor que lanzar una moneda al aire
En la práctica, la aleatoriedad que caracteriza la capacidad del consumidor para distinguir la realidad de la ficción es evidente en la forma en que las personas evalúan diferentes tipos de contenido. El contenido de vídeo ha demostrado ser particularmente difícil de evaluar, ya que los vídeos falsos a menudo se identifican como auténticos y los vídeos reales a menudo se marcan como falsos. Incluso en comparaciones lado a lado, los encuestados dividieron sus juicios casi por igual, otra indicación de que la inspección visual por sí sola ya no es un método confiable para verificar la autenticidad.
El exceso de confianza en la detección de deepfake crea una vulnerabilidad peligrosa
Aproximadamente la mitad de los encuestados estadounidenses dicen confiar en su capacidad para identificar deepfakes, pero esta confianza excede con creces el desempeño real, lo que demuestra que la autoevaluación en realidad no tiene sentido.
Dentro de esta población, hay una cohorte pequeña pero de alto riesgo: alrededor del 7% de los usuarios son inexactos, pero confían demasiado en sus capacidades y rara vez revisan contenido sospechoso.
«Esta brecha entre confianza y competencia crea una falsa sensación de seguridad que los estafadores están dispuestos a utilizar», afirma Bondar-Mucci. «Cuando la gente cree que no se les puede engañar, dejan de buscar las señales. Ahí es precisamente cuando son más vulnerables, ya sea una identidad sintética utilizada en fraude financiero o un vídeo fabricado para manipular la confianza».
Para las empresas, la implicación es clara: cualquier organización que todavía dependa de procesos de revisión manual o de autocertificación del cliente hereda directamente esta vulnerabilidad. El juicio humano es una garantía cada vez menos confiable y la verificación debe integrarse en los sistemas de forma predeterminada. Esto significa automatizado, impulsado por la tecnología y no dependiente de la autoevaluación del usuario final sobre su capacidad para distinguir la realidad de la ficción.
Los estadounidenses se preocupan por los deepfakes pero confían en las plataformas para gestionarlos
La preocupación por los deepfakes es alta en Estados Unidos: el 79% de los encuestados dicen estar algo o extremadamente preocupados por el fraude personal y el robo de identidad.
Estados Unidos se aparta de otros mercados en esta dirección. Los estadounidenses son más propensos que los encuestados británicos o brasileños a confiar en las plataformas de redes sociales y los servicios digitales para identificar y gestionar el contenido generado por IA. Esta delegación de responsabilidad podría reducir la vigilancia individual en el preciso momento en que la amenaza se acelera.
«Estamos viendo que se utilizan identidades sintéticas para abrir cuentas fraudulentas y autorizar transacciones, así como videos deepfake implementados para eludir los controles de verificación básicos», explica. «Lo que hace que esta situación sea particularmente urgente es la combinación de gran preocupación y confianza relativamente alta en la plataforma. Es precisamente en esta brecha entre la protección percibida y real donde prospera el fraude».
El argumento comercial para la verificación de identidad automatizada nunca ha sido tan sólido
La brecha entre lo que los estadounidenses creen que pueden detectar y lo que realmente pueden detectar no es un problema de conocimiento que las campañas de concientización resolverán, sino un defecto de diseño en cualquier sistema que coloque la carga de la verificación de identidad en el juicio humano sin ayuda.
La respuesta eficaz no es sacar a los humanos del circuito de verificación, sino dejar de asignarles tareas que la percepción humana ya no puede realizar de manera confiable. Las organizaciones que persisten en depender de procesos de revisión manual o de autocertificación del cliente están absorbiendo esta vulnerabilidad en sus operaciones.
La alternativa es la verificación de identidad automatizada impulsada por IA que opera en el punto de interacción, detecta medios sintéticos antes de que se requiera una decisión humana y no depende de la capacidad del usuario final para distinguir lo real de lo falso.
«Ver ya no es creer», dice Bondar-Mucci. «Las empresas que construyen una infraestructura de verificación en torno a esta realidad, en lugar de asumir que será de otra manera, están en mejor posición para mantener la confianza de los clientes a medida que el panorama de los medios sintéticos continúa evolucionando». »
Los artículos patrocinados son contenidos producidos por una empresa que paga por la publicación o tiene una relación comercial con VentureBeat y siempre están claramente marcados. Para más información, póngase en contacto ventas@venturebeat.com.
