Equilibrio ético de los medios sintéticos

¿Son malos
los deepfakes?

Este proyecto, financiado por UNIR, analiza la literatura científica y la prensa española para responder a esta pregunta a través de datos.

Ver artículos Ver prensa
225 casos de daño documentados en la literatura científica frente a 42 de beneficio, una proporción de 5,4 a 1 que se dispara a 45 a 1 si se cuentan también las contramedidas defensivas.
Retrato en mosaico digital, referencia visual a la síntesis de imagen por IA
ANÁLISIS DE VALENCIA DE APLICACIÓNNO NEUTRO
El punto de partida
«No parecía tener ningún potencial positivo que compensara el daño que podría provocar en un sistema democrático.»

Reacción de especialistas en ciberseguridad y cuerpos de seguridad tras una presentación del equipo sobre deepfakes, III Jornadas de Seguridad Multidimensional, Universidad Complutense de Madrid.

Este estudio nace de esa reacción. ¿Es cierto que los medios sintéticos no tienen ningún uso que compense sus riesgos? Para poder responder a esta pregunta hace falta volver al clásico dilema de si un arma es buena o mala en sí misma. El mismo cuchillo que mata a una persona puede servir a un cirujano para curar a otra. Sin embargo, con los deepfakes, surge la duda de si existen usos positivos que justifiquen los riesgos que crean.

Un deepfake es un tipo de contenido audiovisual sintético generado a través de inteligencia artificial para hacer que una persona parezca decir o hacer algo que nunca dijo ni hizo. Este es el mismo tipo de tecnología que en 2019 devolvía a Salvador Dalí a un museo de Florida para conversar con los visitantes. Sin embargo, también es la que, en 2024, la policía surcoreana descubrió que se usaba en un canal de Telegram de más de 220.000 miembros, en el que se compartían imágenes sexuales generadas sin conocimiento de sus protagonistas. Estos dos usos son las dos caras de una misma tecnología.

Dos rostros superpuestos con textura de escaneo digital
La misma tecnología de síntesis facial puede devolver una voz o robar una identidad.

En este proyecto se ha analizado qué proporción de cada tipo de uso, positivo o dañino, ha ocupado realmente la ciencia y la prensa.

La literatura científica (a partir de 2018)

2.117 artículos en ocho categorías

Para comprobar lo que investiga la ciencia sobre deepfakes se ha realizado una búsqueda en Web of Science de los artículos que tratan dicho tema. Cada registro se ha codificado en una categoría de ocho posibles según la valencia de aplicación, a través de cuatro rondas de revisión manual. Consulta aquí la base de datos completa

La valencia de aplicación es el criterio que ordena esas ocho categorías. Esta indica si el uso de deepfakes que estudia cada artículo es positivo o negativo. El concepto de «valencia» se ha tomado prestado de la psicología, donde describe si un estímulo resulta agradable o desagradable.

Filas de máscaras faciales sintéticas sin rasgos propios
2.117 registros, cada uno clasificado en una de ocho categorías según el uso que estudia.

Para simplificar el análisis, estas ocho categorías se agrupan en cuatro bloques: daño explícito, beneficio explícito, debate dual y sin valencia de aplicación.

5,4 : 1
DAÑO EXPLÍCITO : BENEFICIO EXPLÍCITO
(225 artículos frente a 42)
45 : 1
AMENAZA : BENEFICIO
(sumando las 1.665 contramedidas defensivas)
1. Contramedida defensiva
(detección, forense)
1.665
5. Análisis de daño
(no técnico)
218
8. Sin valencia explícita
(metodológico puro)
94
7. Ético-legal genérico
(sin caso concreto)
74
6. Análisis de beneficio
(no técnico)
33
4. Debate dual explícito
17
3. Generación → beneficiosa
9
2. Generación → dañina
7

Escala logarítmica sobre el número de artículos, para que las ocho categorías sigan siendo legibles pese a la enorme diferencia de volumen. Ámbar = orientado al daño; verde = orientado al beneficio; gris = sin valencia de aplicación o defensivo.

Glosario de las ocho categorías

Cada registro se clasifica en una única categoría, aplicadas en este orden de prioridad en el árbol de decisión.

01) CONTRAMEDIDA DEFENSIVA

Detección, forense, watermarking

El foco del artículo es detectar, autenticar o defenderse de deepfakes. Trata la tecnología como amenaza que necesita ser mitigada, sin ser en sí un caso de aplicación dañina o benéfica.

02) GENERACIÓN DAÑINA

Generación técnica con uso dañino explícito

GAN, difusión o clonación de voz enmarcadas en pornografía no consentida, fraude, desinformación política o extorsión.

03) GENERACIÓN BENEFICIOSA

Generación técnica con uso positivo explícito

Doblaje, arte, educación, medicina, accesibilidad o privacidad como marco explícito de la generación técnica.

04) DEBATE DUAL EXPLÍCITO

Daños y beneficios discutidos por igual

El artículo discute explícitamente tanto perjuicios como beneficios de forma comparable.

05) ANÁLISIS DE DAÑO

Estudios legales, psicológicos o sociológicos

Centrados en un daño concreto, sin ser ellos mismos un artículo de generación o detección técnica.

06) ANÁLISIS DE BENEFICIO

Estudios centrados en un beneficio concreto

Evalúan o proponen un uso positivo sin desarrollar ellos mismos la técnica de generación.

07) ÉTICO-LEGAL GENÉRICO

Ética, regulación o gobernanza

Discute el marco normativo sin anclarse a un caso de aplicación concreto, ni dañino ni benéfico.

08) SIN VALENCIA EXPLÍCITA

Trabajo metodológico o técnico puro

No se detecta ningún marco de aplicación.

Revisión de la clasificación

La clasificación combina un clasificador léxico automático con revisión humana, iterada en cuatro rondas.

RONDA 1

Clasificador automático

Diccionario de términos aplicado buscando literalmente que estos aparezcan en título, resumen y palabras clave (sin distinguir mayúsculas). El resultado inicial fueron 215 registros de daño, 17 de beneficio (ratio 12,6:1) y 1.664 registros de contramedidas.

RONDA 2

Revisión manual de casos positivos

Se corrigieron falsos positivos, tales como pornografía de IA marcada como «beneficiosa» por el término genérico «entertainment industry», y se amplió el diccionario de contramedidas. Se identificaron dos casos adicionales beneficiosos (19 totales).

RONDA 3

Lectura íntegra buscando casos de beneficio

Se leyeron los 135 resúmenes completos clasificados «sin valencia», encontrando un punto ciego de vocabulario médico y educativo. Se identificaron casos positivos adicionales. Resultado: 41 beneficio, 216 daño (5,3:1).

RONDA 4

Lectura ampliada, buscando también daño

Revisión de los registros restantes sin valencia asignada, buscando también daño y contramedida. Se realizan 12 correcciones, incluyendo un caso grave de pornografía infantil por IA que no usaba términos habituales. Resultado definitivo: 225 daño, 42 beneficio (5,4:1).

Limitaciones

Cuatro casos, cuatro categorías

Un ejemplo real de cada bloque, entre los artículos más citados del corpus.

Daño explícito
«Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News»
2020 / Social Media + Society / 550 citas
Beneficio explícito
«DeepFake electrocardiograms using generative adversarial networks are the beginning of the end for privacy issues in medicine»
2021 / Scientific Reports / 63 citas
Debate dual
«Photographic and Video Deepfakes Have Arrived: How Machine Learning May Influence Plastic Surgery»
2020 / Plastic and Reconstructive Surgery / 27 citas
Contramedida
«Media Forensics and DeepFakes: An Overview»
2020 / IEEE Journal of Selected Topics in Signal Processing / 513 citas

Explora los 2.117 registros completos

Ir a la base científica
La prensa española (2019-2024)

De la fascinación por la tecnología a la alarma por la amenaza social

Se han recopilado los titulares de prensa sobre deepfakes entre los años 2019, cuando surge el término, y 2024. Se han recopilado 1.426 titulares a través de la consulta a 1.596 medios españoles, incluyendo agencias, prensa nacional, regional y local, usando el buscador MyNews. Consulta aquí la base de datos completa

Tono de los titulares por año

El tono neutral domina todo el periodo (76,6% del total), pero el negativo pasa del 14,8% en 2019 al 22,4% en 2024, con un máximo del 24,5% en 2023, y el positivo prácticamente desaparece en esos mismos años.

2019
15%
67%
18%
2020
10%
86%
2021
91%
2022
10%
86%
2023
24%
74%
2024
22%
69%
9%
Negativo Neutral Positivo

Evolución de los ejes temáticos

La tecnología es el eje temático más estable, como cabía esperar. La sexualidad está prácticamente ausente hasta 2022 y se dispara en los años 2023–2024. Las narrativas sociales (mentira, historia, humanidad) irrumpen en 2023.

20192020 20212022 20232024
Tecnología Riesgo / Regulación Sexualidad Narrativas sociales

El relato año a año

Haz clic en cada año para ver qué dominaba el vocabulario periodístico relativo a los deepfakes.

Los términos se centran en la novedad técnica: «expertos», «vídeos», «algoritmo», junto con plataformas y países (Facebook, China, Zao). Coincide con la viralización de la app china Zao, que despertó los primeros debates sobre privacidad.

«Prohíbe», «herramienta», «detector» y «manipular» reflejan una preocupación creciente por la desinformación, realzada por el contexto de las elecciones estadounidenses. Microsoft, Facebook y Twitter introducen políticas restrictivas.

Aparecen «Lola Flores», «Cruzcampo», «humor» y «publicidad». El anuncio de Cruzcampo que recreó a Lola Flores marca un hito cultural y desencadena debates sobre identidad y explotación de la imagen. Tom Cruise se vuelve viral con vídeos falsos.

«Mujeres», «pornográficos» y «víctima» evidencian el aumento de cobertura sobre contenidos no consentidos y violencia digital de género, con referencias a TikTok y a Bruce Willis.

«Mentira», «historia», «humanidad» y «amenaza» apuntan a una narrativa existencial sobre la manipulación del pasado. Aparecen menciones a Putin en contextos geopolíticos y de propaganda.

Dos líneas conviven: los deepfakes sexuales no consensuales (Taylor Swift, «porno», «víctima») y la consolidación regulatoria («verificación», «delitos», «electorales»), con menciones frecuentes a Google, Microsoft y Meta.

Ejemplos del corpus

Casos reales del corpus que ilustran el desplazamiento: de la curiosidad publicitaria al debate legal.

Beneficio
«#DonaTuVoz: el proyecto español que genera deepfakes de audio con los que devolver su voz a enfermos de ELA»
25 dic 2019 / genbeta.com / Leer noticia ↗
 Riesgo
«ZAO, la 'app' china que generaliza el 'deepfake', pone en riesgo la privacidad de los usuarios»
2 sept 2019 / europapress.es / Leer noticia ↗
 Debate ético
«Así se hizo el anuncio de Cruzcampo con Lola Flores y la técnica del 'deepfake'»
22 ene 2021 / okdiario.com / Leer noticia ↗
 Derechos de imagen
«Bruce Willis niega haber vendido los derechos de su imagen para que la recreen por deepfake»
2 oct 2022 / 20minutos.es / Leer noticia ↗
 Marco legal
«Borja Adsuara, experto en Derecho Digital: “Solo estar en un chat en el que se comparten deepfakes sexuales de menores ya es delito”»
28 sept 2023 / lavozdegalicia.es / Leer noticia ↗
 Respuesta tecnológica
«HONOR revoluciona la IA móvil con detección de Deepfakes y AI Agent»
10 sept 2024 / bolsamania.com / Leer noticia ↗

Explora los 1.426 titulares completos

Ir a la base de prensa
El debate de fondo

¿Puede una tecnología ser neutral?

La Value-Neutrality Thesis (VNT Thesis) sostiene que los artefactos tecnológicos no tienen valores implícitos (Pitt, 2014). El proyecto pone esa tesis a prueba a través del impacto social en prensa y lo que la comunidad científica estudia sobre los deepfakes.

Retrato de un rostro dividido entre dos identidades distintas
Una misma tecnología, dos identidades: el dilema que atraviesa todo el proyecto.

La filosofía de la técnica lleva décadas debatiendo si un artefacto puede considerarse moralmente neutro. Ihde (1990) plantea que las tecnologías no son instrumentos transparentes, sino mediaciones que transforman la relación entre el ser humano y el mundo, lectura que Winner (1980) lleva más allá en ¿Tienen política los artefactos? (Do Artifacts Have Politics?), al sostener que ciertos objetos técnicos favorecen relaciones sociales y políticas específicas, con independencia de la intención de quien los use.

«Technological artifacts do not have, have embedded in them, or contain values» (J. C. Pitt, 2014).

Frente a esta idea, Feenberg (1999) sostiene que la tecnología no puede entenderse como una esfera autónoma y neutral al margen de lo social, puesto que contribuye a configurarlo y encarna elecciones y valores previos. En esa misma línea se sitúa la primera de las célebres leyes de la tecnología de Kranzberg (1986), que este proyecto toma como punto de partida: la tecnología no es buena ni mala por sí misma, aunque tampoco neutral, pues sus efectos dependen del contexto social, cultural y político en que se inscribe.

Este proyecto entiende ese contexto en un sentido concreto: el conjunto de aplicaciones que la comunidad científica decide investigar y el modo en que la prensa española encuadra la tecnología entre 2019 y 2024. Ambos corpus permiten observar hacia qué lado se inclina, en la práctica, el uso real de los deepfakes.

Hipótesis y objetivos del proyecto

H1: Pregunta de investigación 1

¿Son los medios sintéticos una tecnología neutra? El equipo contrasta esta hipótesis a través de los casos de uso documentados en ciencia y prensa.

H2: Pregunta de investigación 2

Si lo fueran, ¿puede potenciarse su uso positivo? Existe un uso beneficioso que puede impulsarse una vez estudiados sus efectos nocivos.

O1

Analizar el argumento de neutralidad de valor (VNT)

Revisión de las posturas teóricas a favor y en contra de la neutralidad moral de las tecnologías emergentes, con un fuerte componente de casos reales.

Responsable: Luis Deltell Escolar
O2

Investigar los usos actuales de la tecnología deepfake

Identificación de casos en entretenimiento, política, seguridad y pornografía a partir de investigación y prensa.

Responsable: Pablo Rey García
O3

Estudiar las implicaciones éticas a través de casos de uso

Valoración de las implicaciones éticas y sociales de los casos identificados, dando respuesta directa a H1.

Responsable: Nadia McGowan
O4

Desarrollar un marco ético de uso responsable

Marco de prevención de daños y promoción de aplicaciones beneficiosas, validado con al menos cinco expertos en ética y tecnología.

Responsable: todo el equipo
Fuentes

Bibliografía

Una selección de las referencias que sustentan el marco teórico y el estado de la cuestión del proyecto.

Marco teórico y filosofía de la técnica

  • Feenberg, A. (1999). Questioning technology. Routledge.
  • Ihde, D. (1990). Technology and the lifeworld: From garden to earth. Indiana University Press.
  • Kranzberg, M. (1986). Technology and history: "Kranzberg's laws". Technology and Culture, 27(3), 544–560.
  • Pitt, J. C. (2013). "Guns don't kill, people kill"; values in and/or around technologies. En The moral status of technical artefacts. Springer.
  • Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.
  • Latour, B., & Venn, C. (2002). Morality and technology. Theory, Culture & Society, 19(5-6), 247-260.
  • Van de Poel, I., & Kroes, P. (2013). Can technology embody values? En The moral status of technical artefacts. Springer.
  • Radder, H. (2009). Why technologies are inherently normative. En Philosophy of technology and engineering sciences. North-Holland.

Detección, generación y aspectos técnicos

  • Albahar, M., & Almalki, J. (2019). Deepfakes: Threats and countermeasures systematic review. Journal of Theoretical and Applied Information Technology, 97(22), 3242-3250.
  • Heidari, A., Jafari Navimipour, N., Dag, H., & Unal, M. (2024). Deepfake detection using deep learning methods. WIREs Data Mining and Knowledge Discovery, 14(2).
  • Lin, K., Han, W., Gu, Z., & Li, S. (2021). A survey of deepfakes generation and detection. IEEE Sixth International Conference on Data Science in Cyberspace (DSC).
  • Sharma, V. K., Garg, R., & Caudron, Q. (2025). A systematic literature review on deepfake detection techniques. Multimedia Tools and Applications, 84(20), 22187-22229.
  • Somoray, K., Miller, D. J., & Holmes, M. (2025). Human performance in deepfake detection: A systematic review. Human Behavior and Emerging Technologies, 2025(1).
  • Tolosana, R., Vera-Rodriguez, R., Fierrez, J., Morales, A., & Ortega-Garcia, J. (2020). DeepFakes and beyond: A survey of face manipulation and fake detection. Information Fusion, 64, 131-148.
  • Zhang, T. (2022). Deepfake generation and detection, a survey. Multimedia Tools and Applications, 81(5), 6259-6276.

Ética, regulación y daño

  • Ajder, H., Patrini, G., Cavalli, F., & Cullen, L. (2019). The state of deepfakes: Landscape, threats, and impact. Deeptrace.
  • Jaiman, A. (2020). Debating the ethics of deepfakes. Tackling Insurgent Ideologies in a Pandemic World, ORF and Global Policy Journal.
  • Meskys, E., Kalpokiene, J., Jurcys, P., & Liaudanskas, A. (2020). Regulating deep fakes: legal and ethical considerations. Journal of Intellectual Property Law & Practice, 15(1), 24-31.
  • Rini, R., & Cohen, L. (2022). Deepfakes, deep harms. Journal of Ethics & Social Philosophy, 22, 143.
  • Story, D., & Jenkins, R. (2023). Deepfake pornography and the ethics of non-veridical representations. Philosophy & Technology, 36, 56.
  • Widder, D. G., Nafus, D., Dabbish, L., & Herbsleb, J. (2022). Limits and possibilities for "ethical ai" in open source: A study of deepfakes. ACM FAccT 2022.
  • Habgood-Coote, J. (2023). Deepfakes and the epistemic apocalypse. Synthese, 201(3), 103.
  • Hwang, Y., Ryu, J. Y., & Jeong, S. H. (2021). Effects of disinformation using deepfake. Cyberpsychology, Behavior, and Social Networking, 24(3), 188-193.

Casos, prensa y contexto social

  • Byman, D. L., Gao, C., Meserole, C., & Subrahmanian, V. S. (2023). Deepfakes and international conflict. Brookings Institution.
  • Cahlan, S. (2020). How misinformation helped spark an attempted coup in Gabon. Washington Post.
  • Cole, S. (2018). Everyone is making AI-generated fake porn now. Vice.
  • Crawford, A., & Smith, T. (2023). Illegal trade in AI child sex abuse images exposed. BBC.
  • King, D. (1997). The commissar vanishes: the falsification of photographs and art in Stalin's Russia. Metropolitan Books.
  • Tidy, J. (2023). Paedophiles using AI to turn singers and film stars into kids. BBC.
  • Westerlund, M. (2019). The emergence of deepfake technology: A review. Technology Innovation Management Review, 9(11), 39-52.
  • Mirsky, Y., & Lee, W. (2021). The creation and detection of deepfakes: A survey. ACM Computing Surveys, 54(1), 1-41.

Publicaciones propias del equipo

  • McGowan, N. (2019). Una mirada técnica: avances en dirección de fotografía y cambios estéticos a principios del s.XXI [Tesis doctoral]. Universidad Complutense de Madrid.
  • McGowan, N., & Deltell Escolar, L. (2017). Crisis del celuloide: criterios de exposición en el paso del fotoquímico al digital en el cine de Hollywood. El profesional de la información, 26(6), 1149-1158.
  • Deltell Escolar, L., & Alfeo, J. C. (2018). El efecto Phi: 14 ensayos sobre imagen cinematográfica. Moderinto Books.
  • Deltell Escolar, L., & Alfeo, J. C. (2016). La mirada mecánica: 17 ensayos sobre la imagen fotográfica. Fragua.
  • Narvaez, M. F., Olivenza, I. S., & McGowan, N. (2022). Painting authorship and forgery detection challenges with AI image generation algorithms. IJIMAI, 7(7), 7-13.
  • Rey-García, P., & McGowan, N. (2020). El deepfake como amenaza comunicativa. Diagnóstico, técnica y prevención. En La amenaza híbrida, la guerra imprevisible, 259-366. Ministerio de Defensa.
  • McGowan, N., & Rey-García, P. (2025). Imagen e Inteligencia Artificial: tecnología, autoría e imágenes sintéticas. En Nuevos horizontes: retos de la fotografía en tiempos líquidos, 59-78. Fragua.