El 98% de los jóvenes dice haber sufrido violencia sexual digital y uno de cada cinco ha sido víctima de 'deepfakes' con IA

Fuente y enlace


1. Identificación del contexto

El artículo reporta los resultados del estudio de la Fundación ANAR y Fundación Mutua Madrileña sobre la violencia sexual digital en menores. Las cifras son alarmantes: un 98% de jóvenes han sufrido algún tipo de violencia sexual digital antes de los 18 años, y uno de cada cinco ha sido víctima de contenidos falsificados con inteligencia artificial (deepfakes). El texto detalla modalidades como grooming, sextorsión, difusión no consentida de imágenes íntimas y amenazas, en un contexto donde las plataformas digitales carecen de mecanismos suficientes de protección para menores.


2. Análisis filosófico por categorías

A. Ética y Responsabilidad – Hans Jonas

El principio de responsabilidad de Jonas resuena fuertemente aquí. Las tecnologías que permiten la creación de deepfakes y la difusión masiva de contenido íntimo no han ido acompañadas de un desarrollo ético proporcional. El artículo muestra un déficit claro en la anticipación de consecuencias, especialmente en relación con menores, cuya vulnerabilidad exige una protección reforzada en nombre de las generaciones futuras.

B. Poder y Discurso – Michel Foucault

La violencia digital se inscribe dentro de un régimen de poder que regula la sexualidad, la imagen y el cuerpo de los menores mediante tecnologías de control. El discurso mediático y digital configura nuevas formas de dominación simbólica: la posesión y manipulación de la imagen como forma de sometimiento. Foucault permitiría identificar aquí cómo el poder actúa a través del saber tecnológico y de las plataformas que lo administran.

C. Transparencia y autoexplotación – Byung-Chul Han

El caso analizado se inscribe en la lógica contemporánea de la “hipertransparencia” y la exposición total. La presión por compartir imágenes íntimas, la normalización del sexting y la lógica del rendimiento digital alimentan una forma de autoexplotación consentida y luego violentada. La violencia aparece no solo como imposición externa, sino también como producto de un sistema que alienta la exposición sin límites, para luego castigarla.

D. Simulación y Realidad – Jean Baudrillard

La aparición de los deepfakes introduce una nueva dimensión ontológica: la de la simulación extrema. Las imágenes ya no remiten a una realidad vivida, sino que la reemplazan. El cuerpo del menor es simulado, recreado, manipulado —y, sin embargo, socialmente penalizado como si el acto fuera real. Esto genera una paradoja ética y legal que el artículo no resuelve pero sí visibiliza.

E. Modernidad líquida – Zygmunt Bauman

La volatilidad de las relaciones digitales y la fragilidad de las identidades juveniles en entornos virtuales forman parte del análisis. Bauman permitiría entender cómo los vínculos que antes ofrecían soporte y comunidad se han licuado, dejando a los jóvenes expuestos a violencias sin estructuras sólidas de protección o reparación.

F. Tecnología y género – Donna Haraway

Aunque el artículo no lo enfatiza, la mayoría de las víctimas mencionadas son mujeres, lo que remite a una dimensión de género fundamental. El cuerpo femenino es objeto de apropiación digital, lo que reactualiza formas patriarcales de control en nuevos formatos tecnológicos. Haraway invita a repensar esta relación cuerpo-tecnología desde una ética feminista y crítica.


3. Conclusión: riesgos, oportunidades y hallazgos

Oportunidades:

  • El informe y su cobertura periodística permiten visibilizar un fenómeno emergente que aún carece de marco legal y ético claro.

  • Existe un potencial para desarrollar mecanismos técnicos y educativos de prevención más sólidos.

Riesgos:

  • La banalización de prácticas como el sexting y los deepfakes normaliza formas de violencia que afectan la identidad y dignidad de los menores.

  • Las plataformas tecnológicas permanecen impunes en su rol de facilitadoras del daño.

Hallazgos conceptuales:

  • La tecnología no es neutral: está imbricada en sistemas de poder, explotación y violencia simbólica.

  • Las formas actuales de violencia digital requieren repensar nuestras categorías éticas, jurídicas y ontológicas desde una perspectiva compleja y multidisciplinar.