Deepfake: riesgo de abuso sexual y daño psicológico en menores

El arribo y crecimiento de los medios digitales ha transformado de manera importante la vida de un gran número de personas. Con las posibilidades de la creación de perfiles en diversas redes sociales, de realizar transmisiones en vivo y la difusión de noticias en línea, los medios digitales se han convertido en la principal fuente de contenido, tanto para individuos como para empresas y gobiernos.

A ello se ha unido la apertura, acceso y crecimiento exponencial de la Inteligencia Artificial (IA), lo que ha transformado muchas áreas de la vida en las personas, desde la educación hasta su uso en fines lúdicos.

El riesgo de este llamado boom digital, que no ha dejado de subir peldaños, es el fácil acceso a estas herramientas de IA para crear contenidos, incluso, falsos como los llamados deepfakes, que representan una forma de violencia sexual digital con consecuencias reales y dañinas para la infancia y la adolescencia.

De acuerdo con la página de la UNICEF, los deepfakes son imágenes, videos o audios generados o manipulados mediante inteligencia artificial, con apariencia de realidad. Originalmente utilizados para entretenimiento o efectos visuales, su uso se ha sofisticado rápidamente y ahora se emplean para crear contenidos falsos que parecen reales, incluyendo materiales de abuso sexual infantil.

El Fondo de las Naciones Unidas para la Infancia alerta que, a pesar de ser falsos, en el sentido formal, los efectos sobre las víctimas, incluido el daño emocional, estigma, extorsión y normalización de la violencia, son absolutamente reales y muchas veces pueden tener consecuencias para toda la vida.

“Un Deepfake también es abuso sexual, desde la UNICEF hemos subrayado con fuerza que las imágenes sexualizadas de niñas, niños y adolescentes creadas mediante IA son materiales de abuso sexual porque el daño psicológico y social que causan no depende de si la imagen fue técnicamente real o no”, alerta en su portal.

Sobre este tema, el Instituto Politécnico Nacional, en su página web, explica que una Deepfake es un acrónimo formado por las palabras en inglés “fake” (falso) y “deep learning”, un subcampo de la Inteligencia Artificial.

Explica que es un video, una imagen o un audio generado para imitar la apariencia y sonido de una persona. Son generados de modo artificial y son tan convincentes, tan realistas, que muchas veces, el ojo humano no percibe que está frente a una imagen ficticia.

El IPN precisa que las Deepfakes más comunes son las Deepfaces que consisten en crear imágenes altamente convincentes, aunque completamente falsas con el objetivo de generar diferentes imágenes estáticas para crear una secuencia de vídeo, de modo que, como objetivo final, se obtenga un vídeo falso que parezca por completo real.

Se añade que las Deepvoices, es un tipo de Deepfakes que suplantan la voz de una persona en un audio para que parezca que la persona realmente dice algo que no expresó, ya que falsifican su voz real.

Peligros de las deepfakes

Riesgos y amenazas: Cometer delitos relacionados con la integridad, la imagen o fraude.

Propagar noticias falsas: Generar desinformación, desacreditar a alguien, llevar a cabo venganzas, manipular los mercados financieros, influir en las votaciones o toma de decisiones o pensamiento grupal.

Claves para detectar un Deepfake

Lenguaje corporal: la falta de sincronización entre el audio y el movimiento de los labios es un indicio de este episodio. También se puede detectar si se presta atención a cómo la persona mueve los ojos, la cabeza o la boca.

Incoherencia: En ocasiones, la persona representada en el vídeo puede ofrecer ciertas inconsistencias en su discurso.

Fuente: Si el vídeo procede de una fuente desconocida o poco fiable, es posible que sea un Deepfake.

El sonido: Es frecuente encontrar en los Deepfakes que el algoritmo que modifica el archivo de vídeo no ajusta correctamente el sonido a la imagen, por lo que no hay una sincronización entre el movimiento de los labios y el sonido.

Los detalles: Es importante conocer los detalles de la grabación y, para esto, puede ayudar reproducir el vídeo a velocidad reducida. Si se trata de un Deepfake podremos ver modificaciones repentinas en la imagen o cambios en el fondo del vídeo.