El ‘deepfake’: qué es, cuáles son sus riesgos y cómo afecta la identidad de las personas

En un colegio de Chorrillos se descubrió que un grupo de escolares manipulaba las fotografías de sus compañeras a través del ‘deepfake‘, una técnica de inteligencia artificial (IA) que les permitía realizar videos pornográficos destinados a la venta.

Aunque parezca una novedad, lo cierto es que esta herramienta ya lleva años instalada en Perú. Desde hace más de un lustro que la tecnología de reemplazo de rostros se utiliza en redes sociales, ya sea para usarla contra políticos o celebridades globales.

La influenciadora británica Sweet Anita, por ejemplo, fue víctima de esta falsificación. Ella descubrió que en Internet circulaba material de cine para adultos en el que su cara se superponía en rostros de actrices. «Nunca he hecho una sola gota de contenido sexual en mi vida», denunció en el diario The Sun.

Y es que, en las manos equivocadas, el ‘deep fake’ representa una amenaza a la identidad de las personas. Como señaló a Latina Noticias una madre cuya hija resultó afectada en el mencionado colegio chorrillano: «No sabemos adónde han llegado estas fotos ni dónde están siendo comercializadas».

¿QUÉ ES EL ‘DEEPFAKE’ Y CÓMO IDENTIFICARLO?

En síntesis, el ‘deepfake’ es la técnica de inteligencia artificial mediante la cual una persona puede intercambiar imágenes durante la edición de videos. Así, puede superponer rostros de tal manera que parezca una persona real.

Este procedimiento se basa en el uso de algoritmos de aprendizaje no supervisados —también conocidos como Red Generativa Antagónica— y videos o fotografías reales ya existentes. Sus creadores son capaces de producir secuencias falsas, aunque realistas, en las que se modifica la voz o la apariencia física.

Según el laboratorio de la Escuela de Arquitectura y Planificación del Instituto de Tecnología de Massachusetts, para identificar un ‘deepfake’ se debe tomar atención a la cara de quien aparece en el video y preguntarse: «¿La piel parece demasiado suave o arrugada?».

Asimismo, se recomienda fijarse en los ojos, las cejas, la iluminación, los movimientos de los labios y la sincronización con la voz. Un primer paso también aconsejable es buscar en un sitio web legítima si existe información sobre el video difundido con el fin de hallar su origen.

LOS RIESGOS DEL ‘DEEPFAKE’

El mismo término ‘deepfake’ alude a que algo falso (fake) es resultado de una tecnología de aprendizaje profundo (deep learning). Su uso ha producido experimentos educativos, como el rostro de César Vallejo que captó la atención del público en la última edición de la Feria Internacional del Libro de Lima.

Sin embargo, la técnica viene encontrando gran asidero en el desarrollo de contenido para adultos, donde se replican videos falsos de celebridades de Hollywood. Un tipo de pornografía no consentida que lucra principalmente con mujeres, según registró la compañía Sensity AI.

El ‘deepfake’ también ha sido utilizado para contribuir a campañas de desinformación, sobre todo durante comicios electorales en Estados Unidos. La Universidad Northwestern y el Brookings Institution alertaron en una investigación el peligro que representa para la seguridad.

La regulación en torno a estas nuevas tecnologías digitales todavía es una tarea pendiente en Perú y otros países del globo. A medida que avanza el desarrollo tecnológico, es cada vez más barato realizar este tipo de materiales y, lo que es aún peor, más complicado regularlo.