Impacto de los deepfakes en la privacidad digital: el uso no consentido de la imagen personal

Qué pasó

En 2023, Jennifer, una investigadora y psicoterapeuta de 37 años que trabaja en Nueva York, decidió someter su fotografía profesional a un programa de reconocimiento facial. Su objetivo era verificar si la tecnología detectaría los videos para adultos que había realizado más de una década atrás. El sistema no solo identificó ese material, sino que reveló algo que ella desconocía: uno de sus videos originales había sido manipulado para reemplazar su rostro con el de otra persona.

Al notar un fondo particularmente llamativo que reconocía de una filmación realizada alrededor de 2013, Jennifer comprendió que había sido víctima de un deepfake. El algoritmo la había identificado porque la imagen conservaba algunos de sus rasgos faciales, como los pómulos y la forma de la mandíbula. La experiencia la llevó a describir la sensación como llevar el rostro de otra persona como una máscara.

El fenómeno de los deepfakes sexuales se enmarca dentro de la categoría de Imágenes Íntimas No Consensuadas, conocidas por sus siglas en inglés como NCII. Si bien la mayoría de las discusiones públicas se centran en las personas cuyos rostros son superpuestos sin su autorización, el reportaje del MIT Technology Review señala una dimensión menos visibilizada: el uso no consentido de los cuerpos que aparecen en estos contenidos. Corey Silverstein, abogado especializado en la industria para adultos, confirma que esta práctica ocurre de manera habitual.

El origen del término deepfake se remonta a noviembre de 2017, cuando un usuario de Reddit con ese alias subió videos donde superponía los rostros de celebridades como Scarlett Johansson y Gal Gadot en cuerpos de actores de películas pornográficas. Desde entonces, la tecnología ha evolucionado significativamente, y hoy el problema ya no se limita a la copia directa de imágenes. Los cuerpos de los creadores de contenido para adultos están siendo utilizados como datos de entrenamiento para que los modelos de IA aprendan a generar cuerpos sintéticos que se mueven y actúan de manera realista.

Esta nueva forma de explotación amenaza directamente los medios de vida de los trabajadores de la industria, cuya labor está siendo utilizada para entrenar sistemas que podrían reemplazarlos. La situación se ha agravado con la proliferación de aplicaciones de desnudamiento digital, que facilitan la creación de contenido íntimo falso a usuarios sin conocimientos técnicos.

Contexto

El desarrollo de la inteligencia artificial generativa ha transformado la creación de contenido digital en múltiples industrias. Los modelos avanzados son capaces de producir imágenes y videos de alta calidad a partir de instrucciones de texto, utilizando bases de datos masivas que frecuentemente incluyen material protegido por derechos de autor. Esta capacidad técnica ha democratizado la creación de contenido sintético, pero también ha amplificado los riesgos asociados con su uso indebido.

En el ámbito del contenido para adultos, la irrupción de herramientas de IA ha generado una tensión creciente entre los creadores tradicionales y las plataformas tecnológicas emergentes. Las aplicaciones de desnudamiento digital y los generadores de imágenes explícitas operan frecuentemente en un vacío regulatorio, lo que dificulta la persecución legal de los responsables. Para la industria del entretenimiento para adultos, que según estimaciones globales supera los US$ 100 mil millones en ingresos anuales, la competencia de contenido generado artificialmente representa un desafío sin precedentes.

La disputa por los derechos de autor en el entrenamiento de modelos de IA no es exclusiva de este sector. Empresas de medios, agencias de noticias y creadores individuales en todo el mundo han presentado demandas contra desarrolladores de IA por el uso no autorizado de sus trabajos. Sin embargo, el caso de los actores de contenido para adultos presenta particularidades legales y éticas que complican su protección bajo los marcos vigentes, especialmente por la estigmatización social que afecta a la industria.

La regulación de los deepfakes ha comenzado a avanzar en diversas jurisdicciones. La Unión Europea ha implementado obligaciones de transparencia para el contenido generado artificialmente, mientras que en Estados Unidos varios estados han aprobado legislación específica contra los deepfakes no consentidos. No obstante, la protección de los derechos de los trabajadores de la industria para adultos sigue siendo un área gris en la normativa internacional.

Impacto para empresas chilenas

Para el mercado local, los desafíos asociados con los deepfakes y el uso no autorizado de imágenes mediante inteligencia artificial representan un riesgo emergente para empresas, instituciones y ciudadanos. Las compañías chilenas que operan en el sector tecnológico, particularmente las dedicadas al desarrollo de plataformas de contenido y aplicaciones, deben evaluar las implicancias regulatorias y reputacionales derivadas del manejo de datos personales y derechos de imagen en sus productos.

En Chile, la Ley de Protección de Datos Personales establece un marco para el tratamiento de información personal, pero aún presenta vacíos frente a los desafíos planteados por la inteligencia artificial generativa. Las pymes y startups que incorporen tecnologías de IA en sus servicios deben realizar una evaluación cuidadosa de los datos utilizados en el entrenamiento de sus modelos, asegurando el cumplimiento de las normativas de privacidad vigentes para evitar sanciones y daños a su reputación corporativa.

El sector corporativo chileno también debe prepararse para enfrentar riesgos operacionales derivados del uso malicioso de deepfakes. La suplantación de identidad de ejecutivos mediante tecnología de IA puede generar fraudes financieros y crisis de confianza significativas. Empresas de todos los tamaños necesitan implementar protocolos de verificación de identidad y ciberseguridad adaptados a estas amenazas, lo que implica inversiones en tecnología y capacitación de personal.

Adicionalmente, las empresas nacionales de medios y entretenimiento deben monitorear la evolución regulatoria internacional en materia de derechos de autor e IA. La adopción de estándares globales podría requerir ajustes en los modelos de negocio y en las políticas de gestión de contenido digital, afectando tanto a grandes corporaciones como a pequeñas y medianas empresas del sector creativo.

Qué sigue

La evolución de los deepfakes obligará a la industria tecnológica y a los reguladores a desarrollar marcos más robustos para la protección de los derechos digitales. Se anticipa un aumento en la litigación relacionada con el uso de datos personales y contenido protegido en el entrenamiento de modelos de IA, lo que podría establecer precedentes legales significativos en múltiples jurisdicciones, incluida América Latina.

En el plano tecnológico, se espera un avance en las herramientas de detección de contenido sintético y en los sistemas de marca de agua digital que permitan rastrear el origen de las imágenes. Sin embargo, la carrera entre las tecnologías de generación y detección de deepfakes probablemente continuará, exigiendo una actualización constante de las medidas de seguridad implementadas por empresas e instituciones.