¿Alguna vez has imaginado ver tu rostro en un video totalmente aleatorio? ¿O escuchar tu propia voz diciendo cosas que jamás dirías? Bueno, esto es posible gracias a una tecnología llamada deepfake, que permite esta manipulación, especialmente en videos, de manera bastante convincente. A continuación, te presento más detalles sobre qué es un deepfake y por qué es importante estar atento a esta técnica.
Qué es Deepfake
Deepfake utiliza Inteligencia Artificial para cambiar el rostro de personas en videos, sincronizar movimientos labiales, expresiones y otros detalles, con resultados a veces impresionantes y muy convincentes.
Esta tendencia de cambiar rostros en videos no es nueva. Sin embargo, en diciembre de 2017, un usuario de Reddit llamado deepfakes dio un paso más allá. Utilizando herramientas de Inteligencia Artificial y Aprendizaje Automático de código abierto como Keras y TensorFlow (este último de Google), creó un algoritmo para entrenar una Red Neuronal a mapear el rostro de una persona en el cuerpo de otra, cuadro por cuadro.
En lugar de depender de la edición manual como antes, el usuario, a través de la herramienta (llamada Deepfake), solo necesita una fuente para reconocer el modelo facial de la “víctima”, mapear la estructura de la cabeza de destino y hacer la superposición. El software puede ajustar la movilidad del video original al nuevo rostro, lo que incluye expresiones faciales y movimientos labiales.
Inicialmente, Deepfake requería conocimientos avanzados por parte del usuario. Sin embargo, cuando otros crearon aplicaciones y sistemas capaces de automatizar todo el proceso, la herramienta se empezó a utilizar masivamente para fines maliciosos: pronto comenzaron a aparecer numerosos videos para adultos editados con el software, utilizando rostros de actrices y artistas.
La “diversión” de Deepfake no se limitó a videos para adultos; hay una serie de creaciones que colocan rostros de celebridades en películas donde no estuvieron presentes. Sin embargo, las posibilidades de uso del software son numerosas y, cabe destacar, dañinas. Incluso Mark Zuckerberg fue objeto de un video falso.
Algunos ejemplos de herramientas de deepfake de fácil acceso son: la aplicación Reface, los sitios DeepSwap y DeepFakes Web, y los programas FaceApp y DeepFaceLab.
Es importante destacar que deepfake es diferente de shallowfake. La premisa es similar, pero la diferencia radica en la calidad. En shallowfake, la calidad de la manipulación es inferior, lo que facilita su identificación.
Tipos de Deepfake
Aunque el enfoque principal de deepfake es el intercambio de rostros en videos, sería un error pensar que la práctica se limita a eso. La técnica también se utiliza para la manipulación de audios, creando grabaciones que simulan la voz de una persona específica, un tipo de deepfake fácilmente compartible en aplicaciones de mensajería como WhatsApp.
Además, ya nos estamos encontrando con deepfakes textuales, con máquinas que generan escritos utilizando inteligencia artificial; deepfakes en redes sociales, para la creación de perfiles falsos en internet; y deepfakes en tiempo real, donde es posible cambiar el rostro en transmisiones en vivo, técnica permitida por software como DeepFaceLive, por ejemplo.
Riesgos Potenciales de los Deepfakes
Aunque el objetivo principal de la comunidad en torno a esta herramienta son las personas públicas, nada impide que alguien con malas intenciones tome un video de una persona común y lo coloque en una situación embarazosa.
No solo se trata de videos de venganza editados: es posible, por ejemplo, crear un momento falso entre amigos para generar una coartada, un testimonio para persuadir a otros de que apoyas un determinado punto de vista o incluso una situación de crimen para incriminarte. Todo depende de la creatividad del editor y de cuántos videos tuyos estén disponibles fácilmente en internet.
Dado que la calidad media de los videos no es muy alta debido a las exigencias de hardware (se necesita al menos una GeForce GTX 1050 para resultados aceptables), estas creaciones pueden ser convincentes para alguien desprevenido, quien podría pensar que se trata de un video real, aunque tenga alguna falla.
Cómo Identificar un Deepfake
Al recibir un video dudoso, detente y míralo varias veces, en todas las velocidades, para que sea más fácil identificar fallas.
También es importante prestar atención al rostro de la persona en el video. Observa la piel, los ojos, las cejas y la boca, por ejemplo. A través de estas observaciones, podrás identificar alguna anomalía, como un parpadeo más lento, una piel muy lisa o arrugada, entre otros detalles.
Finalmente, investiga información sobre el contenido recibido (ya sea video, audio o texto). Es posible que encuentres noticias relacionadas en internet. Además, intenta encontrar otra versión de la publicación para poder comparar declaraciones y gestos.
En resumen, presta máxima atención a todos los detalles.
Medidas a Tomar
Para evitar que tus contenidos sean utilizados en un deepfake, lo más sensato es evitar compartir videos personales con personas desconocidas o no publicarlos en redes sociales de forma pública para dificultar el trabajo del editor.
En general, la sociedad aún se está adaptando a deepfake debido a que es una tecnología nueva y, si se utiliza de manera incorrecta, puede ser extremadamente perjudicial. Se espera que se aprueben nuevos mecanismos legales para combatir esta práctica y proteger a las personas. Por lo tanto, si has sido víctima, recopila toda la información necesaria y busca un abogado o la Defensoría Pública lo antes posible.
En el caso de videos y audios recibidos, evita compartirlos sin seguir las indicaciones para identificar un deepfake. Esta actitud es extremadamente importante para evitar la propagación de información falsa y contenido inapropiado.
¿Es Ilegal crear Deepfake?
En realidad, las tecnologías de inteligencia artificial y aprendizaje profundo no son un problema, ya que pueden utilizarse para crear videos inofensivos. Sin embargo, la palabra deepfake generalmente se asocia con situaciones negativas que representan riesgos para las personas, grupos sociales e incluso la democracia.
