Esta nueva herramienta Deepfake puede transformar Livestreamers en otra persona en tiempo real, y los resultados son espeluznantes

¿Has visto a Barack Obama llamar a Donald Trump un “completo idiota”, o Mark Zuckerberg alardear de tener “control total de miles de millones de datos robados”, o Jon Snow disculparse por el decepcionante final de Game of Thrones? Si es así, entonces has sido testigo de un deepfake.

La tecnología Deepfake, la respuesta del siglo XXI al Photoshopping, puede unir perfectamente a cualquier persona en un video o una foto en la que nunca participó utilizando nuevos gráficos de computadora automáticos o algoritmos de aprendizaje automático.

DeepFaceLive ahora le permite cambiar su rostro por el de otra persona a través de videoconferencias y plataformas de transmisión. Fue diseñado por un desarrollador en línea conocido como Iperov. Los streamers ya han comenzado a usar la función en sitios como Twitch, según el YouTuber ruso Vladislav Pedro.

“DeepFaceLive tiene mucho potencial”, dijo Pedro a The Daily Dot. “Este software puede ser utilizado tanto por transmisores como por creadores de cualquier otro contenido multimedia”.

DeepFaceLive es un nuevo software deepfake de código abierto que le permite transformar su rostro en tiempo real a través de plataformas de videoconferencia como Zoom. Aquí, un TikToker ruso usa la herramienta para convertirse en Arnold Schwarzenegger. pic.twitter.com/7uoMmQ4OOJ

– Tony Ho Tran (@TonyHoWasHere) 12 de septiembre de 2021

Por emocionante que parezca, plantea una serie de complicadas consecuencias éticas y potencialmente criminales. Después de todo, en las manos equivocadas, un instrumento que te deja parecer como cualquier otra persona podría ser bastante dañino.

“Muchos verán DeepFaceLive como una herramienta divertida para la transmisión en vivo de Twitch o videos absurdos de TikTok, pero mi investigación sobre deepfakes ha demostrado consistentemente que hay muchos otros que buscarán abusar de ella”, Henry Adjer, jefe de análisis de comunicaciones e investigación de La empresa de tecnología de inteligencia artificial Deeptrace, dijo al Daily Dot.

“Esto podría variar desde streamers adultos que ‘usan caras de’ celebridades ‘sin consentimiento hasta falsificaciones biométricas como engañosos sistemas de reconocimiento facial y detección de vida”, agregó.

Si bien es entretenido pretender ser Arnold Schwarzenegger o Tom Cruise para los videos de TikTok, la tecnología deepfake conlleva un gran riesgo. Sin duda, a medida que se vuelve más sofisticado, veremos más y más malos actores emerger de las sombras.