Deep Fakes: La oscura verdad detrás de la última tendencia de YouTube

Es la noche del 10 de mayo de 2019. Ctrl Shift Face, un canal popular, sube el siguiente video a YouTube:Durante los próximos meses, el video se vuelve viral, acumulando casi 10 millones de visitas en septiembre sólo en YouTube. Eso sin contar los repositorios en otras plataformas, ni la masa de la exposición mediática recibida.El discurso que rodea a este vídeo, y a muchos otros similares, suscita un sentimiento general de que lo que se está viendo es espeluznante, perturbador y abiertamente peligroso: el proceso de `falsificación profunda en el que se toma una cara y luego se mapea hacia otra. Pero, la mayoría de las críticas se detienen ahí – incluso si cada comentarista de YouTube se limitara a expresar estos sentimientos, representarían menos del 0,2% del total de la audiencia; la gran mayoría son simplemente espectadores.¿Qué hace que este consumo pasivo sea peligroso? Más de lo que piensas. Describamos algunas de las razones principales.

Es de código abierto y cualquiera puede acceder a él

El video de Ctrl Shift Face tiene una nota en la sección Acerca de, enlazando con el código exacto que usaron. Aquí tienes, te ahorraré el arduo trabajo de detective necesario para rastrearlo.Ahora, ese código es inútil por sí solo. Viene perfectamente empaquetado, pero no junto con la experiencia personal que necesita para que funcione, como cualquier otro producto de código abierto.Sin embargo, las similitudes con otros productos de código abierto exitosos no terminan ahí. Eche un vistazo más de cerca a los registros de edición o a los asuntos pendientes. Las personas están trabajando juntas las 24 horas del día, erradicando continuamente los errores, añadiendo guías y publicando manuales. Los seguidores y contribuidores están creciendo en número, mientras que el código en sí mismo se vuelve consistentemente más efectivo. Para un desarrollador de tecnología como yo, es algo hermoso; un testimonio de cómo los codificadores dedicados pueden combinar su experiencia y permitir que la tecnología de moda evolucione.Sin embargo, me aterroriza. No hay duda de que esta comunidad de codificadores tiene mayormente buenas intenciones, pero eso es lo que asusta – han sido capaces de lograr esto con muy poco. Imagine lo que un departamento activo puede hacer dentro de una gran organización, con los fondos, la contratación y la asignación de recursos adecuados. Las personas con más intenciones maliciosas y la unión también pueden beneficiarse de este trabajo duro y abierto, no sólo los entusiastas involucrados.La tenacidad y creatividad de los desarrolladores puede ser impresionante, pero también es una presentación de oportunidades para aquellos que desean abusar de los proyectos de código abierto.

Los consumidores informados son la minoría

Por lo tanto, la tecnología está ampliamente disponible – y eso es sólo un conjunto de proyectos de código abierto disponibles en línea. No hay duda de que las principales figuras de la tecnología, los gobiernos y las principales instituciones educativas están tomando nota, pero el espectador medio de una falsificación profunda no lo está.La mayoría de los videos populares de imitación profunda son obviamente marcados como tales, usando celebridades y escenarios conocidos como base para su contenido. Su propósito es el entretenimiento, que reduce la defensa inherente y la desconfianza en ver la falsificación profunda como una herramienta cómica, o broma de Internet. Los videos donde las celebridades se ganan la cara de otras celebridades son bastante inofensivos, y son los más comunes.Es fácil que este formato se convierta en dañino. Reemplace a las personas y los escenarios con otros que no conoce, y si se hace correctamente, es difícil detectar lo que es real; la mayoría de los casos en los que se utilizan falsificaciones profundas están tratando abiertamente de entretener, y no de engañar, a través del uso de semejanzas obvias para el valor del entretenimiento. La cara de Arnold Schwarzenegger en el cuerpo de Bill Hader es la cara de Arnold Schwarzenegger en el cuerpo de Bill Hader, pero la cara de John Doe en el cuerpo de Joe Public es simplemente una persona nueva y artificial.Las extrañas discusiones en los valles han existido durante mucho tiempo, pero a menudo se basan en la idea de que algo no está funcionando a través de un intento de replicación. La falsificación profunda no es una réplica, es una combinación perfecta de fuentes, por lo que puede eludir esta habilidad aparentemente innata de registrar la “no del todo correcta”.Esta penetración de nuestros sentidos sólo se fortalece a medida que usted se expone a ella.

Los medios de comunicación están diluyendo los peligros

La manera más fácil de condenar una tendencia en la América moderna, es que sea notada por Jimmy Kimmel. Echa un vistazo a este clip de principios de esta semana:La exposición de tecnología falsa a través de canales como este acentúa mi punto anterior. Aquí, vemos la tecnología utilizada de una manera completamente artificial, lo que se suma a la broma. Puede parecer que esto es evidencia de un potencial inofensivo y cómico de la falsificación profunda, pero simplemente crea una percepción común de que esta es la norma.¿Y adivina qué? Lo es. El uso más frecuente de la tecnología falsa y profunda siempre será el entretenimiento, ya sea remasterizar películas viejas eficientemente, improvisar una obra de teatro en un programa de entrevistas o adaptar lo que surja de la cultura de Internet a continuación. Este cuerpo primario tiene un amplio espacio para un uso más siniestro, escondido bajo la normalidad. Si alguien está expuesto a divertidas y profundas falsificaciones a diario, es más vulnerable a esa campaña anual de difamación dirigida o a ese falso vídeo de noticias.

Se está volviendo más fácil de utilizar

Hasta ahora, he hablado de falsificaciones profundas como una idea general o tecnología de código abierto. Esta libertad de potencial se pierde cuando se envasa como un producto específico, y está completamente sujeta al equipo que lo respalda (y a sus dudosos términos y condiciones que se acordaron apresuradamente).A menudo, esto es en forma de una aplicación móvil. Incluso las mejores aplicaciones de ajuste de cara parecen joviales comparadas con los videos falsos virales, pero esa brecha sólo se reducirá. Una de las principales razones es que esos vídeos se realizan a menudo en un ordenador potente, mientras que las aplicaciones se limitan a la potencia de procesamiento de un dispositivo móvil. 5G podría cambiar esto, sin embargo, ya que con ello viene con una latencia masivamente reducida – permitiendo que el extenso renderizado y los algoritmos requeridos sean cumplidos en el lado del servidor, y luego transmitidos al teléfono.Esta facilidad de acceso también mejora la capacidad de las empresas para perfeccionar la tecnología. Por cada cara afinada, sus algoritmos de aprendizaje de máquina se vuelven marginalmente más inteligentes. La pregunta es: ¿a quién ayuda esto y quién tiene acceso a este creciente acervo de información?

¿Qué tiene de emocionante todo esto?

El miedo y la excitación son dos grados de la misma reacción. Cuando se habla de los conceptos y realidades de la falsificación profunda, su ritmo cardíaco o los niveles de cortisol pueden no aumentar, pero todavía hay un lado oscuro inherente a cualquier positivo. He vivido en Silicon Valley durante mucho tiempo, y he visto que funciona en ambos sentidos – tendencias que al principio parecían atemorizantes, como el aprendizaje de la máquina, los aviones no tripulados y los coches sin conductor, todos los cuales obtuvieron beneficios a medida que se desarrollaban.Creo que ya estamos viendo emerger algunos de estos positivos. Una tendencia común a lo largo de este artículo, el entretenimiento, siempre ha sido moldeado por él, con nuevas oportunidades que surgen en la adaptación de secuencias antiguas y la expansión de nuevos formatos. Pero, en un giro irónico, este beneficio parece falso; una pieza de potencial que es mucho mayor que el riesgo, hasta el punto de que las Fuerzas Armadas de Estados Unidos toman medidas para combatirlo.La pregunta de si estos beneficios en el entretenimiento valen la pena, es inútil. La tecnología está aquí, se está expandiendo rápidamente, y no puede ser detenida; así que, en cambio, pensemos en un beneficio clave que no veo que se discuta lo suficiente: la educación. Diablos, si Bill Hader ni siquiera supiera que su impresión recibió el tratamiento falso profundo, ¿cómo podría alguien llegar a ser inteligente al saber cómo sus datos están en riesgo?Las falsificaciones profundas podrían ser la fuerza motriz detrás de una educación generalizada y beneficiosa, algo que la industria de la tecnología moderna necesitaba. Muchos de los conceptos de ML y AI son bastante abstractos para audiencias no técnicas, pero ahora tenemos una forma muy visual de mostrar sus potenciales. La penetración en la esfera del entretenimiento podría ser el último eslabón que necesitamos para que la gente se tome en serio sus datos, siendo reforzada por elementos como la competencia, la idea equivocada de que los conceptos técnicos avanzados están más allá de la comprensión del usuario común ha existido desde la creación de Internet. Las falsificaciones profundas son el vehículo perfecto para este nuevo zeitgeist, ya que se adhieren y deforman la personalidad de las personas, de una manera muy dinámica. No podemos cambiar el nivel de impacto que las falsificaciones profundas tendrán en la tecnología o en la sociedad en su conjunto. Sin embargo, podemos mejorar este impacto a través de la educación de la gente.

Etiquetas

Deep FakeAiTecnología de código abiertoIniciativa de código abiertoFalsificaciones profundas en YoutubeLas últimas historias técnicasQué son DeepfakesGood Company?

Comentarios

Continúe la discusión