¿Reconoces un video manipulado digitalmente cuando ves uno? Es más difícil de lo que la mayoría de la gente piensa. A medida que la tecnología para producir falsificaciones profundas realistas esté más disponible, distinguir los hechos de la ficción será aún más desafiante. Un nuevo proyecto de historia digital del Centro de Virtualidad Avanzada del MIT tiene como objetivo educar al público sobre el mundo de las falsificaciones profundas con «En caso de desastre lunar. ‘

Este provocativo sitio web muestra un falso «completo» (audio y video manipulado) del presidente de los Estados Unidos, Richard M. Nixon, dando el verdadero discurso de emergencia escrito en 1969 para un escenario en el que la tripulación del Apolo 11 no pudo regresar de la luna. El equipo trabajó con un actor de voz y una compañía llamada Respeecher para producir el discurso sintético utilizando técnicas de aprendizaje profundo. También se asociaron con la compañía Canny AI para usar técnicas de reemplazo de diálogos de video para estudiar y replicar el movimiento de la boca y los labios de Nixon. A través de estas tecnologías avanzadas de inteligencia artificial y aprendizaje automático, la película de siete minutos muestra cuán convincentemente pueden ser las falsificaciones profundas.

«La información errónea de los medios es un fenómeno de larga data, pero, agravado por las tecnologías profundas y la facilidad de distribución de contenido en línea, se ha convertido en un tema crítico de nuestro tiempo», dijo D. Fox Harrell, profesor de medios digitales y inteligencia artificial en MIT y director del Centro MIT para Virtualidad Avanzada, parte de MIT Open Learning. «Con este proyecto, y un currículo del curso sobre desinformación construido a su alrededor, nuestra talentosa directora creativa de XR, Francesca Panetta, continúa con uno de los objetivos generales del centro: utilizar las tecnologías de inteligencia artificial y virtualidad para apoyar la expresión creativa y la verdad».

Además de la película, moondisaster.org ofrece una variedad de recursos interactivos y educativos sobre deepfakes. Bajo el liderazgo de Panetta y Halsey Burgund, miembro del MIT Open Documentary Lab, un equipo interdisciplinario de artistas, periodistas, cineastas, diseñadores y científicos informáticos ha creado un sitio de recursos robusto e interactivo donde los educadores y los consumidores de medios pueden profundizar su comprensión de las falsificaciones profundas: cómo son hecho y cómo funcionan; su potencial uso y abuso; qué se está haciendo para combatir las falsificaciones profundas; y recursos de enseñanza y aprendizaje.

«Esta historia alternativa muestra cómo las nuevas tecnologías pueden ocultar la verdad que nos rodea y alentar a nuestra audiencia a pensar cuidadosamente sobre los medios que encuentran todos los días», dice Panetta.

También parte del lanzamiento es un nuevo documental, ‘To Make a Deepfake’, una película de 30 minutos de Científico americano, que utiliza «En caso de desastre lunar» como punto de partida para explicar la tecnología detrás de los medios generados por IA. El documental presenta a destacados científicos y pensadores sobre el estado de las falsificaciones profundas, sobre el compromiso de difundir información errónea y distorsionar nuestra realidad digital, y sobre el futuro de la verdad.

El proyecto cuenta con el apoyo del MIT Open Documentary Lab y la Fundación Mozilla, que el año pasado otorgó a «En caso de desastre lunar» un Premio Creative Media. Estos premios son parte de la misión de Mozilla para lograr una IA más confiable en tecnología de consumo. La última cohorte de ganadores. utiliza el arte y la defensa para investigar el efecto de la IA en los medios y la verdad.

J. Bob Alotta, vicepresidente de programas globales de Mozilla: “La IA desempeña un papel central en la tecnología de consumo actual: gestiona nuestras noticias, recomienda con quién salimos y nos apunta con anuncios. Una tecnología tan poderosa debe ser digna de confianza, pero este no suele ser el caso. Los Creative Media Awards de Mozilla llaman la atención sobre esto y también abogan por una mayor privacidad, transparencia y bienestar humano en la IA. »

«En caso de desastre lunar» visto el otoño pasado como instalación de arte físico en el Festival Internacional de Cine Documental de Ámsterdam, donde ganó el Premio Especial del Jurado para la narración digital; Fue seleccionado para el Tribeca Film Festival 2020 y Cannes XR. El nuevo sitio web es el lanzamiento digital global del proyecto, haciendo que la película y sus materiales estén disponibles para todos los públicos de forma gratuita.

En los últimos meses, el mundo se ha movido casi por completo en línea: escuelas, programas de entrevistas, museos, campañas electorales, citas con el médico; todos se han convertido rápidamente en virtuales. Cuando cada interacción que tenemos con el mundo se ve a través de un filtro digital, se vuelve más importante que nunca aprender a distinguir entre medios auténticos y manipulados.

«Esperamos que este proyecto aliente al público a comprender que los medios manipulados juegan un papel importante en nuestro panorama mediático», dijo el codirector Burgund, «y que, con una mayor comprensión y diligencia, es probable que todos nos hayamos visto perjudicados por él». «.



Source link