NEP/ 30 de Octubre de 2018 - Por: Gimena Rojas Esté
Un experimento realizado por la empresa de comunicación estadounidense BuzzFeed, advierte sobre los potenciales peligros de aplicar la inteligencia artificial (IA) para fabricar noticias falsas en formato audiovisual, lo que se ha bautizado como deepfakes, es decir, mentiras profundas.
La empresa desarrolló un montaje hiperrealista donde supuestamente el expresidente Brack Obama afirma que Donald Trump es “un completo imbécil”. La noticia falsa fue recreada por el actor y cineasta Jordan Peele, director de la oscarizada Déjame salir y cuñado de Jonah Peretti, fundador de BuzzFeed.
Según Francisco Javier Ordóñez, director de Inteligencia Artificial en StyleSage, este vídeo es una prueba de concepto que ilustra sobre las posibilidades de una serie de algoritmos que se conocen como modelos generativos y que son capaces de memorizar cuáles son las características de una fuente de datos para después crear nuevos ejemplos de esos datos desde cero.
“De esta forma, si la fuente de datos son imágenes de Obama, el algoritmo es capaz de generar las expresiones y gestos faciales necesarios para simular un discurso que no existe”, apunta Ordóñez.
Por muy bueno que sea el resultado, un deepfake puede ser detectado rápidamente por alguien familiarizado con los modelos generativos y las técnicas del style transfer que replican los movimientos de un rostro en otro distinto.
“El mayor problema de estas técnicas es que requieren una gran cantidad de datos para poder entrenarlas, por lo que hoy en día únicamente veremos contenidos así sobre personas famosas de las que se pueden encontrar millones de horas de vídeo de alta calidad en Internet”, asegura.
Aun así, Raúl Arrabales, director de Inteligencia Artificial en Psicobótica, matiza que realizar un montaje con un busto parlante es mucho más fácil que con otro tipo de escenas en las que la complejidad es mayor, lo cual propicia la llegada de los contenidos en vídeo al ámbito de las fake news, ya que aunque un experto puede notar que el mensaje de Obama es falso, “para el gran público puede pasar por verdadero”.
Los propios algoritmos de deep learning pueden usarse para detectar deepfakes de forma automática e incluso para generar “falsificaciones de laboratorio” que sirvan como ejemplares de entrenamiento para detectores de vídeos, imágenes y documentos falsos. De esta forma se podrán bloquear dichos contenidos o al menos advertir al consumidor final de que está viendo algo generado por computador.
Con información de El País
Con información de El País
0 Comentarios