{"id":17902,"date":"2020-03-17T10:53:39","date_gmt":"2020-03-17T16:53:39","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=17902"},"modified":"2020-03-17T10:53:39","modified_gmt":"2020-03-17T16:53:39","slug":"rsa2020-deepfakes-mitigation","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/rsa2020-deepfakes-mitigation\/17902\/","title":{"rendered":"C\u00f3mo aminorar el impacto de los deepfakes"},"content":{"rendered":"

Los deepfakes<\/em><\/strong> son un desafortunado producto de los recientes desarrollos en el campo de la inteligencia artificial<\/a>,<\/strong> que asimismo enfrenta otros problemas. Las noticias falsas<\/strong> producto de los algoritmos de aprendizaje autom\u00e1tico<\/strong> han ganado mucha atenci\u00f3n en a\u00f1os recientes. La charla de Alyssa Miller en la conferencia RSA de 2020, titulada Hemos perdido la realidad<\/strong><\/a>,\u00a0 proporciona algunas reflexiones sobre por qu\u00e9 es momento de considerar los deepfakes<\/em> como una amenaza (sin contar el riesgo durante las elecciones presidenciales<\/a><\/strong>) y qu\u00e9 puede hacer tu empresa para aminorar su impacto, si acaso se ve ataca de este modo.<\/p>\n

\u00a0<\/p>\n

C\u00f3mo se hacen los deepfakes<\/em><\/h2>\n

El m\u00e9todo m\u00e1s com\u00fan para crear un deepfake<\/em><\/strong> es utilizar un sistema llamado GAN<\/strong>, o red generativa antag\u00f3nica<\/strong>. Los GAN se componen de dos redes neurales<\/strong> que antagonizan entre ellas. Con el fin de prepararlas, ambas redes se entrenan con im\u00e1genes verdaderas. Luego viene la parte antag\u00f3nica, en la que una red genera im\u00e1genes (de ah\u00ed el nombre generativo<\/em>) y la otra intenta determinar si la imagen es genuina o falsa (la segunda red se llama discriminadora<\/em>.<\/p>\n

Posteriormente, la red generativa conoce el resultado y aprende de \u00e9l. Al mismo tiempo, la red discriminadora aprende c\u00f3mo mejorar su desempe\u00f1o. Con cada ciclo, ambas redes mejoran.<\/p>\n

Adelantemos, por ejemplo, un mill\u00f3n de ciclos de entrenamiento: la red neural generativa ha aprendido c\u00f3mo generar im\u00e1genes falsas que una red neural igualmente avanzada no puede distinguir de las verdaderas.<\/p>\n

Este m\u00e9todo es realmente \u00fatil en los muchos usos que se le puede dar, pues dependiendo de los datos preparatorios, la red generativa aprende a generar ciertos tipos de im\u00e1genes.<\/p>\n

Por supuesto, para los deepfakes<\/em><\/strong>, el algoritmo se entrena con fotos reales<\/strong> de determinada gente, lo que da como resultado una red que puede generar un n\u00famero infinito de fotos convincentes (pero falsas) de una persona para que pueda integrarse en un video. Los m\u00e9todos similares pueden generar audio falso<\/strong> y es probable que los cibercriminales ya est\u00e9n usando el audio deepfake<\/a><\/strong><\/u>.<\/strong><\/p>\n

\u00a0<\/p>\n

Cu\u00e1n convincentes se han vuelto los deepfakes<\/em><\/h2>\n

Los primeros videos deepfake<\/em><\/strong> luc\u00edan rid\u00edculos, pero la tecnolog\u00eda ha evolucionado lo suficiente en este punto para que dichos medios se hayan vuelto aterradoramente convincentes. Uno de los ejemplos m\u00e1s notables de deepfakes<\/em> espantosamente convincentes de 2018 fue un Barack Obama<\/a><\/strong> donde hablaba de, bueno, deepfakes<\/em> (adem\u00e1s de un insulto adicional dirigido contra el actual presidente de los EE.UU.). A mediados de 2019, vimos un videoclip falso de Mark Zuckerberg<\/a><\/strong> donde se mostraba incre\u00edblemente honesto acerca del estado actual de la privacidad.<\/p>\n

Para entender cu\u00e1n buena se ha vuelto la tecnolog\u00eda, simplemente mira el video a continuaci\u00f3n. El imitador Jim Meskimen cre\u00f3 este video en colaboraci\u00f3n con el artista de deepfakes<\/em> Sham00k. El primero fue responsable de las voces y el segundo us\u00f3 los rostros de unas 20 celebridades en el video<\/a><\/strong> mediante el software<\/em> de deepfakes<\/em>. El resultado es realmente fascinante.<\/p>\n

\u00a0<\/p>\n

https:\/\/www.youtube.com\/watch?v=5rPKeUXjEvE<\/strong><\/p>\n

\u00a0<\/p>\n

De acuerdo con lo que Sham00k se\u00f1ala en la descripci\u00f3n de su video detr\u00e1s de c\u00e1maras, \u201cla creaci\u00f3n del video completo necesit\u00f3 cerca de 250 horas de trabajo, 1,200 horas de metraje, 300,000 im\u00e1genes y cerca de 1 terabyte de datos\u201d. Dicho esto, hacer este video no fue poca cosa. Pero esta desinformaci\u00f3n tan convincente puede ejercer un impacto potencialmente profundo en los mercados o, digamos, en las elecciones, lo cual hace que el proceso parezca aterradoramente f\u00e1cil y barato.<\/p>\n

Por esa raz\u00f3n, casi al mismo tiempo que dicho video se public\u00f3, el estado de California prohibi\u00f3 los videos pol\u00edticos de deepfake<\/em><\/a><\/strong> durante la \u00e9poca electoral. Sin embargo, sigue habiendo problemas. Para empezar, los videos deepfake<\/em> en general son una forma de expresi\u00f3n, como la s\u00e1tira pol\u00edtica. Y la prohibici\u00f3n de California no precisamente protege la libertad de expresi\u00f3n.<\/p>\n

El segundo problema es al mismo tiempo t\u00e9cnico y pr\u00e1ctico: \u00bfc\u00f3mo puedes distinguir realmente un video deepfake<\/em> de uno verdadero?<\/a><\/strong><\/p>\n

\u00a0<\/p>\n

C\u00f3mo detectar los deepfakes<\/em><\/h2>\n

El aprendizaje autom\u00e1tico es toda una sensaci\u00f3n con los cient\u00edficos de todo el mundo, y el problema de los deepfakes<\/em><\/strong> luce tan interesante y desafiante que muchos de ellos se han apresurado a ofrecer soluciones. Por esta raz\u00f3n, muchos proyectos de investigaci\u00f3n se han centrado en c\u00f3mo utilizar an\u00e1lisis de imagen para detectar los deepfakes<\/em><\/strong>.<\/p>\n

Por ejemplo, un art\u00edculo cient\u00edfico publicado en junio de 2018 describe c\u00f3mo el an\u00e1lisis del parpadeo ocular<\/a><\/strong> puede ayudar a detectar los videos deepfake<\/em>. El punto es que normalmente no existen muchas fotos de una persona parpadeando, as\u00ed que puede que las redes neurales no tengan el suficiente material con el cual entrenarse. De hecho, al momento de la publicaci\u00f3n del art\u00edculo, la gente en los deepfakes<\/em> parpadeaba muy raramente y, pese a que las personas se les dificultaba identificar la anomal\u00eda, el an\u00e1lisis computarizado ayud\u00f3.<\/p>\n

Dos art\u00edculos publicados en noviembre de 2018 suger\u00edan buscar artefactos de distorsi\u00f3n facial<\/a><\/strong> y posturas de la cabeza irregulares. Otro art\u00edculo, publicado en 2019, describ\u00eda una t\u00e9cnica sofisticada que analiza los movimientos y expresiones faciales<\/a><\/strong> que son caracter\u00edsticas del patr\u00f3n de habla de un individuo.<\/p>\n

Sin embargo, como Miller precisa, es poco probable que esos m\u00e9todos tengan \u00e9xito a largo plazo. Lo que en realidad hacen dichas investigaciones es proporcionar retroalimentaci\u00f3n a los creadores de los deepfakes<\/em>; esto les ayuda a mejorar sus redes neurales discriminadoras y, en consecuencia, pueden entrenar mejor sus redes generativas y perfeccionar a\u00fan m\u00e1s sus deepfakes<\/em><\/a><\/strong>.<\/p>\n\n

\u00a0<\/p>\n

El uso de las comunicaciones corporativas para aminorar las amenazas del deepfake<\/em><\/h2>\n

En vista de los problemas anteriores, ninguna soluci\u00f3n de seguridad<\/strong> puramente tecnol\u00f3gica contra los deepfakes<\/em> ser\u00e1 eficaz en este momento. Pero existen otras opciones. A saber, puedes aminorar las amenazas mediante una comunicaci\u00f3n eficaz. Tendr\u00e1s que supervisar la informaci\u00f3n relacionada con tu empresa y estar listo para controlar la narrativa en caso de enfrentar un estallido de desinformaci\u00f3n.<\/p>\n

A continuaci\u00f3n, quedan resumidas las recomendaciones de Alyssa Miller para preparar a tu empresa para hacer frente a la amenaza del deepfake<\/em><\/strong>, cuyos mismos m\u00e9todos, por cierto, pueden ser \u00fatiles para manejar tambi\u00e9n otros tipos de reveses de relaciones p\u00fablicas:<\/p>\n