deepfake
El cibercrimen va adoptando rápidamente nuevas tecnologías y una de las tendencias más preocupantes es el auge del deepfake: imágenes, audios o vídeos falsos creados con la ayuda de inteligencia artificial, que los hace parecer totalmente auténticos, al menos a simple vista. El problema resulta cada vez más inquietante a medida que las herramientas para la generación de IA se van generalizando y haciendo accesibles para el público en general. A su vez, las tecnologías de IA se superan cada vez más con una impresionante sofisticación en cada nueva versión; por ejemplo, ahora permiten la creación de imágenes increíblemente realistas y audios extremadamente convincentes.
Los deepfakes se utilizan para diversos fines, entre los que se encuentra la venganza, el fraude financiero, la manipulación política y el acoso. En nuestro mundo hiperconectado, los estafadores pueden recopilar fácilmente fotografías e incluso vídeos de posibles víctimas, sobre todo cuando se trata de personajes públicos. No obstante, la creación de deepfakes de alta calidad requiere experiencia técnica y un software avanzado, lo que ha dado lugar a la aparición de expertos y servicios clandestinos. Ahora, las personas que buscan crear imágenes y vídeos falsos recurren a especialistas, fácilmente disponibles, como habrás adivinado, en la dark web.
Decidimos estudiar este mercado clandestino utilizando un método de etnografía digital; es decir, sumergiéndonos directamente en el hábitat online de los ciberdelincuentes: los foros de la darknet. La principal herramienta que utilizamos para analizar la dark web es nuestro servicio Kaspersky Digital Footprint Intelligence, que emplea técnicas OSINT combinadas con el análisis automatizado y manual del internet superficial, la deep web y la dark web, además del conocimiento de nuestros expertos para proporcionar información sobre las técnicas e intenciones los ciberdelincuentes. Además, buscamos en foros clandestinos información relacionada con la creación de deepfakes. Y, para comprender el estado actual de este peligro, nos centramos en las ofertas que surgieron este año y recopilamos manualmente algunos de los ejemplos más brillantes de servicios de creación de deepfake.
El mercado del deepfake en la Darknet: oferta y demanda
Nuestra investigación descubrió que existe una demanda significativa de deepfakes, que supera con creces la oferta: se necesitan personas que acepten el encargo de vídeos falsos. Esto resulta bastante preocupante, ya que, como todos sabemos, la demanda genera oferta; por lo tanto, podemos asumir que en el futuro cercano veamos un aumento significativo en los incidentes relacionados con deepfakes de alta calidad.
Y, a juzgar por el contenido de las publicaciones en los foros de la dark web, los ciberdelincuentes buscan resultados de alta calidad. Por ello, a pesar de disponer abiertamente de herramientas de creación de deepfakes, los delincuentes solo buscan creadores que puedan producir vídeos de alta calidad con un sonido perfecto y sin retrasos entre el vídeo y el audio.
Publicaciones en la Darkweb en busca de alguien que pueda crear deepfakes. Fuente: Digital footprint intelligence
Una gran parte de los anuncios en búsqueda de deepfakes está relacionada con las estafas de criptomonedas y en concreto con las estafas de obsequios de criptomonedas, pero en ocasiones nos hemos encontrado con anuncios más peculiares. Por ejemplo, una publicación que buscaba un profesional que pudiera crear un vídeo deepfake de alta calidad que pudiera usarse para eludir el sistema de verificación de reconocimiento facial de Binance. Por lo tanto, los ciberdelincuentes intentan usar deepfakes para eludir los sistemas de seguridad biométricos y acceder a las cuentas de las víctimas para robar dinero directamente.
En cuanto al suministro, el coste de la creación o la compra de deepfakes listos para usar varía según la complejidad del proyecto en cuestión y la calidad del producto final. La notoriedad del objeto suplantado también puede influir en el precio (generalmente celebridades o figuras políticas). El precio por minuto del vídeo deepfake puede oscilar entre 300 y 20000 dólares. Si el comprador está dispuesto a pagar, los creadores pueden ofrecer vídeos increíblemente realistas capaces de transmitir emociones auténticas, haciéndolos indistinguibles de las imágenes genuinas. Estos son algunos de los ejemplos más brillantes que prometimos anteriormente.
La suplantación de Vitalik Buterin
Descubrimos un proveedor que ofrecía un servicio premium para crear un deepfake de alta calidad del cofundador de Ethereum, Vitaly Buterin, completo con voz y vídeo totalmente sintetizados. Dejamos claro que la producción no implicara simplemente el doblaje de vídeos existentes, sino más bien un servicio de producción completo, a lo que el proveedor respondió “Vitalik está listo para cualquiera de tus fantasías”. El tiempo estimado de producción de un vídeo en este servicio era de menos de dos semanas, siendo el producto final un vídeo en inglés con un precio de 20000 dólares por minuto.
Oferta en la Darkweb: un deepfake de Vitalik Buterin. Fuente: Digital footprint intelligence
El fraude de criptomonedas
Otro proveedor se jacta de poder hacer deepfakes de la más alta calidad para el fraude de criptomonedas. Su servicio incluye la creación de “Cryptostreams” u “obsequio de criptomonedas”, una estafa popular en la que los estafadores recopilan criptomonedas mediante la transmisión de programas de regalos falsos de criptomonedas, con la promesa de duplicar cualquier pago de criptomonedas que se les envíe. Para crear estos deepfakes, los estafadores suelen usar imágenes de celebridades para lanzar retransmisiones en vivo falsas en las plataformas de redes sociales. El proveedor incluso muestra una página en la que se pide a las víctimas que transfieran entre 2500 y un millón de XRP con la promesa de duplicar su pago. Como resultado, la víctima puede perder de entre 1000 a 460000 dólares.
Oferta en la Darkweb: vídeos deepfake para cryptostreams. Fuente: Digital footprint intelligence
Los vídeos porno falsos
Otra rama de la industria de producción de deepfakes es la creación de pornografía falsa. Por lo general, la pornografía falsa son solo vídeos porno normales en lo que se intercambian las caras; los motivos varían: a veces solo por entretenimiento, pero también pueden usarse para propósitos mucho más siniestros como el acoso online, el ciberacoso o el chantaje.
Además, algunos creadores de deepfakes están creando tutoriales para estos vídeos, con consejos sobre cómo seleccionar el material de origen y cómo intercambiar las caras para generar una falsificación convincente.
Publicación en la Darkweb con un tutorial sobre la creación de pornografía deepfake. Fuente: Digital footprint intelligence
Posibles consecuencias
El uso de deepfakes con fines delictivos puede afectar a nuestras vidas de muchas formas distintas, dado que representa una grave amenaza para las personas, las organizaciones y la sociedad en su conjunto. Además, el hecho de que cualquier historia o artículo de Internet pueda ser un deepfake genera desconfianza hacia cualquier información disponible públicamente, lo que provoca paranoia e inseguridad. Algunas de las posibles consecuencias del uso del deepfake son:
La desinformación
Los deepfakes se pueden utilizar para la difusión masiva de información falsa y la manipulación de la opinión pública. Además de para la creación de noticias falsas, la propaganda política o la publicidad engañosa, lo que puede generar graves consecuencias en la confianza pública.
Ejemplos: uno de los casos más inofensivos del uso de deepfake fue la historia de un reportaje de evidencia fotográfica superrealista del terremoto de Cascadia que circuló por la web, un evento que ni siquiera tuvo lugar. Pero hubo un caso mucho más peligroso, curiosamente, no del uso de deepfake en sí, sino de la mera sospecha de que se hubiera utilizado un deepfake, en Gabón en 2018. Por aquel entonces corría el rumor de que el presidente de Gabón, Ali Bongo, había enfermado gravemente. Como respuesta, el gobierno publicó un vídeo que se sospechaba que era un deepfake, lo que provocó más tensión y avivó las sospechas de que el gobierno estaba ocultando algo. Esta creencia generalizada fue una de las razones de un intento de golpe de estado una semana después.
El fraude cibernético
Los deepfakes se utilizan para todo tipo de fraude cibernético, desde las estafas de regalo de criptomonedas mencionadas anteriormente, hasta aquellas que terminan con ataques dirigidos a empresas.
Ejemplos: el vídeo de Elon Musk creado artificialmente en el que prometía altos rendimientos de una dudosa estrategia de inversión en criptomonedas que se hizo viral el año pasado y que llevó a los usuarios a perder todo su dinero. En el 2019, los estafadores crearon una convincente falsificación de audio de la voz del director ejecutivo de una importante empresa energética del Reino Unido con la que engañaron a un alto ejecutivo de la empresa para que transfiriera 220000 euros (243000 dólares) a un proveedor húngaro. El ejecutivo creyó que estaba siguiendo las instrucciones del CEO, pero en realidad la grabación era falsa.
Los daños a la reputación y las violaciones de privacidad
Los deepfakes se pueden utilizar para dañar la reputación de personas u organizaciones. Por ejemplo, se puede crear un vídeo falso para mostrar a alguien participando en actividades ilegales o inmorales. Esto puede provocar daños a la reputación o daños personales.
Ejemplo: los vídeos deepfakes que aparecieron online de la actriz Scarlett Johansson mostrando su rostro superpuesto a los cuerpos de actrices porno en escenas explícitas. De hecho, se trataba de un deepfake creado con fotos privadas filtradas a principios del 2011. Su representante lo calificó como una “violación grave” de sus derechos y afirmó estar explorando acciones legales para eliminarlos. El incidente mencionado anteriormente con el CEO de la empresa energética también provocó una importante pérdida de reputación debido al hecho de que el empleado fue engañado para que transfiriera esos fondos. A medida que se difundió la noticia de la estafa, los clientes de la empresa expresaron su preocupación sobre la capacidad de las empresas para brindar la seguridad de sus datos y la información financiera.
El robo de identidad
Ya hemos mencionado un anuncio de la Darkweb que busca medios para eludir la autenticación biométrica. No todos los servicios tienen un sistema de verificación de reconocimiento facial, pero el deepfake puede ayudar incluso con los servicios comunes de atención al cliente. Así es como podría funcionar: primero, el ciberdelincuente obtendría información personal del propietario de la cuenta de destino: su nombre, dirección, número de teléfono, etc. Luego se pondría en contacto con el proveedor de servicios de pago y afirmaría ser el propietario que ha perdido el acceso a su cuenta o que está experimentando dificultades técnicas. Para comprobar la identidad, el proveedor de servicios de pago puede solicitar una grabación de vídeo o audio del titular de la cuenta realizando una acción específica. Usando los datos recopilados, los delincuentes pueden crear un vídeo o audio falso que se haga pasar por el propietario real de la cuenta que realiza la acción solicitada. Como resultado, el proveedor podría caer en la trampa y conceder acceso a la cuenta y a los fondos asociados.
Cómo mantenerte a salvo
El consejo más obvio, aunque deprimente, es “no confiar nunca en tus ojos u oídos”. Sin embargo, todavía hay esperanza. Las mismas tecnologías de inteligencia artificial que están ayudando a crear deepfakes se pueden usar para distinguir vídeos, imágenes y audio auténticos de las falsificaciones. Además, estas herramientas están emergiendo lentamente en el mercado. Esperamos que en el futuro más cercano los medios de comunicación, mensajeros y puede que incluso los navegadores estén equipados con estas tecnologías.
En cuanto a las empresas, tenemos algunos consejos más prácticos: puedes predecir, hasta cierto punto, ciertos ataques deepfake contra tu personal y/o clientes sabiendo cómo pueden afectarte las actividades cibercriminales en la dark web con la ayuda de nuestro Kaspersky Digital Footprint Intelligence. Entre otras muchas cosas, podrás recibir información casi en tiempo real sobre eventos de seguridad global que amenazan específicamente tus activos, así como rastrear datos confidenciales expuestos en foros y comunidades clandestinas restringidas. Para más información sobre este servicio, visita su página.
Consejos