Para aprender cómo protegerse de ser víctima de información falsa, primero debe comprender qué son los deepfakes. Los deepfakes son imágenes o vídeos generados por IA para producir contenido altamente realista. Consulta el artículo que hemos preparado y aprende a protegerte y a evitar ser víctima de información falsa.
¿Cómo se hacen los deepfakes?
El aprendizaje profundo es un método avanzado de Inteligencia Artificial (IA) que utiliza múltiples capas de algoritmos de aprendizaje automático para extraer características progresivamente de nivel superior a partir de la entrada sin procesar. Es capaz de aprender de datos no estructurados, como el rostro humano, el movimiento y la voz.
Estos datos se procesan para crear un vídeo Deepfake a través de una GAN (Red Generativa Antagónica), un sistema de aprendizaje automático especializado. Dos redes neuronales compiten entre sí para aprender las características de un conjunto de entrenamiento, como fotografías, y luego generar nuevos datos con las mismas características.
A medida que la red prueba las imágenes creadas contra el conjunto de entrenamiento, las imágenes, los videos y el audio falsos se vuelven más convincentes. Esto convierte a Deepfake en una amenaza cada vez más potente, ya que pueden utilizar técnicas de síntesis para replicar voces.
Otro método para crear deepfakes es mediante el uso de la arquitectura de autocodificador. Una red neuronal autocodificadora está diseñada para codificar datos (como una imagen) en una representación latente de menor dimensión (es decir, en vectores matemáticos en lugar de píxeles), comprimir los datos y luego reconstruir los mismos datos en el otro extremo de la tubería. Los autocodificadores se utilizan para muchos propósitos en la visión por computadora, como el análisis de escritura a mano y el reconocimiento facial.
Dado que los autocodificadores buscan datos "esenciales" de una imagen (como la imagen de un rostro), son muy buenos para eliminar el ruido visual. En el caso del software deepfake, esto significa que una arquitectura de autocodificador puede aprender características y rasgos fundamentales de una imagen de un rostro mientras ignora en gran medida factores extraños como el grano, las sombras y otros elementos "no faciales" que pueden estar presentes en la imagen, lo que da como resultado modelos versátiles y bien generalizados (es decir, modelos que pueden realizar transformaciones útiles en datos que son diferentes a sus datos de entrenamiento originales).
¿Cómo se utilizan los deepfakes?
Si bien el concepto de deepfakes también se utiliza para crear efectos visuales en películas, los deepfakes en línea tienen muchas intenciones:
- Campañas de desinformación, especialmente durante las elecciones, para influir en la opinión de la gente.
- El chantaje, cuando alguien crea un video o una imagen falsos de usted y amenaza con publicarlos si no cede a sus demandas.
- El deepfake phishing, que consiste en hacerse pasar por alguien en tiempo real con el pretexto de ayudar a un amigo, familiar o colega.
- Fraude financiero mediante deepfakes y robo de identidad.
Peligros de los deepfakes
A medida que la tecnología y la inteligencia artificial evolucionan, los videos y las imágenes deepfake en línea se vuelven más fáciles de generar y más convincentes. Los peligros de ser víctima de deepfakes suponen un alto riesgo para empresas, celebridades, empleados, candidatos electorales y personas comunes.
Fraude millonaria
En 2023, un trabajador financiero de Hong Kong pagó 25 millones de dólares a un estafador debido a una tecnología deepfake. El trabajador fue invitado a asistir a una videollamada con sus compañeros y el director financiero de la empresa. Durante la llamada, el empleado acordó remitir 200 millones de dólares de Hong Kong.
A pesar de que vio a los otros empleados y al director financiero en la reunión, todo fue una inteligencia artificial falsa que manipuló las funciones de reconocimiento facial para parecerse a los compañeros de trabajo y al director financiero.
Chantaje y difamación
En 2020, la policía de Corea del Sur descubrió una red de hombres que tomaban imágenes de chicas de secundaria para crearlas y distribuirlas en la aplicación de mensajería Telegram. Los hombres contaban con la ayuda de estudiantes de secundaria que tomaban imágenes de sus compañeros de clase, algunos de los cuales eran menores de edad, y luego las enviaban a los creadores.
Estos vídeos se distribuirían en varias plataformas , dejando a las niñas indefensas para hacer cualquier cosa. Si bien no son ellas las que están en el acto, la evidencia falsa impacta cómo son vistas por la sociedad y sigue siendo traumatizante.
Relaciones falsas por Internet
En 2024, Nikki, una mujer británica de 77 años, fue estafada con £17.000 a través de videos deepfake. La mujer conoció a otra mujer por Internet y formaron una relación, o eso pensó ella. El estafador afirmó que estaban trabajando en una plataforma petrolera y no podían realizar videollamadas, y su víctima necesitaba pagar vales para poder tener acceso a Internet.
Cuando Nikki comenzó a sospechar, el perpetrador comenzó a enviarle videos de "ella misma en la plataforma petrolera", disipando así las sospechas de Nikki.
A medida que la relación continuaba, Nikki solía solicitar una videollamada, que siempre le era negada, pero poco después recibía documentos, imágenes y vídeos generados por IA para tranquilizarla... y luego pedía más dinero.
Nikki sólo se enteró de la estafa cuando intentaba transferir dinero a la cuenta bancaria de su pareja.
Deepfakes inofensivos
Algunas falsificaciones profundas en línea pueden tener fines puramente de entretenimiento en un intento de ganar más seguidores en las plataformas de redes sociales.
Uno de los deepfakes más populares fue el de Tom Cruise , que se publicó en TikTok. La cuenta tenía un millón de seguidores y algunos vídeos alcanzaban casi los 50 millones de visualizaciones, a pesar de no ser el actor. Inicialmente, la gente pensó que la celebridad se había unido a la plataforma porque los videos, la apariencia, la voz e incluso la personalidad eran muy convincentes.
En 2022, un creador de YouTube, Shamook, tomó el nuevo tráiler de la película Spider-man y reemplazó al actor Tom Holland con el actor original Tobey Maguire. Dado que el vídeo falso de Spider-man aparece como Deepfake en el título, su uso es puramente para fines de entretenimiento.
¿Cómo evitar los deepfakes?
Dado que las falsificaciones profundas se están convirtiendo rápidamente en una preocupación creciente y un riesgo de seguridad, hay acciones que puede tomar para evitar que esto le suceda a usted o a su empresa.
Compruebe todas las solicitudes
Si le solicitan información personal o confidencial, no comparta estos datos y confirme la identidad de la persona que llama a través de un canal secundario, como devolverle la llamada a la empresa de la que dijo provenir.
Utilice la configuración de privacidad en todas las cuentas en línea
Restrinja el acceso a cuentas de redes sociales que contengan videos o imágenes suyas para reducir las oportunidades de replicar su imagen.
Protección de contraseñas
Cambia tus contraseñas periódicamente. Asegúrese de que todas las contraseñas sean seguras, únicas, complejas y tengan al menos 16 caracteres. En cuentas compartidas, utilice un software para compartir contraseñas para no tener que dar su contraseña a familiares o empleados.
Añadir autenticación de dos factores para las cuentas
Asegúrese de que todas las cuentas en línea requieran que verifique su identidad antes de acceder con autenticación de dos factores. Esto hace que sea más difícil para los estafadores piratear sus cuentas.
Actualice el antivirus periódicamente
Las actualizaciones de software antivirus son cruciales para garantizar que sus dispositivos estén protegidos contra el malware, spyware y errores más recientes.
Capacitar a los empleados periódicamente
A medida que evoluciona la tecnología, también lo hace el modus operandi del fraude deepfake. Es vital mantenerse actualizado sobre las últimas estafas e interactuar con los empleados sobre cómo identificarlas.
Sepa cómo identificar un video deepfake
Siga los rasgos faciales del individuo en el vídeo para verificar que sean consistentes con los movimientos humanos normales.
- ¿El video se sacude o tiene una claridad inconsistente?
- Observa los movimientos naturales, como el parpadeo. ¿Es muy poco o demasiado?
- Observa las sombras y la iluminación en el vídeo para ver si son artificiales.
- Tome una captura de pantalla y cárguela en Google para autenticar la fuente.
¿Qué hacer si eres victima de deepfake?
Documentar la evidencia
Asegúrese de guardar los deepfakes y todo lo relacionado con ellos, esto incluye comentarios, plataformas en las que se compartieron (si corresponde), capturas de pantalla y cualquier dato asociado con ellos. Tome nota de la fecha, hora y plataforma en que ocurrió.
Notificar plataformas
Si el contenido deepfake proviene de una plataforma, repórtelo a la plataforma anfitriona en la que lo vio, por ejemplo, YouTube, Facebook o X. La mayoría de las plataformas tienen políticas para eliminar medios manipulados .
Contactar con las autoridades
Las falsificaciones profundas que involucran robo de identidad o financiero son delitos. Notifique a la policía local y presente su evidencia para que las autoridades puedan emitir un informe formal. Este informe se puede utilizar para su banco, su seguro y otras cuentas oficiales del delito.
Buscar acción legal
Con la ayuda de un abogado, infórmese sobre las leyes de difamación, derechos de autor o privacidad en su jurisdicción para asegurarse de tener un caso convincente. Verifique si otras personas no han sido víctimas de la misma estafa y, si es posible, investigue una demanda colectiva.
Contratar una empresa de relaciones públicas
Si su reputación o la de su empresa está en juego, trabajar con un experto en relaciones públicas puede ayudarle a elaborar una respuesta y distribuirla a las partes necesarias para mitigar cualquier daño.
Tecnología anti-falsificación de última generación
Varias empresas tecnológicas están produciendo herramientas de detección de deepfakes para ayudar a detener la propagación de información errónea, fraudes y estafas de phishing (SAD).
Algunas tecnologías emergentes ahora están ayudando a los creadores de videos a autenticar sus videos. Se puede utilizar un algoritmo criptográfico para insertar hashes a intervalos establecidos durante el vídeo; si se altera el vídeo, los hashes cambiarán. La IA y la cadena de bloques pueden registrar una huella digital a prueba de manipulaciones para los vídeos. Es como poner marcas de agua a los documentos; la dificultad con el vídeo es que los valores hash deben sobrevivir si el vídeo se comprime para su uso con diferentes códecs.
Otra forma de repeler los intentos de deepfake es utilizar un programa que inserta "artefactos" digitales especialmente diseñados en los videos para ocultar los patrones de píxeles que utiliza el software de detección de rostros. Estos luego ralentizan los algoritmos de deepfake y conducen a resultados de mala calidad, lo que hace que las probabilidades de un deepfake exitoso sean menores.
Protección de seguridad preventiva:
- Asegúrese de que los empleados y sus familiares sepan cómo se crean las falsificaciones profundas y los desafíos que pueden plantear.
- Infórmese y eduque a los demás sobre cómo detectar un Deepfake.
- Asegúrese de tener conocimientos mediáticos y utilizar fuentes de noticias de buena calidad.
- Tener buenos protocolos básicos. Una actitud escéptica hacia el correo de voz y los videos no garantiza que nunca será engañado, pero puede ayudarle a evitar muchas trampas.
- Las copias de seguridad periódicas protegen sus datos contra ransomware y le brindan la posibilidad de restaurar los datos dañados.
- El uso de contraseñas diferentes y seguras para distintas cuentas significa que aunque una red o un servicio hayan sido violados no significa que otros hayan sido comprometidos. Si alguien ingresa a tu cuenta de Facebook, no querrás que pueda ingresar también a tus otras cuentas.
- Utilice un buen paquete de seguridad como Kaspersky Premium para proteger su red doméstica, su computadora portátil y su teléfono inteligente contra amenazas cibernéticas. Este paquete proporciona software antivirus, una VPN para evitar que sus conexiones Wi-Fi sean pirateadas y también protección para sus cámaras web.
¿Cuál es el futuro de Deepfake?
Deepfake sigue evolucionando. Hace dos años, era fácil identificar los videos Deepfake por la torpe calidad del movimiento y el hecho de que la persona falsificada parecía no parpadear nunca. Asegurarse de mantenerse seguro en línea y permanecer alerta y sospechar de cualquier actividad en línea, especialmente cuando se trata de información personal, ayuda a las personas a identificar el fraude antes de que ocurra.
Preguntas frecuentes sobre el ciberacoso
¿Qué es el phishing?
Los ataques de ingeniería social basados en engaños (SAD o deepfake phishing) son un tipo de estafa de phishing que estafa y manipula a personas haciéndose pasar por otras. El objetivo de estas estafas es extraer información confidencial y lograr que las víctimas transfieran dinero o accedan a los sistemas.
¿Debería preocuparme por las estafas que utilizan deepfakes de voz?
Sí. Los estafadores ahora pueden generar audios deepfake que suenan exactamente como usted, para extorsionar a amigos, familiares o colegas con el pretexto de ayudarlo. Para evitar esto, configure una palabra clave o una pregunta de seguridad con sus seres queridos, cuya respuesta ningún estafador podrá conocer y que usted puede preguntar durante una llamada para verificar su identidad.
¿Cómo sucede el robo de identidad?
Los estafadores pueden usar su imagen o voz para falsificar documentos, cambiar números de cuenta o hacerse pasar por usted por teléfono.
¿Cómo se hacen los deepfakes?
Los videos, audios e imágenes deepfake están creados por IA. El aprendizaje automático toma todos los datos de tu apariencia física y crea una versión sintetizada.
