Es segura la inteligencia artificial? Podría decirse que es el tema más popular en el mundo de la tecnología en este momento, y es uno que está atrayendo un debate significativo.
En una cumbre mundial en París en febrero de 2025, las opiniones sobre la seguridad de la IA diferían entre los líderes mundiales. Por ejemplo, el presidente de Francia, Emmanuel Macron, pidió una mayor regulación para ayudar a la IA a avanzar, mientras que el vicepresidente de los Estados Unidos, JD Vance, dijo que las “políticas de IA favorables al crecimiento” deben tener prioridad sobre las preocupaciones de seguridad.
Si bien las empresas, las autoridades y las personas legítimas están explorando formas de usar la inteligencia artificial de manera responsable y segura, también existe otra amenaza: el uso de la inteligencia artificial por parte de los ciberdelincuentes para hacer que sus actividades maliciosas sean aún más poderosas y exitosas.
El ciberdelito de IA es un cambio de juego para la seguridad en todo el panorama digital, y es vital que todos sean conscientes de los riesgos y las acciones que se necesitan para mantenerse a salvo. Esta guía explora los diferentes tipos de ataques cibernéticos de IA, lo que estos ataques significan desde el punto de vista de la seguridad y lo que puede hacer ahora para reforzar sus defensas.
Ejemplos de piratería informática exitosa utilizando IA
El riesgo de malware generado por IA y otras actividades delictivas es mucho más que teórico: estos ataques ya están ocurriendo y cobrando víctimas en todo el mundo. Aquí hay solo tres de una gran cantidad de ejemplos:
Suplantación de identidad: Guido Crosetto
A principios de 2025 , los estafadores utilizaron tecnología de voz generada por IA para hacerse pasar por el ministro de Defensa de Italia, Guido Crosetto. A continuación, se pusieron en contacto con empresarios ricos en Italia con una súplica ficticia de apoyo financiero que supuestamente se utilizaría para ayudar a liberar a los periodistas italianos secuestrados en el Medio Oriente. Al menos un empresario fue engañado para que enviara dinero a lo que resultó ser una cuenta fraudulenta.
Malware: estafa DeepSeek ClickFix
Una operación del ciberdelincuente ha creado una página web de verificación que imita la nueva IA china DeepSeek. Los usuarios que completan lo que creen que es una verificación de Captcha ordenan la instalación de Vidar Stealer y Lumma Stealer, malware que se puede usar para robar información confidencial, incluidos inicios de sesión y datos bancarios, lo que finalmente da como resultado un fraude bancario en línea .
Error de usuario: fuga de ChatGPT de Samsung
Si bien no es un virus de IA o un ataque de malware como tal, este incidente de alto perfil destacó cómo la puerta puede abrirse inadvertidamente a los ataques de IA. En la primavera de 2023, el personal del gigante tecnológico coreano Samsung usó ChatGPT para verificar parte de su código fuente, sin darse cuenta de que los datos se retendrían para entrenar aún más el modelo de IA. Esto puso efectivamente parte de la propiedad intelectual altamente sensible de Samsung en el dominio público para que cualquiera pueda acceder.
Tipos de ciberataques de IA
Ya existen varias formas diferentes en las que la IA puede usarse para actividades maliciosas, ya sea directamente o en apoyo de otras empresas delictivas:
Ingeniería social
Un ataque de ingeniería social es cuando los delincuentes intentan influir en el comportamiento humano y hacer que los usuarios les entreguen información o activos de forma voluntaria. Esto podría ser cualquier cosa, desde datos personales confidenciales , información de cuentas bancarias, dinero o criptomonedas , o acceso a ciertos dispositivos y bases de datos. La IA está resultando muy útil en este tipo de ataque, ya que ayuda a los ciberdelincuentes a identificar objetivos, desarrollar personas y mensajes convincentes y crear grabaciones de audio y video que agregan plausibilidad a la estafa.
Ataques de phishing
Los ataques de phishing se basan en que los usuarios crean que los mensajes, vínculos y archivos adjuntos de correo electrónico que han recibido son reales y hacen clic en lo que resulta ser malware. Una buena educación del usuario ha ayudado a reducir el éxito de estos ataques en el pasado, pero ahora se utiliza la inteligencia artificial para hacer que los intentos de phishing sean más convincentes que nunca. Se puede usar en comunicaciones en tiempo real, como mensajes de WhatsApp o comunicaciones de redes sociales, e incluso en chatbots de servicio al cliente falsos donde los clientes creen que están compartiendo los detalles de su cuenta con miembros reales del personal.
IA ransomware
La IA ha ampliado sustancialmente las capacidades técnicas de los ataques de ransomware . Esto incluye la investigación de objetivos, como la evaluación de los sistemas para detectar las vulnerabilidades más prometedoras para explotar, y la capacidad de adaptar los archivos de ransomware para que aún puedan eludir la detección de soluciones de ciberseguridad.
IA adversa y GPT maliciosos
Muchos ciberdelincuentes distorsionan la salida generada por la IA al proporcionarles datos inexactos o alterar la configuración del modelo de IA. Las inexactitudes introducidas pueden dar lugar a sesgos peligrosos o la creación de instrucciones que se adapten a los objetivos del pirata informático. Paralelamente, ha habido un aumento en el uso de herramientas de inteligencia artificial malintencionadas que no contienen ninguna protección para protegerse contra el sesgo y el uso indebido; GhostGPT es un ejemplo reciente de un chatbot sin censura que se puede usar para crear malware de IA.
Deepfakes
Puede pensar que las deepfakes son solo una preocupación para las figuras públicas cuyos rostros y voces se colocan en posiciones ficticias y comprometedoras, pero la amenaza para todos es real. La tecnología Deepfake se puede usar para hacerse pasar por cualquier persona a través de video, voz o una combinación de los dos. Potencialmente, estos pueden usarse para obtener acceso a información confidencial o incluso a cuentas bancarias al engañar a los procedimientos de seguridad y verificación.
Combatir fuego con fuego: ¿Qué significa para la seguridad el ciberdelito impulsado por IA?
La mejor herramienta para usar contra las amenazas cibernéticas de IA es la inteligencia artificial en sí. Eso no significa que las soluciones de seguridad estándar sean impotentes para prevenir ataques compatibles con IA: aún podrán protegerse contra muchos tipos de malware y piratería. Sin embargo, incorporar la inteligencia artificial a la combinación de seguridad puede agregar una dimensión adicional a varios métodos de seguridad, tales como:
Respuesta a incidentes
La IA se puede utilizar para automatizar las actividades de respuesta a incidentes. Por ejemplo, Kaspersky Incident Response puede bloquear la actividad malintencionada y los sistemas afectados pueden aislarse mucho más rápido de lo que lo haría un humano que respondiera a una alerta del sistema. Reducir drásticamente los tiempos de respuesta y resolución puede minimizar el impacto de cualquier ataque, lo que en última instancia limita la escala de interrupciones, gastos y pérdida de datos.
Detección de amenazas y búsqueda proactiva de amenazas
Con tantas amenazas, puede ser difícil para los equipos de seguridad mantenerse al día e investigar cada alerta. Aquí es donde la IA puede ayudar, analizando el comportamiento de los usuarios y el tráfico de la red en detalle, detectando amenazas potenciales más rápido y filtrando los falsos positivos que cuestan un tiempo valioso a los equipos de seguridad. La IA también puede hacer que la detección de amenazas sea proactiva, ya que persigue los ciberataques antes de que comiencen.
de malware
La información que puede generar la IA puede brindarles a los equipos de seguridad una comprensión mucho mejor y en profundidad de cómo funcionan en la práctica los diferentes tipos de malware. Poder automatizar este análisis significa que los equipos de seguridad pueden acceder a estos conocimientos mucho más rápido y pueden tomar decisiones más informadas sobre dónde y cómo se diseñan e implementan sus defensas.
Análisis de vulnerabilidades
Las herramientas de IA pueden evaluar los sistemas y la infraestructura para determinar dónde se encuentran las mayores vulnerabilidades, de modo que los equipos de seguridad puedan priorizar mejor su tiempo y recursos para cerrar esas vulnerabilidades. Esta información es vital para una mejor administración de parches y actualizaciones, lo que garantiza que las actualizaciones más urgentes se instalen primero.
Administración de identidades y accesos (IAM)
La fuerza de la administración de identidades y accesos ha sido reforzada sustancialmente por la IA a través de su capacidad para detectar patrones inusuales de actividad del usuario desde diferentes ubicaciones para intentos de acceso a la velocidad de escritura y movimiento del mouse. Estas anomalías se pueden marcar en tiempo real para bloquear cualquier posible acceso no autorizado y / o generar capas adicionales de verificación para confirmar el uso legítimo.
Piratería ética
La piratería ética y las pruebas de penetración son herramientas cruciales para descubrir vulnerabilidades y cerrarlas de manera proactiva. Sin embargo, puede ser una empresa lenta y que requiera mucho tiempo solo por el tamaño de la carga de trabajo involucrada. Sin embargo, la IA puede aliviar la carga de administración de estas tareas de dos maneras importantes: automatizando las tareas más simples y repetitivas que ralentizan a los equipos y analizando sus resultados para brindar información útil.
Evaluaciones de riesgos
Los mismos beneficios de la IA para la piratería ética también se pueden aplicar al desarrollo de evaluaciones de riesgos y a la priorización de amenazas de acuerdo con el nivel de peligro. Esta también puede ser una tarea mundana y que requiere mucho tiempo (por muy importante que sea), por lo que el uso de IA para acelerar el proceso, encargarse de los trabajos repetitivos y generar información más detallada puede ser extremadamente útil.
Cómo protegerse de los ciberataques de IA
Además de las capacidades de seguridad basadas en IA anteriores, hay muchas formas de minimizar las posibilidades de que el pirateo de IA tenga éxito. Desde nuestro punto de vista experto, la mejor manera de avanzar reúne a las personas, la planificación y la tecnología:
Cree un plan de respuesta a incidentes
Cuanto más rápido pueda responder a un incidente, más rápido podrá mitigar cualquier impacto y asegurarse de que el daño no se propague demasiado . Al igual que en un simulacro de incendio, debe saber exactamente qué hacer cuando ocurre un incidente de seguridad. Su plan debe abarcar la preparación (es decir, la prevención y cómo responder), la detección y el análisis (que confirma la naturaleza y la gravedad del ataque), la contención y la erradicación del ataque (aislamiento del sistema, reparación y parcheo) y tácticas de recuperación que evitan el ataque. incidente de suceder de nuevo.
Obtenga más información sobre cómo crear una estrategia eficaz con las soluciones de Respuesta a incidentes de Kaspersky .
Utilice las plataformas de seguridad más sólidas disponibles
Asegúrese de contar con las protecciones de seguridad más completas para defenderse de las amenazas existentes y los nuevos ataques basados en el ciberdelito de IA. Kaspersky Premium , por ejemplo, proporciona protección antivirus en tiempo real que actúa de inmediato para prevenir un ataque; También incluye Protección de identidad que protege aún más los datos personales confidenciales.
Evalúe la postura de seguridad con regularidad
Dado que tanto la inteligencia artificial como el ciberdelito evolucionan a un ritmo rápido, las medidas de seguridad que tiene implementadas hoy pueden no ser suficientes 12 meses después (o incluso antes). Esto significa que la seguridad debe auditarse y revisarse periódicamente; La IA puede respaldar esto mediante el análisis en tiempo real de la actividad del usuario y la detección de cualquier actividad anómala en comparación con el período de auditoría anterior.
Mantener la conciencia de seguridad de los usuarios y empleados
El éxito continuo de los ataques de phishing, ya sea que se desarrollen con inteligencia artificial o no, subraya el hecho de que la buena seguridad comienza con los usuarios. Ahora es el momento de concienciar a los usuarios del riesgo de piratería de IA y ataques relacionados, especialmente en cuanto a lo convincentes que pueden ser el texto, el audio y el video generados por IA. Esto puede ayudar a recordar a los usuarios que deben mantenerse extremadamente atentos y no realizar ninguna actividad a menos que estén 100% seguros de que es seguro hacerlo. Descubra cómo la capacitación en ciberseguridad de Kaspersky puede ayudar a su equipo a mantenerse alerta contra los ataques impulsados por la IA.
Artículos relacionados:
- Redes sociales e inteligencia artificial: ¿es seguro?
- Es seguro usar ChatGPT? Lo que necesitas saber
- Cómo prevenir ciberataques
Productos relacionados:
