{"id":29611,"date":"2026-11-15T21:32:08","date_gmt":"2026-11-16T03:32:08","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=29611"},"modified":"2026-11-15T21:50:08","modified_gmt":"2026-11-16T03:50:08","slug":"adopting-cyberimmunity-for-ai-agent-design-rollout","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/29611\/","title":{"rendered":"Clases de ciberinmunidad para agentes de IA"},"content":{"rendered":"<p>Comparados con los sistemas de TI tradicionales, los sistemas de IA son mucho m\u00e1s dif\u00edciles de proteger, sea de errores cometidos por sus operadores, de interferencias maliciosas o simplemente de comportamientos inestables. Las razones de esto son, principalmente, dos. En primer lugar, <a href=\"https:\/\/www.kaspersky.com\/blog\/autonomous-soc-2026-challenges-and-solutions\/55977\/\" target=\"_blank\" rel=\"noopener nofollow\">la IA genera salidas que son probabil\u00edsticas<\/a>, por lo que una misma instrucci\u00f3n puede dar respuestas diferentes si se la ejecuta dos veces En segundo lugar, los LLM actuales <a href=\"https:\/\/latam.kaspersky.com\/blog\/new-llm-attack-vectors-2025\/28587\/\" target=\"_blank\" rel=\"noopener\">no siempre pueden distinguir entre comandos y datos<\/a>. Aunque <a href=\"https:\/\/latam.kaspersky.com\/blog\/top-agentic-ai-risks-2026\/28936\/\" target=\"_blank\" rel=\"noopener\">es sabido que los sistemas de IA<\/a> tienen problemas de seguridad, y hemos hablado de ellos en m\u00e1s de una ocasi\u00f3n, los posibles beneficios econ\u00f3micos de adoptar estos sistemas son imposibles de ignorar. Por eso, muchas empresas han comenzado a dejar de lado los asistentes de IA \u201csencillos\u201d y los est\u00e1n reemplazando con agentes de IA. Los agentes realizan tareas en forma aut\u00f3noma y pueden acceder de manera directa a las mismas herramientas que un humano. Esto les permite, por ejemplo, desde hacer una consulta en una base de datos hasta cambiar los ajustes de un proceso de producci\u00f3n. En <a href=\"https:\/\/lp.kaspersky.com\/global\/ai-agent-cyber-immunity\/\" target=\"_blank\" rel=\"noopener nofollow\">un nuevo estudio<\/a>, nuestros expertos analizan c\u00f3mo se definen claramente los riesgos resultantes y c\u00f3mo se los minimiza para aplacar lo m\u00e1s posible los problemas potenciales. En su abordaje, adoptan y adaptan los principios de la seguridad desde el dise\u00f1o y la ciberinmunidad.<\/p>\n<h2>Los principios b\u00e1sicos de la seguridad desde el dise\u00f1o<\/h2>\n<p>Todos los principios de esta disciplina se pueden aplicar de forma universal al dise\u00f1o de cualquier sistema inform\u00e1tico, incluidos los agentes de IA. Lo que var\u00eda es el grado en el que cada principio se debe adaptar y reformular para los usos de la IA.<\/p>\n<ol>\n<li>La seguridad es un factor independiente e importante desde la etapa del dise\u00f1o. Los objetivos y supuestos de seguridad se establecen en un primer momento y se respetan en todas las etapas del desarrollo. Para los agentes de IA, estos supuestos deben contemplar tres puntos clave: (i) el modelo de lenguaje no se considera fiable, (ii) los datos externos de cualquier tipo se consideran potencialmente maliciosos y (iii) ninguna acci\u00f3n irreversible puede realizarse de manera aut\u00f3noma, sin aprobaci\u00f3n humana.<\/li>\n<li>El sistema se dise\u00f1a suponiendo que ser\u00e1 objeto de ataque.<\/li>\n<li>Se minimizan tanto la base inform\u00e1tica de confianza como la superficie de ataque. Los agentes reciben \u00fanicamente las herramientas que realmente necesitan; asimismo, se les otorgan permisos limitados y la menor cantidad de contexto posible. Las pol\u00edticas de seguridad se aplican exclusivamente a trav\u00e9s de componentes deterministas: el monitor de pol\u00edticas, el entorno de ejecuci\u00f3n del agente y los mecanismos de aislamiento (sandboxes).<\/li>\n<li>Se aplica el principio de m\u00ednimo privilegio. Cada agente tiene su propio juego de credenciales y privilegios de acceso (identidad), el cual tiene solo las libertades indispensables para que el agente realice su trabajo. Si un agente necesita temporalmente de privilegios elevados, los obtiene \u00fanicamente tras una aprobaci\u00f3n externa y \u00fanicamente por el tiempo que dura la tarea para la que los requiere.<\/li>\n<li>Los componentes se mantienen aislados. En los sistemas basados en agentes, este es uno de los problemas de arquitectura m\u00e1s complejos y polifac\u00e9ticos. El entorno de ejecuci\u00f3n de los agentes debe funcionar en un entorno aislado (sandbox o m\u00e1quina virtual) y los agentes deben estar lo m\u00e1s aislados posible los unos de los otros. Tambi\u00e9n se mantiene una separaci\u00f3n para el procesamiento de datos en contextos confiables y no confiables. As\u00ed, por ejemplo, un agente lee una solicitud de cambios en un c\u00f3digo y escribe una versi\u00f3n preliminar del c\u00f3digo modificado; otro agente revisa el trabajo del primero sin ver en ning\u00fan momento la solicitud, potencialmente maliciosa, que dio lugar a los cambios.<\/li>\n<li>La denegaci\u00f3n predeterminada es la regla de oro. Las pol\u00edticas de seguridad siguen este principio: si no est\u00e1 expl\u00edcitamente permitido, est\u00e1 prohibido. Esto incluye las llamadas a herramientas, el tr\u00e1fico de red y las interacciones entre los agentes.<\/li>\n<li>Se implementa la defensa en profundidad. Las distintas medidas deben funcionar al mismo tiempo y reforzarse entre s\u00ed. Las defensas probabil\u00edsticas \u2014como las barreras de protecci\u00f3n de la IA (una suerte de firewall para los modelos de lenguaje) o la alineaci\u00f3n (el criterio del propio modelo sobre qu\u00e9 es aceptable y qu\u00e9 no)\u2014 no pueden ofrecer garant\u00edas formales de seguridad. Sin embargo, hacen que el sistema en su conjunto sea m\u00e1s seguro y son una fuente valiosa de telemetr\u00eda.<\/li>\n<li>Se protege la cadena de suministro. Algunos agentes pueden instalar habilidades, bibliotecas y otros componentes de software por su cuenta. Estas capacidades deben estar sujetas a reglas estrictas. Si no se las bloquea por completo, se las debe limitar a una lista cerrada y preaprobada de versiones espec\u00edficas de componentes espec\u00edficos. Los sistemas basados en LLM que operan en la nube tienen un riesgo adicional: las actualizaciones de los modelos. Un d\u00eda, una misma solicitud a una API puede ser atendida por un modelo de lenguaje diferente, con propiedades de seguridad diferentes.<\/li>\n<\/ol>\n<h2>Los <strong class=\"rQesXe MPyX\" data-sfc-cp=\"\" data-sfc-root=\"c\" data-complete=\"true\" data-processed=\"true\">obst\u00e1culos<!--TgQPHd|||[]--><\/strong> de la seguridad aplicada a la IA<\/h2>\n<p>Los principios generales de la seguridad desde el dise\u00f1o est\u00e1n bien estudiados y son, en teor\u00eda, sencillos. Pero como los agentes son incre\u00edblemente flexibles, aplicar estos principios a los sistemas de IA es complicado. Por ejemplo, el personal de seguridad de una empresa podr\u00eda creer que el agente instalado en la computadora de un programador se ejecuta en un sandbox y no puede modificar nada que exista fuera de ese entorno. Pero un atacante \u2015o incluso el propio agente\u2015 puede hallar decenas de maneras de eludir esta protecci\u00f3n (te\u00f3ricamente) robusta: podr\u00eda, por ejemplo, ejecutar comandos a trav\u00e9s de un servidor MCP local que no est\u00e9 sujeto a las restricciones del sandbox, <a href=\"https:\/\/embracethered.com\/blog\/posts\/2025\/cross-agent-privilege-escalation-agents-that-free-each-other\/\" target=\"_blank\" rel=\"noopener nofollow\">reconfigurar otro agente de IA<\/a> instalado en el sistema, etc. Para complicar m\u00e1s el panorama, la variedad de vectores de ataque es enorme: abarca desde <a href=\"https:\/\/github.com\/anthropics\/claude-code\/security\/advisories\/GHSA-j4h9-wv2m-wrf7\" target=\"_blank\" rel=\"noopener nofollow\">campos arbitrarios en la configuraci\u00f3n del agente<\/a> hasta <a href=\"https:\/\/arxiv.org\/html\/2602.06547v1\" target=\"_blank\" rel=\"noopener nofollow\">cadenas de texto aparentemente inofensivas en archivos de habilidades<\/a>.<\/p>\n<p>Un problema grave, que los dise\u00f1adores suelen subestimar, es la fatiga del usuario. Un agente con mucha actividad puede solicitarle al usuario decenas de veces por minuto que confirme acciones potencialmente peligrosas. Al cabo de una hora, el usuario \u201centra en piloto autom\u00e1tico\u201d <a href=\"https:\/\/nhimg.org\/community\/agentic-ai-and-nhis\/ai-agent-approvals-and-alert-fatigue-what-teams-are-missing\/\" target=\"_blank\" rel=\"noopener nofollow\">y hace clic en <em>Aprobar<\/em><\/a> sin fijarse en qu\u00e9 est\u00e1 autorizando. Por esto es importante cuidar tanto la redacci\u00f3n de las solicitudes como la frecuencia con la que aparecen. Nadie leer\u00e1 una solicitud si es demasiado larga. Y una solicitud demasiado breve puede <a href=\"https:\/\/adversa.ai\/blog\/the-approval-prompt-is-lying-to-you-symlink-rce-in-five-ai-coding-agents-claude-code-cursor-antigravity-copilot-grok-build\/\" target=\"_blank\" rel=\"noopener nofollow\">ocultar detalles clave<\/a> que el usuario necesita para tomar una decisi\u00f3n correcta.<\/p>\n<p>Las vulnerabilidades de los agentes y las herramientas relacionadas con ellos son un problema apremiante, que se agrava por la rapidez con la que evolucionan y se actualizan estas categor\u00edas de software. Ya se ha corregido m\u00e1s de una vulnerabilidad cr\u00edtica en plataformas y aplicaciones que son de referencia en el sector, como <a href=\"https:\/\/labs.cloudsecurityalliance.org\/research\/csa-research-note-langgraph-rce-chain-20260614-csa-styled\/\" target=\"_blank\" rel=\"noopener nofollow\">LangGraph<\/a>, <a href=\"https:\/\/www.microsoft.com\/en-us\/security\/blog\/2026\/05\/07\/prompts-become-shells-rce-vulnerabilities-ai-agent-frameworks\/\" target=\"_blank\" rel=\"noopener nofollow\">MS Semantic Kernel<\/a> y <a href=\"https:\/\/phoenix.security\/critical-ci-cd-nightmare-3-command-injection-flaws-in-claude-code-cli-allow-credential-exfiltration\" target=\"_blank\" rel=\"noopener nofollow\">Claude Code<\/a>. Los arquitectos siempre deben considerar sustituir un marco grande y multifuncional por un sistema compacto y simplificado que incluya \u00fanicamente las prestaciones que en verdad necesita un agente puntual.<\/p>\n<p>Sumado a lo anterior, se deben implementar con cuidado las medidas de seguridad est\u00e1ndar y \u201cde larga data\u201d en las herramientas disponibles. Estas medidas reducen notablemente los da\u00f1os si un agente sufre un ataque o se comporta de manera inesperada. Por poner un ejemplo, puede pensarse en una lista estricta de dominios permitidos a los que una herramienta de consulta web pueda acceder ante la solicitud de un agente. Por desgracia, los dise\u00f1adores rara vez consideran los problemas ocultos y el trabajo extra que implica mantener una lista de este tipo. As\u00ed, poco a poco, la lista queda desactualizada y deja huecos que los atacantes pueden aprovechar. El ejemplo m\u00e1s notable aqu\u00ed es el ataque <a href=\"https:\/\/www.securityweek.com\/echoleak-ai-attack-enabled-theft-of-sensitive-data-via-microsoft-365-copilot\/\" target=\"_blank\" rel=\"noopener nofollow\">EchoLeak<\/a>. Para acceder a sitios externos, Microsoft\u00a0365 Copilot ten\u00eda una lista de dominios permitidos que estaba bien implementada y resultaba bastante eficaz. No obstante, los atacantes lograron eludirla utilizando una funci\u00f3n de una herramienta secundaria y el dominio de MS\u00a0Teams.<\/p>\n<h2>Consejos pr\u00e1cticos para arquitectos y equipos de seguridad<\/h2>\n<p>Los arquitectos de sistemas de IA y quienes tienen a su cargo un equipo de ingenier\u00eda o de seguridad han de considerar la seguridad de los agentes desde la etapa de dise\u00f1o. Deben basarse, principalmente, en mecanismos deterministas y verificables: aislar componentes, controlar interacciones y mantener al m\u00ednimo la base inform\u00e1tica que se considera de confianza.<\/p>\n<p>Entre las decisiones arquitect\u00f3nicas clave se encuentran definir el nivel de autonom\u00eda aceptable para los agentes, limitar el acceso a datos confidenciales y a combinaciones peligrosas de capacidades, y utilizar entornos aislados, pasarelas de control de acceso y roles independientes para modelos diferentes. Las restricciones agregadas a posteriori pueden aplacar riesgos, pero no son reemplazo para una arquitectura segura.<\/p>\n<p>A nivel organizacional y operativo, las empresas deben mantener un inventario de sus agentes, coordinar los esfuerzos de los equipos de seguridad y despliegue, proteger los entornos de contenedores, gestionar la cadena de suministro (AIBOM) e integrar una defensa multicapa.<\/p>\n<p>Se debe prestar especial atenci\u00f3n a la observabilidad. En el caso de los sistemas de IA, es preciso registrar las solicitudes, las respuestas y el razonamiento del LLM, as\u00ed como datos de telemetr\u00eda detallados de los hosts y los entornos de nube en los que opera el marco de ejecuci\u00f3n de los agentes.<\/p>\n<p>Lo m\u00e1s complejo a la hora de dise\u00f1ar agentes es equilibrar la seguridad, el rendimiento y la utilidad. Para aprender a conseguir este equilibrio mediante el modelado de amenazas y la definici\u00f3n de objetivos de seguridad claros, puede leer <a href=\"https:\/\/lp.kaspersky.com\/global\/ai-agent-cyber-immunity\/\" target=\"_blank\" rel=\"noopener nofollow\">la versi\u00f3n completa del estudio<\/a>.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>C\u00f3mo puede aplicar los conceptos de &#8220;la seguridad desde el dise\u00f1o&#8221; a la hora de desplegar agentes de IA.<\/p>\n","protected":false},"author":2706,"featured_media":29612,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2795,3539,3540],"tags":[2797,2018,1861,6051,38],"class_list":["post-29611","post","type-post","status-publish","format-standard","has-post-thumbnail","category-business","category-enterprise","category-smb","tag-aprendizaje-automatico","tag-ia","tag-inteligencia-artificial","tag-llm","tag-seguridad"],"hreflang":[{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/29611\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/31180\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/26212\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/13770\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/31022\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/32564\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/31109\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/42919\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/15021\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/56619\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/24525\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/25446\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/33963\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/adopting-cyberimmunity-for-ai-agent-design-rollout\/31176\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/36921\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/adopting-cyberimmunity-for-ai-agent-design-rollout\/36592\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/latam.kaspersky.com\/blog\/tag\/inteligencia-artificial\/","name":"inteligencia artificial"},"_links":{"self":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/29611","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/users\/2706"}],"replies":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/comments?post=29611"}],"version-history":[{"count":1,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/29611\/revisions"}],"predecessor-version":[{"id":29613,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/29611\/revisions\/29613"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media\/29612"}],"wp:attachment":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media?parent=29611"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/categories?post=29611"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/tags?post=29611"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}