inteligencia artificial
Aunque muchas empresas están implementando la inteligencia artificial conscientemente para impulsar la eficiencia y la calidad, el uso de herramientas de IA no autorizadas está proliferando en las grandes empresas a un ritmo aún mayor. Los desarrolladores de software están haciendo de la IA parte integral de los productos que ya se usan en las empresas (piense, por ejemplo, en Microsoft Copilot y Google Gemini), mientras que los empleados han tomado el asunto en sus propias manos y se han volcado a instalar herramientas sin pedirle autorización a nadie. Como resultado, las empresas ahora enfrentan un canal de filtración de datos mal administrado: el personal pega información de los sistemas corporativos en su asistente de IA preferido, el cual envía esos datos no solo al proveedor de SaaS, sino también a los desarrolladores del modelo de IA subyacente. Tanto los riesgos como las estrategias de mitigación dependen del tipo de sistema de IA del que se hable. En este desglose de este amplísimo tema, nos centraremos en las herramientas que existen para detectar y bloquear la IA en dos niveles distintos.
Tipos de sistemas de IA indeseables
Dependiendo del tipo de IA del que se hable, controlar y bloquear su uso requiere de estrategias diferentes. Antes que nada, debemos dividir a la IA en cuatro categorías distintas:
- Prestaciones de IA propias de una plataforma. Esta categoría incluye a Microsoft Copilot, Google Gemini y Apple Intelligence, junto con las funciones de IA integradas directamente en los navegadores. Lo complicado de estas herramientas es que forman parte de aplicaciones básicas de todos los días, están disponibles al instante para todos los usuarios (a veces aparecen de manera agresiva) y, lo más importante, los proveedores intentan activarlas de manera predeterminada.
- Asistentes de IA integrados en aplicaciones de negocios. Este segmento incluye Slack AI, Zoom AI Companion, Notion AI, el asistente Rovo de Jira y similares. Estos asistentes están vinculados a una aplicación en particular y son imposibles de separar de ella.
- Asistentes independientes o disponibles vía web. ChatGPT, Claude, Perplexity, Character AI, opciones locales como LM Studio, extensiones para el navegador y navegadores asistidos por IA como Comet. Los empleados suelen usar las aplicaciones y los servicios de esta categoría sin autorización; son el típico caso de “IA en la sombra”.
- Agentes multifuncionales diseñados para escritorio. Este grupo incluye herramientas como OpenClaw, NanoClaw y NemoClaw. Son la clase más riesgosa porque vienen con amplios derechos de acceso por defecto y procesan activamente datos no confiables de la web abierta.
Cómo lidiar con la IA indeseada
Cada empresa, dependiendo de su sector, tolerancia al riesgo y apetito por la innovación, debe definir que se considerará un caso de uso recomendado, qué aprobará caso por caso y qué casos de uso estarán completamente prohibidos para productos de IA específicos. Las organizaciones de sectores regulados, como el de la salud, se rigen por un conjunto de reglas, mientras que las empresas de ventas minoristas, por ejemplo, operan con un manual de estrategias completamente diferente. De cualquier manera, después de analizar exactamente qué herramientas de IA ya se han introducido en la organización, las políticas corporativas deben ajustarse. Por ello, la primera orden del día es emplear las herramientas de registro y de seguridad de la información existentes para analizar la infraestructura corporativa.
Dependiendo de la estrategia elegida, podrá optarse por hacer lo siguiente con los sistemas de IA descubiertos:
- deshabilitarlos o restringirlos a mediante los ajustes de política corporativa que traen incorporados las propias herramientas;
- bloquearlos por completo, ya sea en los endpoints o en la red, para evitar que el personal encuentre modos de sortear las políticas y mantenerse a salvo de los errores de configuración;
- pasar a una modalidad de acceso administrado, en la cual la herramienta no se bloquea por completo, sino que se la hace pasar por una pasarela corporativa dedicada que verifica los permisos de acceso y monitorea los patrones de uso.
Detección de sistemas de IA
La detección de la IA requiere de un enfoque multicapa: cada método de detección complementa a los demás y, por sí solo, funciona mejor contra ciertos tipos de IA.
| Tecnología | Qué detecta |
| DNS | Cualquier herramienta de inteligencia artificial que tenga un dominio web identificable. |
| Pasarela web o NGFW | Cualquier herramienta de IA que deje una huella reconocible de solicitudes y respuestas (dominios, rutas a los endpoints de las API y otros indicadores). Los filtros web pueden inspeccionar el contenido del tráfico, mientras que muchas pasarelas y NGFW ahora ofrecen una categoría específica para detectar y bloquear la IA generativa. |
| EPP/EDR | Herramientas LLM locales que se ejecuten a través de Ollama, LM Studio y shells similares, aplicaciones de escritorio nativas para ChatGPT o Claude, navegadores asistidos por IA y agentes de IA de código abierto. Una señal de alerta indirecta pero destacable es la presencia de Node.js, Python, Git, Docker u otras herramientas para contenedores en equipos que no pertenezcan a personal técnico. |
| Control de aplicaciones | Al igual que una solución EPP o EDR, esta tecnología permite bloquear aplicaciones indeseables sin rodeos y de inmediato. |
| Control de los navegadores | Extensiones para navegador centradas en la IA y visitas a sitios web sobre la inteligencia artificial. Esto actúa como salvavidas si la pasarela web corporativa no puede inspeccionar el tráfico cifrado. |
| Gestión de la postura de seguridad SaaS (SSPM) o gobernanza de identidades | Permisos OAuth solicitados por las aplicaciones y servicios de IA, así como cualquier integración de terceros que se conecte a los espaciso de productividad centrales (Microsoft 365, Google Workspace y otros). |
Naturalmente, casi todas estas herramientas pueden hacer más que solo detectar la IA: permiten bloquearla por completo o, al menos, advertir al equipo a cargo.
Préstele atención a OAuth
Las soluciones de IA para oficina más populares —en especial los agentes de automatización para el correo y el calendario, los asistentes para reuniones y similares— obtienen acceso a los datos corporativos al solicitar permisos de OAuth directamente en las plataformas de comunicación, videoconferencia o trabajo con documentos. Si un usuario tiene permiso para otorgar estos permisos a aplicaciones de terceros, las fugas de datos resultantes eluden por completo el perímetro de la organización. Herramientas como EDR y NGFW no verán nada cuando una herramienta como Read.ai grabe cada reunión que se celebre en, por ejemplo, Microsoft Teams.
La medida más drástica, y a menudo la mejor, es impedir directamente que los usuarios estándar otorguen permisos de OAuth. Aquí le mostramos los detalles de cómo se logra esto en la práctica (necesitará permisos de administrador global, administrador de aplicaciones o equivalente, según el caso):
Microsoft 365 / Entra ID
En el centro de administración de Microsoft Entra, vaya a Identidad > Aplicaciones > Aplicaciones empresariales > Consentimiento y permisos > Configuración de consentimiento del usuario. Allí puede deshabilitar la opción Consentimiento del usuario para las aplicaciones (consulte la guía completa publicada por Microsoft).
Google Workspace
En la consola de administración de Google, vaya a Seguridad > Control de acceso y datos > Controles de API. En Administrar acceso a la app, puede establecer un nivel de confianza para todas las aplicaciones: De confianza, Limitado, Datos específicos de Google o Bloqueada. Sin embargo, aquí la verdadera parte crítica está en la subsección Configuración de apps sin configurar, desde la cual se determina lo que ocurre cuando un usuario intenta conectar una aplicación desconocida. Para sellar esta agujero, seleccione No permitir que los usuarios accedan a ninguna app de terceros.
En una subsección separada, Administrar servicios de Google, puede ajustar exactamente cómo interactúan las aplicaciones de terceros con los servicios de Google Cloud y Google Workspace. Utilice esta sección para bloquear el acceso a cada producto individual de Google (consulte la guía oficial de Google).
Salesforce
En Configuración, use el cuadro Búsqueda rápida para buscar aplicaciones conectadas y, en los resultados, elija Gestionar aplicaciones conectadas. Si bien los ajustes de cada aplicación externa se configuran individualmente, todos los usuarios pueden aprobar el acceso de manera predeterminada. Aquí no hay un interruptor de bloqueo general; en cambio, Salesforce permite elegir Los usuarios aprobados por el administrador se han autorizado previamente (consulte la guía completa de Salesforce sobre este tema).
Slack
Desde el menú de configuración Administrador, vaya a Aplicaciones y flujos de trabajo > Ajustes de administración de apps. Cambie el valor de la opción Requerir aplicaciones aprobadas a Permitir solo aplicaciones preaprobadas. Cuando termine con esto, verifique que la lista de aplicaciones aprobadas no contenga ninguna herramienta de IA que se le haya pasado por alto.
Consejos