El crecimiento explosivo del a\u00f1o pasado en materia de aplicaciones, servicios y complementos de inteligencia artificial parece acelerarse. Desde aplicaciones de oficina y editores de im\u00e1genes hasta entornos de desarrollo integrados (IDE), como Visual Studio, la inteligencia artificial se est\u00e1 a\u00f1adiendo a herramientas familiares que se usan hace tiempo. Muchos desarrolladores est\u00e1n creando miles de nuevas aplicaciones que aprovechan los modelos de inteligencia artificial m\u00e1s grandes. Sin embargo, nadie en esta carrera ha sido capaz de resolver los problemas de seguridad inherentes: en primer lugar, la minimizaci\u00f3n de las fugas de datos confidenciales y tambi\u00e9n el nivel de pirater\u00eda de cuentas\/dispositivos a trav\u00e9s de varias herramientas de inteligencia artificial; ni hablar de la creaci\u00f3n de protecciones adecuadas contra una futura \u201cIA malvada\u201d. Hasta que a alguien se le ocurra una soluci\u00f3n est\u00e1ndar para proteger a los usuarios de los asistentes de inteligencia artificial, tendr\u00e1s que aprender algunas habilidades y ayudarte a ti mismo.<\/p>\n
Entonces, \u00bfc\u00f3mo usas la inteligencia artificial sin arrepentirte m\u00e1s tarde?<\/p>\n
La pol\u00edtica de privacidad de OpenAI<\/a>, el desarrollador de ChatGPT, establece inequ\u00edvocamente que cualquier di\u00e1logo con el chatbot se guarda y se puede usar para varios prop\u00f3sitos. En primer lugar, para resolver problemas t\u00e9cnicos y prevenir infracciones de los t\u00e9rminos de servicio: en caso de que a alguien se le ocurra generar contenido inapropiado. \u00bfQui\u00e9n lo hubiera pensado, verdad? En ese caso, los chats incluso pueden ser revisados por un humano. En segundo lugar, los datos se pueden utilizar para entrenar nuevas versiones de GPT y realizar otras \u201cmejoras\u201d en el producto.<\/p>\n La mayor\u00eda de los otros modelos de lenguaje populares, ya sea Gemini de Google, Claude de Anthropic o Bing y Copilot de Microsoft, tienen directivas similares: todos pueden guardar di\u00e1logos completos.<\/p>\n Dicho esto, ya se han producido<\/a> filtraciones involuntarias de chats debido a errores de software, por los cuales los usuarios ven las conversaciones de otras personas en lugar de las suyas. El uso de estos datos para el entrenamiento tambi\u00e9n podr\u00eda conducir a una filtraci\u00f3n de datos de un modelo previamente entrenado<\/a>: el asistente de inteligencia artificial podr\u00eda proporcionar tu informaci\u00f3n a alguien si considera que es relevante para la respuesta. Los expertos en seguridad de la informaci\u00f3n incluso han dise\u00f1ado varios ataques (uno<\/a>, dos<\/a>, tres<\/a>) destinados a robar di\u00e1logos probablemente no se detengan all\u00ed.<\/p>\n Por lo tanto, recuerda: cualquier cosa que le escribas a un chatbot puede usarse en tu contra. Te recomendamos que tomes precauciones cuando interact\u00faes con IA.<\/p>\n No env\u00edes datos personales a un chatbot. <\/strong>Ninguna contrase\u00f1a, n\u00famero de pasaporte o tarjeta bancaria, direcciones, n\u00fameros de tel\u00e9fono, nombres u otros datos personales que te pertenezcan, le pertenezcan a tu empresa o a tus clientes deben terminar en chats con IA. Puedes reemplazarlos por asteriscos o el t\u00e9rmino \u201cCENSURADO\u201d en tu solicitud.<\/p>\n No cargues documentos. <\/strong>Existen numerosos complementos que te permiten usar chatbots para el procesamiento de documentos. Puedes sentir la tentaci\u00f3n de cargar un documento de trabajo para, por ejemplo, obtener un resumen ejecutivo. Sin embargo, cuando cargas descuidadamente un documento de varias p\u00e1ginas, corres el riesgo de filtrar datos confidenciales<\/a>, propiedad intelectual o un secreto comercial, como la fecha de lanzamiento de un nuevo producto o la n\u00f3mina de todo el equipo. O, lo que es peor, cuando procesas documentos recibidos de fuentes externas, es posible que seas el objetivo de un ataque<\/a> que dependa de que un modelo de lenguaje escanee el documento.<\/p>\n Utiliza una configuraci\u00f3n de privacidad.<\/strong> Revisa detenidamente la pol\u00edtica de privacidad y la configuraci\u00f3n disponible de tu proveedor de grandes modelos de lenguaje (LLM): por lo general, se pueden aprovechar para minimizar el seguimiento. Por ejemplo, los productos de OpenAI te permiten desactivar el almacenamiento del historial de chat. En ese caso, los datos se eliminan despu\u00e9s de 30 d\u00edas y nunca se usan para entrenamiento. Quienes usan API, aplicaciones de terceros o servicios para acceder a las soluciones de OpenAI tienen esa configuraci\u00f3n activada de manera predeterminada.<\/p>\n \u00bfEnviar\u00e1s c\u00f3digos? Borra los datos confidenciales.<\/strong> Este consejo est\u00e1 dirigido a aquellos ingenieros de software que utilizan asistentes de IA para revisar y mejorar su c\u00f3digo: elimina cualquier clave API, direcci\u00f3n de servidor o cualquier otra informaci\u00f3n que pueda revelar la estructura de la aplicaci\u00f3n o la configuraci\u00f3n del servidor.<\/p>\n Sigue estos consejos en todo momento, sin importar qu\u00e9 asistente de inteligencia artificial popular est\u00e9s utilizando. Sin embargo, incluso esto puede no ser suficiente para garantizar la privacidad. El uso de complementos de ChatGPT, extensiones de Gemini o aplicaciones complementarias independientes da lugar a nuevos tipos de amenazas.<\/p>\n En primer lugar, tu historial de chat ahora puede almacenarse no solo en los servidores de Google u OpenAI, sino tambi\u00e9n en servidores que pertenecen a terceros que admiten el complemento, as\u00ed como en rincones poco probables de tu ordenador o tel\u00e9fono inteligente.<\/p>\n En segundo lugar, la mayor\u00eda de los complementos extraen informaci\u00f3n de fuentes externas: b\u00fasquedas web, tu bandeja de entrada de Gmail o notas personales de servicios como Notion, Jupyter o Evernote. En consecuencia, cualquiera de tus datos de esos servicios tambi\u00e9n puede terminar en los servidores donde se ejecuta el complemento o el modelo de lenguaje. Una integraci\u00f3n como esa puede conllevar riesgos importantes: por ejemplo, ten en cuenta este ataque que crea nuevos repositorios de GitHub en nombre del usuario<\/a>.<\/p>\n En tercer lugar, la publicaci\u00f3n y verificaci\u00f3n de complementos para los asistentes de IA en este momento son un proceso mucho menos ordenado que, por ejemplo, la detecci\u00f3n de aplicaciones en App Store o Google Play. Por lo tanto, las posibilidades de encontrar un complemento que funcione mal, est\u00e9 mal escrito, tenga errores o incluso sea simplemente malicioso son bastante altas, tanto m\u00e1s porque parece que nadie controla realmente<\/a> a los creadores o sus contactos.<\/p>\n \u00bfC\u00f3mo mitigas estos riesgos? Nuestro consejo clave en este caso es darle tiempo. El ecosistema de complementos es demasiado reciente, los procesos de publicaci\u00f3n y soporte no son lo suficientemente fluidos, y los propios creadores no siempre se encargan de dise\u00f1ar los complementos correctamente o de cumplir con los requisitos de seguridad de la informaci\u00f3n. Todo este ecosistema necesita m\u00e1s tiempo para madurar y volverse m\u00e1s seguro y fiable.<\/p>\n Adem\u00e1s, el valor que muchos complementos a\u00f1aden a la versi\u00f3n est\u00e1ndar de ChatGPT es m\u00ednimo: ajustes menores en la interfaz de usuario y plantillas de \u201cindicador del sistema\u201d que personalizan el asistente para una tarea espec\u00edfica (\u201cActuar como profesor de f\u00edsica de escuela secundaria\u2026\u201d). No vale la pena confiar en estos contenedores, ya que puedes realizar la tarea perfectamente sin ellos.<\/p>\n Si realmente necesitas determinadas caracter\u00edsticas de complementos en este momento, intenta tomar las m\u00e1ximas precauciones disponibles antes de usarlas.<\/p>\n Hasta ahora, hemos analizado los riesgos relacionados con la filtraci\u00f3n de datos; pero este no es el \u00fanico problema potencial de la inteligencia artificial. Muchos complementos son capaces de realizar acciones espec\u00edficas bajo el comando del usuario, como adquirir boletos de avi\u00f3n. Estas herramientas proporcionan a los actores maliciosos un nuevo vector de ataque: a la v\u00edctima se le presenta un documento, una p\u00e1gina web, un v\u00eddeo o incluso una imagen que contiene instrucciones ocultas para el modelo de lenguaje adem\u00e1s del contenido principal. Si la v\u00edctima env\u00eda el documento o el enlace a un chatbot, este \u00faltimo ejecuta las instrucciones maliciosas, por ejemplo, adquirir boletos con el dinero de la v\u00edctima. Este tipo de ataque se conoce como inyecci\u00f3n r\u00e1pida<\/a> y, aunque los desarrolladores de varios LLM est\u00e1n tratando de crear una protecci\u00f3n contra esta amenaza, nadie lo ha logrado y tal vez nunca lo hagan.<\/p>\nLimita el uso de aplicaciones y complementos de terceros<\/h2>\n
\n
Los complementos de ejecuci\u00f3n requieren una supervisi\u00f3n especial<\/h2>\n