Es seguro decir que, con su gama de usos y su potencial para integrarse en muchos aspectos de nuestras vidas, ChatGPT y otras formas de IA representan un revolucionario paso adelante. Sin embargo, es conveniente preguntarse si ChatGPT es seguro.
En esta guía, te contamos todo lo que necesitas saber.
¿Qué es ChatGPT?
Sus creadores definen ChatGPT como "una inteligencia artificial entrenada para ayudar en diversas tareas". Básicamente, se trata de un chatbot con inteligencia artificial capaz de generar respuestas en lenguaje natural a las consultas de los usuarios.
ChatGPT funciona con un algoritmo de aprendizaje automático desarrollado a partir de millones de documentos. Gracias al modelo lingüístico que usa, ChatGPT puede producir textos que parecen hechos por personas y chatear con ellas (por eso se llama "chat").
Desde hace años existen versiones más simples de la IA basada en el lenguaje, pero ChatGPT es la versión más avanzada hasta la fecha. OpenAI, una empresa de IA e investigación, creó ChatGPT.
¿Qué significa ChatGPT?
GPT en ChatGPT significa Transformador generativo preentrenado.
¿Qué puede hacer ChatGPT?
Con sus potentes funciones de procesamiento del lenguaje natural y su capacidad para generar respuestas personalizadas rápidas, ChatGPT puede usarse en una gran variedad de entornos empresariales, como el servicio de atención al cliente, la asistencia al cliente, la automatización del marketing, y mucho más.
Muchos predicen que ChatGPT revolucionará los negocios, aunque aún falta por determinar su precisión o su impacto total.
Además, la herramienta es útil para usuarios particulares. Entre los ejemplos de uso de ChatGPT para las personas se incluyen los siguientes:
- Resumir un documento con puntos o acciones clave.
- Traducir un texto a otros idiomas.
- Escribir o depurar código.
- Responder a consultas específicas.
- Explicar cómo hacer determinadas tareas.
- Escribir música o poemas.
ChatGPT se puede usar en varios idiomas y está disponible en casi todo el mundo (aunque está prohibido en algunos países debido a las leyes de protección de datos).
Debido a que las respuestas de ChatGPT son generadas por un modelo lingüístico de IA, no siempre son precisas o completas. Es importante evaluar la información que proporciona ChatGPT y consultar fuentes adicionales cuando corresponda.
¿Es seguro ChatGPT?
Una de las principales inquietudes es si los modelos lingüísticos de IA como ChatGPT pueden usarse con fines delictivos. Entre los posibles riesgos de seguridad de ChatGPT se incluyen los siguientes:
Estafa y suplantación de identidad (phishing)
Una de las amenazas en línea más comunes es la suplantación de identidad (phishing). Las estafas de suplantación de identidad (phishing) suelen ser fáciles de reconocer, ya que pueden contener errores ortográficos, gramática incorrecta y frases confusas.
Esto suele ocurrir cuando los estafadores crean mensajes en un idioma que no es su lengua materna. ChatGPT permite ahora a los estafadores de todo el mundo dominar el inglés (y otros idiomas), lo que les ayuda a mejorar sus mensajes de suplantación de identidad (phishing) y, por lo tanto, a hacerlos más difíciles de detectar.
Además, debido a la gran cantidad de datos con los que se entrena el modelo, a los estafadores les resulta más fácil que nunca crear correos electrónicos convincentes con el estilo de la empresa por la que se hacen pasar.
También es posible que los estafadores utilicen la tecnología de OpenAI para crear un chatbot de atención al cliente falso y convincente, con el potencial de engañar a los usuarios para robarles su dinero.
Filtraciones de datos
En marzo de 2023, OpenAI, creador de ChatGPT, detectó un problema, y ChatGPT dejó de funcionar durante varias horas. Durante ese tiempo, algunos usuarios de ChatGPT vieron el historial de conversaciones de otros usuarios.
Además, se informó de que podría haberse filtrado información relacionada con el pago de los abonados de ChatGPT-Plus (que pagan por una versión mejorada de la aplicación).
OpenAI publicó un informe sobre el incidente y abordó la causa del problema. Eso no impide que surjan nuevos problemas en el futuro.
Con cualquier servicio en línea, existe el riesgo de filtraciones accidentales y de la ciberseguridad a causa del gran número de piratas informáticos.
Inquietudes
sobre la privacidad
El potencial de uso indebido de los datos es una inquietud de seguridad válida. En las preguntas frecuentes sobre ChatGPT de OpenAI, se recomienda que no se comparta información confidencial y se advierte a los usuarios de que los mensajes no se pueden eliminar.
En las mismas preguntas frecuentes se indica que ChatGPT guarda las conversaciones que OpenAI revisa con fines de entrenamiento.
Contribución a la difusión de noticias falsas y mala información
En un mundo en el que la mala información, la desinformación y las noticias falsas se propagan rápidamente por Internet, a algunos les preocupa que ChatGPT pueda contribuir a agravar el problema.
Las respuestas de ChatGPT se basan en la información con la que se entrenó, gran parte de la cual procede de Internet. A continuación, la aplicación crea una secuencia de palabras que es probable que aparezcan una detrás de otra como respuesta.
Debido a que la mala información y la desinformación existen en Internet, también existe la posibilidad de que ChatGPT responda con información incorrecta. ChatGPT también puede usarse para hacerse pasar por otras personas y, de ese modo, manipular a otros en el proceso.
Posibilidad de prejuicio
A pesar de que la información sea correcta, puede mostrar un prejuicio político o de otro tipo. Como cualquier modelo de aprendizaje automático, ChatGPT refleja los prejuicios de sus datos de entrenamiento.
Si esos datos son parciales, sus resultados también pueden serlo, con la posibilidad de dar respuestas injustas, discriminatorias o incluso ofensivas.
Al parecer, ChatGPT toma medidas para identificar y evitar responder a preguntas de contenido político, pero es importante ser consciente de los posibles prejuicios al utilizar el servicio.
Robo de identidad y recopilación de información
Los delincuentes maliciosos pueden usar ChatGPT para recopilar información con fines delictivos. Debido a que el chatbot recibe entrenamiento con grandes volúmenes de datos, conoce una gran cantidad de información que podría usarse para hacer daño si cae en las manos equivocadas.
Por ejemplo, en un caso, se pidió a ChatGPT que divulgara qué sistema informático usa un banco específico. El chatbot, a partir de información de dominio público, enumeró los distintos sistemas informáticos que usa el banco en cuestión.
Este es un ejemplo de un delincuente malicioso que usa ChatGPT para identificar o aislar información que podría usarse para hacer daño.
Para hacer frente a estos problemas, OpenAI tomó medidas para garantizar la seguridad de sus modelos lingüísticos.
Entre ellas se incluyen el establecimiento de estrictos controles de acceso para impedir que las personas ingresen a sus sistemas sin permiso, así como el establecimiento de normas éticas para el desarrollo y uso de la IA. Las normas incluyen un compromiso de uso responsable de la tecnología, además de transparencia y equidad.
Engañar a ChatGPT para que escriba código malicioso
ChatGPT puede generar código y la IA está programada para no generar código malicioso o con fines de piratería informática. Si se solicita un código de piratería, ChatGPT informa a los usuarios que su propósito es "ayudar en tareas útiles y éticas dentro de las pautas y políticas éticas".
Sin embargo, no es imposible manipular a ChatGPT y, con los conocimientos y la creatividad suficientes, los delincuentes maliciosos podrían engañar a la IA para que genere código de piratería.
En foros de piratería, los piratas informáticos afirman estar probando el chatbot para recrear cepas de malware. Dado que estas amenazas se hicieron públicas, podría haber más en la red oscura.
La posibilidad de que el propio ChatGPT sea pirateado es un tema del que se habla menos: si eso ocurriera, los responsables de las amenazas podrían usarlo para divulgar información errónea.
Estafas de ChatGPT
Cada vez que surge una nueva tecnología o plataforma, también aparecen nuevas estafas, ya que los ciberdelincuentes buscan formas de obtener dinero.
ChatGPT generó un enorme interés desde su lanzamiento, por lo que no es de extrañar que aparezcan estafas como aplicaciones falsas de ChatGPT que propagan malware con el que pueden robarte contraseñas y dinero.
A veces, estas aplicaciones falsas se promocionan con mensajes de acceso gratuito e ilimitado a gran velocidad con las últimas novedades, entre otras cosas.
Como siempre, se cumple el viejo refrán: si algo parece demasiado bueno para ser verdad, probablemente lo sea. Ten cuidado con las ofertas de ChatGPT promocionadas a través de las redes sociales o el correo electrónico.
Y desconfía de las aplicaciones que dicen ser aplicaciones de ChatGPT. Para usar ChatGPT en tu teléfono, puedes hacerlo a través del navegador de tu dispositivo móvil o de la aplicación oficial.
ChatGPT también puede ayudar a los profesionales de la ciberseguridad
ChatGPT, uno de los primeros ejemplos de inteligencia artificial pública con buenos conocimientos lingüísticos, genera un gran debate sobre sus posibilidades y riesgos potenciales.
Como con cualquier nueva tecnología, es importante ser prudente. Es fácil dejarse llevar por la emoción y olvidar que se trata de un servicio en línea que puede usarse con fines fraudulentos.
También es cierto que, aunque ChatGPT puede ayudar a los responsables de las amenazas en su intento de cometer ciberdelitos, también puede ayudar con fines defensivos.
Los profesionales de la ciberseguridad también pueden utilizar ChatGPT como una herramienta más a su disposición.
Usa una VPN para protegerte en línea
Independientemente de cómo uses ChatGPT, una forma clave de maximizar tu privacidad en línea es mediante el uso de una VPN o red privada virtual. Una VPN hace que tu conexión a Internet sea anónima y oculta tu dirección IP, lo que impide que terceros hagan un seguimiento de tu actividad.
Si quieres ocultar tu dirección IP y navegar de forma segura mientras proteges tus datos, una VPN como Kaspersky VPN Secure Connection es una buena opción para tener en cuenta. Kaspersky Secure Connection te permite navegar de forma segura y anónima, a velocidades líderes en el sector, y desbloquear contenidos globales sin restricciones desde cualquier lugar.
Para tener una mayor protección, también puedes usar un administrador de contraseñas, que genera contraseñas aleatorias y seguras para ti y las almacena de forma confidencial en una bóveda digital.
Artículos relacionados:
- IA y aprendizaje automático en la ciberseguridad
- Videos falsos y deepfake: ¿cómo pueden protegerse los usuarios?
- ¿Qué pueden hacer los hackers con tu dirección de correo electrónico?
