Una alucinación de IA es una situación en la que una herramienta inteligente artificial ofrece un resultado que es inexacto, engañoso o incoherente, debido a que sus algoritmos encuentran patrones en datos que no existen o los interpretan incorrectamente.
A medida que las capacidades y la popularidad de la inteligencia artificial se han expandido en los últimos años, se han descubierto algunas de sus fallas y vulnerabilidades.
Una de las preguntas más importantes que tiene la gente es si la IA es precisa. En muchos casos, ha demostrado ser una herramienta increíblemente útil para verificar e investigar información, pero en algunos otros, los resultados han sido incorrectos o engañosos.
Dada la variedad de casos de uso a los que se está aplicando la IA en el mundo moderno, las consecuencias de estas inexactitudes pueden ser extremadamente graves. En este artículo, veremos por qué puede ocurrir una alucinación de IA, las ramificaciones desde el punto de vista tecnológico y social, y qué puede hacer para minimizar el riesgo de alucinaciones de IA en su propio uso.
Cómo ocurre una alucinación con IA?
Hay varias razones diferentes por las que ocurre una alucinación de IA y, en muchos casos, se trata de una combinación de varias de ellas al mismo tiempo. Estos pueden incluir (y no se limitan necesariamente a):
- No tener suficientes datos de entrenamiento para orientar los resultados completos y precisos del modelo de IA.
- Tener demasiados datos de entrenamiento lo que lleva a que se confunda demasiado 'ruido de datos' irrelevante con la información que es relevante e importante.
- Sesgos dentro de los datos que se reflejan en los resultados generados.
- El modelo de IA simplemente hace suposiciones y conclusiones incorrectas a partir de la información que se le ha proporcionado.
- Falta de contexto del mundo real dentro del modelo de IA, como las propiedades físicas de los objetos o información más amplia que sea relevante para los resultados que se generan.
Cómo se ve una alucinación con IA?
No existe un conjunto único de síntomas para las alucinaciones de IA porque depende de los defectos del modelo y del proceso involucrado. Sin embargo, por lo general, una alucinación de IA puede manifestarse de una de estas cinco maneras:
- Predicciones inexactas : los modelos de IA pueden terminar prediciendo que algo sucederá en el futuro, lo que tiene pocas posibilidades realistas de que ocurra, o probablemente ninguna posibilidad.
- Resúmenes con información faltante : a veces, los modelos de IA pueden perder el contexto vital o la información que necesitarían para crear resultados precisos y completos. Esto puede deberse a la falta de datos introducidos en el modelo o a la incapacidad del modelo para buscar el contexto correcto en otras fuentes.
- Resúmenes con información inventada : al igual que en el punto anterior, algunos modelos de IA pueden terminar compensando la falta de información precisa inventando las cosas por completo. Esto puede suceder a menudo cuando los datos y el contexto en los que se basa el modelo son inexactos en primer lugar.
- Falsos positivos y negativos : la inteligencia artificial se usa a menudo para detectar posibles riesgos y amenazas, ya sean síntomas de enfermedad en un entorno de atención médica o casos de actividad fraudulenta en la banca y las finanzas. Los modelos de IA a veces pueden identificar una amenaza que no existe, o en el otro extremo de la escala, no identifican una amenaza que sí existe.
- Resultados incoherentes : si ha visto imágenes generadas por IA de personas con la cantidad incorrecta de brazos y piernas o automóviles con demasiadas ruedas, entonces sabrá que la IA aún puede generar resultados que no tienen ningún sentido para los humanos.
Por qué es importante evitar las alucinaciones con IA?
Puede pensar que una alucinación de IA no es gran cosa y que simplemente ejecutar los datos a través del modelo nuevamente puede resolver el problema al generar los resultados correctos.
Pero las cosas no son tan simples como eso, y cualquier alucinación de IA que se aplique a casos de uso práctico o se lance al dominio público puede tener algunas consecuencias muy graves para un gran número de personas:
Uso poco ético de IA
El uso de IA, en En general, está en el punto de mira en este momento, y se espera cada vez más que las organizaciones que hacen uso de la tecnología usen la IA de una manera responsable y ética que no dañe a las personas ni las ponga en riesgo. Permitir que una alucinación de IA pase sin control, ya sea a sabiendas o sin saberlo, no cumpliría con esas expectativas éticas.
Confianza del público y del consumidor
Conectado con el punto anterior, muchas personas todavía están preocupadas por el uso de la IA, desde cómo se utilizan sus datos personales hasta si las crecientes capacidades de la IA pueden hacer que sus trabajos sean obsoletos. Los casos continuos de ejemplos de alucinaciones de IA en el dominio público pueden erosionar la confianza que se genera lentamente entre el público y llevar a un éxito limitado para los casos de uso de IA y las empresas a largo plazo.
Toma de decisiones mal informada
Las empresas y las personas deben poder tomar las mejores decisiones más informadas posibles y cada vez se apoyan más en los datos, el análisis y los modelos de inteligencia artificial para eliminar las conjeturas y la incertidumbre de esas decisiones. Si los resultados inexactos de los modelos de IA los engañan, las decisiones incorrectas que tomen podrían tener resultados catastróficos, desde amenazar la rentabilidad de una empresa hasta diagnosticar erróneamente a un paciente médico.
Riesgos legales y financieros de la desinformación de AI
Como demuestra hábilmente el caso judicial mencionado anteriormente, la información generada por AI inexacta puede causar un gran daño desde las perspectivas legal y financiera. Por ejemplo, el contenido creado con inteligencia artificial podría ser difamatorio para ciertas personas o empresas, podría infringir ciertas regulaciones legales o, en algunos casos extremos, incluso podría sugerir o incitar a las personas a realizar actividades ilegales.
Evitar el sesgo
Vivimos en un mundo en el que las personas trabajan incansablemente para garantizar que todos sean tratados por igual y sin prejuicios hacia un tipo de persona sobre otra. Sin embargo, los datos de IA sesgados pueden hacer que muchos de esos prejuicios se refuercen, a menudo sin querer. Un buen ejemplo de esto es el uso de la IA en la contratación y el reclutamiento: las alucinaciones de la IA pueden generar resultados sesgados que pueden afectar los esfuerzos de diversidad, igualdad e inclusión de la organización.
Cuáles son algunos ejemplos típicos de alucinaciones con IA?
Evitar las alucinaciones de la IA está demostrando ser una tarea desafiante para todos en la industria. Y no solo sucede con operaciones más pequeñas que no tienen la experiencia y los recursos. Estos tres ejemplos de alucinaciones de IA demuestran que les están sucediendo a algunos de los jugadores tecnológicos más importantes del mundo:
Meta AI y el intento de asesinato de Donald Trump
A raíz del intento de asesinato contra el entonces candidato presidencial Donald Trump en julio de 2024, la IA de Meta El chatbot inicialmente se negó a responder cualquier pregunta sobre el incidente y luego afirmó que el incidente nunca sucedió. El problema llevó a Meta a ajustar los algoritmos de su herramienta de inteligencia artificial, pero generó reclamos públicos de sesgo y la censura de puntos de vista conservadores.
La alucinación de ChatGPT y la investigación legal falsa
En 2023, un hombre en Colombia presentó una demanda por lesiones personales contra una aerolínea. Sus abogados utilizaron la herramienta líder de inteligencia artificial ChatGPT por primera vez para compilar su caso y preparar presentaciones legales. Sin embargo, a pesar de las garantías de ChatGPT de que los seis casos de precedentes legales que encontró eran reales, ninguno de ellos existió.
Se informó que Sydney de Microsoft se enamora de los usuarios
Sydney, el chatbot impulsado por IA de Microsoft, le dijo a un columnista de tecnología en el New York Times que lo amaba y que debería dejar a su esposa para estar con él. En el transcurso de dos horas, Kevin Roose dijo que Sydney compartió con él algunas "fantasías oscuras" sobre la difusión de información errónea de IA y convertirse en humano.
Qué se puede hacer para minimizar el riesgo de alucinaciones con IA?
Dada la importancia de evitar el riesgo de una alucinación de IA, depende de las personas que usan los modelos de IA tomar todas las medidas prácticas que puedan para mitigar cualquiera de las circunstancias que pueden generar problemas. Recomendamos lo siguiente:
Asegúrese de que el modelo de IA tenga un propósito claro
Dado que el uso de la IA se ha expandido en los últimos años, un error común es que las organizaciones usen modelos de IA por el simple hecho de usarlos, sin tener en cuenta el resultado que tienen buscando. Definir claramente el objetivo general de usar un modelo de IA puede garantizar que los resultados estén enfocados y evitar el riesgo de una alucinación de IA a través de un enfoque y datos que son demasiado generales.
Mejorar la calidad de los datos de entrenamiento
Cuanto mejor sea la calidad de los datos que entran en un modelo de IA, mejor será la calidad de los resultados que se obtendrán de él. Un buen modelo de IA se basará en datos relevantes, libres de sesgos, bien estructurados y a los que se les haya filtrado cualquier 'ruido de datos' extraño. Esto es esencial para asegurarse de que los resultados generados sean precisos, en el contexto correcto y no presenten más problemas.
Crear y usar plantillas de datos
Una buena forma de asegurarse de que los resultados de un modelo de IA estén estrechamente alineados con el propósito previsto es usar plantillas para los datos que se ingresan en ellos. Esto garantiza que cada vez que se utiliza un modelo de IA, se acostumbra a que los datos se proporcionen de la misma manera y puede ofrecer resultados consistentes y precisos en el contexto correcto.
Limitar la gama de respuestas y resultados
Poner más restricciones en un modelo de IA puede ayudar a reducir los resultados potenciales hacia los que se necesitan. Aquí es donde entran en juego las herramientas de filtrado y los umbrales, lo que brinda a los modelos de IA algunos límites muy necesarios para mantener su análisis y generación consistentemente en el camino correcto.
Probar y mejorar continuamente el modelo
Así como la mejora continua es vital para un buen desarrollo de software en un mundo en constante cambio, lo mismo ocurre con un buen modelo de IA. Por lo tanto, todos los modelos de IA deben probarse y perfeccionarse regularmente para que puedan volver a calibrarse a la evolución de los datos, los requisitos y la información contextual disponible.
Establezca controles y equilibrios humanos
La IA aún no es infalible hasta el punto de que se pueda confiar en que operará de manera completamente autónoma, por lo que es esencial asegurarse de que haya al menos alguna supervisión humana. Hacer que una persona verifique la salida de AI puede identificar cualquier alucinación de AI que haya tenido lugar y garantizar que la salida sea precisa y adecuada para los requisitos establecidos.
Refuerce su provisión de ciberseguridad
Si una alucinación de IA corre el riesgo de introducir vulnerabilidades de ciberseguridad, esta es una buena razón para garantizar que se implemente la mejor solución de ciberseguridad posible. Kaspersky Plus Internet Security incluye un análisis antivirus en tiempo real de manera estándar para que cualquier amenaza de seguridad introducida debido a alucinaciones de IA se aborde y elimine antes de que pueda tener efectos adversos.
Artículos relacionados:
