{"id":26061,"date":"2023-03-11T18:29:09","date_gmt":"2023-03-12T00:29:09","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=26061"},"modified":"2023-03-11T18:29:09","modified_gmt":"2023-03-12T00:29:09","slug":"chat-gpt-changes-all","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/chat-gpt-changes-all\/26061\/","title":{"rendered":"Saluda a nuestros se\u00f1ores de la IA"},"content":{"rendered":"<blockquote><p>Aviso: Esta es la opini\u00f3n personal del autor y no tiene por qu\u00e9 coincidir con la postura oficial de Kaspersky (la empresa).<\/p><\/blockquote>\n<p>Dejando a un lado los eventos geopol\u00edticos que definieron el 2022, a nivel tecnol\u00f3gico, podemos decir que ha sido el a\u00f1o de la IA. Hasta hace muy poco, cada vez que me preguntaban sobre la IA en la ciberseguridad, lo consideraba un <a href=\"https:\/\/es.wikipedia.org\/wiki\/Vaporware\" target=\"_blank\" rel=\"noopener nofollow\"><em>vaporware<\/em><\/a>. Siempre supe que el aprendizaje autom\u00e1tico ten\u00eda muchas aplicaciones en el mundo real; pero en el mundo de la seguridad de la informaci\u00f3n, la IA solo se hab\u00eda utilizado en los lanzamientos de los productos m\u00e1s vergonzosos. Para m\u00ed, \u201cimpulsado por IA\u201d era solo una forma elegante por parte de los proveedores de decir \u201cno tenemos una base de conocimiento o telemetr\u00eda, por lo que hemos ideado un par de heur\u00edsticas en su lugar\u201d. Sigo convencido de que, en m\u00e1s del 95 % de los casos, los productos resultantes conten\u00edan poca IA aut\u00e9ntica. Pero la cuesti\u00f3n es que, mientras los equipos de marketing estaban ocupados colocando calcoman\u00edas de \u201cIA\u201d en cualquier producto que involucrara algoritmo de <a href=\"https:\/\/es.wikipedia.org\/wiki\/K-medias\" target=\"_blank\" rel=\"noopener nofollow\">k-medias<\/a> como parte de su operaci\u00f3n, el campo real de la IA segu\u00eda progresando.<\/p>\n<p>El d\u00eda del juicio final lleg\u00f3 cuando prob\u00e9 por primera vez <a href=\"https:\/\/labs.openai.com\/\" target=\"_blank\" rel=\"noopener nofollow\">DALL-E 2<\/a> (y poco despu\u00e9s, <a href=\"https:\/\/www.midjourney.com\/\" target=\"_blank\" rel=\"noopener nofollow\">Midjourney<\/a>). Ambos proyectos te permiten generar im\u00e1genes basadas en descripciones de texto y ya han causado un gran revuelo en el mundo del arte.<\/p>\n<div id=\"attachment_26068\" style=\"width: 1930px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26068\" class=\"wp-image-26068 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11182515\/chat-gpt-changes-all-01.jpg\" alt=\"\" width=\"1920\" height=\"1280\"><p id=\"caption-attachment-26068\" class=\"wp-caption-text\">Este dise\u00f1o se genera con Midjourney usando el mensaje \u201cSaluda a nuestros nuevos se\u00f1ores de la IA\u201d.<\/p><\/div>\n<p>M\u00e1s tarde, en diciembre del a\u00f1o pasado, <a href=\"https:\/\/chat.openai.com\/chat\" target=\"_blank\" rel=\"noopener nofollow\">ChatGPT<\/a> arras\u00f3 en todo el mundo. En pocas palabras, ChatGPT es un chatbot. Supongo que la mayor\u00eda de la gente ya lo ha probado, pero si no lo has hecho, te sugiero encarecidamente que lo hagas. No se puede expresar con palabras cu\u00e1nto ha mejorado con respecto a proyectos anteriores. No basta con escucharlo, tienes que probarlo para hacerte una idea de todo lo que est\u00e1 por venir\u2026<\/p>\n<div id=\"attachment_26067\" style=\"width: 1634px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26067\" class=\"wp-image-26067 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11182127\/chat-gpt-changes-all-02.png\" alt=\"\" width=\"1624\" height=\"702\"><p id=\"caption-attachment-26067\" class=\"wp-caption-text\">ChatGPT habla por s\u00ed mismo.<\/p><\/div>\n<h2>Modelos de lenguaje<\/h2>\n<p>En palabras de Arthur C. Clarke, \u201ccualquier tecnolog\u00eda suficientemente avanzada es indistinguible de la magia\u201d. Me encanta c\u00f3mo la tecnolog\u00eda es capaz de generar esa sensaci\u00f3n de asombro en nuestras vidas, pero desafortunadamente este sentimiento se interpone cuando intentamos pensar en las implicaciones o l\u00edmites de un nuevo avance. Por ello, creo que primero debemos dedicar un tiempo a comprender c\u00f3mo funcionan estas tecnolog\u00edas en profundidad.<\/p>\n<p>Comencemos con ChatGPT, un modelo de lenguaje; es decir, una representaci\u00f3n de nuestro idioma. Como ocurre con muchos grandes proyectos de aprendizaje autom\u00e1tico, nadie sabe realmente c\u00f3mo funciona (ni siquiera OpenAI, sus creadores). Sabemos c\u00f3mo se cre\u00f3 el modelo, pero es demasiado complejo como para poder entenderlo formalmente. ChatGPT, considerado el modelo de lenguaje (\u00bfp\u00fablico?) m\u00e1s grande hasta la fecha, tiene m\u00e1s de 175 mil millones de par\u00e1metros. Para comprender lo que eso significa, imagina una m\u00e1quina gigante con 175 mil millones de botones modificables. Cada vez que env\u00edas un mensaje a ChatGPT, este se convierte en una configuraci\u00f3n para cada uno de esos botones. Y, por \u00faltimo, la m\u00e1quina produce un <em>output <\/em>(m\u00e1s texto) en funci\u00f3n de su posici\u00f3n. Tambi\u00e9n hay un elemento de aleatoriedad, para garantizar que la misma pregunta no siempre conduzca exactamente a la misma respuesta (pero esto tambi\u00e9n se puede modificar).<\/p>\n<p>Esta es la raz\u00f3n por la que percibimos estos modelos como cajas negras: aunque te pasaras toda la vida estudiando la m\u00e1quina, no queda claro si alguna vez pudieras acabar descubriendo el prop\u00f3sito de un solo bot\u00f3n (y mucho menos de todos). Aun as\u00ed, sabemos lo que hace la m\u00e1quina porque conocemos el proceso a trav\u00e9s del cual se ha generado. El modelo de lenguaje es un algoritmo que puede procesar texto y que se ha alimentado mucho durante la fase de entrenamiento: toda Wikipedia, p\u00e1ginas web, libros, etc. Esto permiti\u00f3 la creaci\u00f3n de un modelo estad\u00edstico que conoce la probabilidad de que una palabra siga a otra. Si recitamos a medias el famoso poema anglosaj\u00f3n \u201croses are red, violets are\u201d, puedes adivinar con un grado relativamente alto de confianza que la siguiente palabra ser\u00e1 \u201cblue\u201d. As\u00ed es, en pocas palabras, c\u00f3mo funciona cualquier modelo de lenguaje. Para este modelo, no hay ninguna diferencia entre terminar tu oraci\u00f3n o adivinar qu\u00e9 secuencia de palabras es probable que siga a tu pregunta en funci\u00f3n de todo lo que se ha le\u00eddo antes. En el caso de ChatGPT, en realidad hubo otro paso m\u00e1s, llamado <em>fine-tuning<\/em> supervisado. Los \u201centrenadores de IA\u201d humanos tuvieron muchas conversaciones con el bot en las que marcaban todas las respuestas consideradas problem\u00e1ticas (inexactas, tendenciosas, racistas, etc.) para que aprendiera a no repetirlas.<\/p>\n<div id=\"attachment_26066\" style=\"width: 820px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26066\" class=\"wp-image-26066 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11182030\/chat-gpt-changes-all-03.png\" alt=\"\" width=\"810\" height=\"332\"><p id=\"caption-attachment-26066\" class=\"wp-caption-text\">Roses are red, violets are\u2026 \u00bfRecuerdas c\u00f3mo sigue?<\/p><\/div>\n<p>Si no comprendes la IA, puedes pensar en ella como \u201cmatem\u00e1ticas\u201d o \u201cestad\u00edstica\u201d: el objetivo de estos modelos es la predicci\u00f3n. Cuando usamos ChatGPT, desarrollamos f\u00e1cilmente la sensaci\u00f3n de que la IA \u201csabe\u201d cosas, ya que puede devolver informaci\u00f3n contextualmente relevante y espec\u00edfica sobre el dominio a las consultas que recibe por primera vez. Pero lo cierto es que no entiende lo que significan ninguna de las palabras: solo es capaz de generar m\u00e1s texto que \u201cparece\u201d una continuaci\u00f3n natural de lo que ha recibido. Esto explica por qu\u00e9 ChatGPT puede presentar un argumento filos\u00f3fico complejo, pero a menudo tropieza con la aritm\u00e9tica b\u00e1sica: es m\u00e1s dif\u00edcil predecir el resultado del c\u00e1lculo que la siguiente palabra en una oraci\u00f3n.<\/p>\n<p>Adem\u00e1s, no tiene memoria: su formaci\u00f3n termin\u00f3 en el 2021 y el modelo se ha congelado. Las actualizaciones vienen en forma de nuevos modelos (por ejemplo, GPT-4 en el 2024) entrenados con nuevos datos. De hecho, ChatGPT ni siquiera recuerda las conversaciones que tienes con \u00e9l: el historial de chat reciente se puede enviar junto con cualquier texto nuevo que escribas para que el di\u00e1logo parezca m\u00e1s natural.<\/p>\n<p>En los pr\u00f3ximos a\u00f1os, ser\u00e1n los fil\u00f3sofos los encargados de debatir si podemos calificar esto como \u201cinteligencia\u201d y si es significativamente diferente de la inteligencia humana.<\/p>\n<h2>Modelos de difusi\u00f3n<\/h2>\n<p>Las herramientas de generaci\u00f3n de im\u00e1genes como Midjourney y DALL-E se basan en otra categor\u00eda de modelos. Su procedimiento de entrenamiento, obviamente, se centra en generar im\u00e1genes (o colecciones de p\u00edxeles) en lugar de texto. En realidad, se necesitan dos componentes para generar una imagen basada en una descripci\u00f3n de texto, y el primero es muy intuitivo. El modelo necesita una forma de asociar las palabras con informaci\u00f3n visual, por lo que se alimenta de colecciones de im\u00e1genes con subt\u00edtulos. Al igual que con ChatGPT, terminamos con una m\u00e1quina gigante e inescrutable experta en hacer coincidir im\u00e1genes con datos de texto. La m\u00e1quina no tiene ni idea de c\u00f3mo es Brad Pitt, pero si ha visto suficientes fotos de \u00e9l, sabe que todas comparten propiedades comunes. Y si alguien env\u00eda una nueva foto de Brad Pitt, el modelo podr\u00e1 reconocerlo y decir \u201cs\u00ed, es \u00e9l otra vez\u201d.<\/p>\n<p>La segunda parte, que me pareci\u00f3 m\u00e1s sorprendente, es la capacidad de mejorar las im\u00e1genes. Para ello utilizamos un \u201cmodelo de difusi\u00f3n\u201d entrenado con im\u00e1genes limpias a las que se les va a\u00f1adiendo ruido (visual) hasta volverlas irreconocibles. Esto permite que el modelo aprenda la correspondencia entre una imagen borrosa de baja calidad y su contraparte de mayor resoluci\u00f3n, nuevamente, a nivel estad\u00edstico, y recree una buena imagen a partir de la borrosa. Hay <a href=\"https:\/\/www.topazlabs.com\/\" target=\"_blank\" rel=\"noopener nofollow\">productos<\/a> impulsados \u200b\u200b\u200b\u200bpor IA que eliminan el ruido de fotos antiguas o aumentan su resoluci\u00f3n.<\/p>\n<div id=\"attachment_26065\" style=\"width: 1166px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26065\" class=\"wp-image-26065 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11181919\/chat-gpt-changes-all-04.png\" alt=\"\" width=\"1156\" height=\"200\"><p id=\"caption-attachment-26065\" class=\"wp-caption-text\">Un ejemplo de las im\u00e1genes de baja calidad utilizadas para entrenar los modelos de difusi\u00f3n con mi avatar de confianza.<\/p><\/div>\n<p>Al juntar todo, podemos sintetizar im\u00e1genes: comenzamos con el ruido aleatorio y lo \u201cmejoramos\u201d gradualmente mientras nos aseguramos de que contenga las caracter\u00edsticas que coinciden con la solicitud del usuario (puedes encontrar una descripci\u00f3n mucho m\u00e1s detallada sobre los entresijos de DALL-E <a href=\"https:\/\/www.assemblyai.com\/blog\/how-dall-e-2-actually-works\/\" target=\"_blank\" rel=\"noopener nofollow\">aqu\u00ed<\/a>).<\/p>\n<h2>Los problemas equivocados<\/h2>\n<p>La aparici\u00f3n de todas las herramientas mencionadas en este art\u00edculo gener\u00f3 una fuerte reacci\u00f3n p\u00fablica, algunas bastante negativas. A algunos usuarios les preocupa la irrupci\u00f3n abrupta de la IA en nuestras vidas, pero en mi opini\u00f3n, gran parte del debate actual se centra en los temas equivocados. A continuaci\u00f3n, abordemos estos primero, antes de pasar a lo que creo que deber\u00eda ser el n\u00facleo de la discusi\u00f3n en torno a la IA.<\/p>\n<h3>DALL-E y Midjourney est\u00e1n robando a los artistas<\/h3>\n<p>En algunas ocasiones, he visto c\u00f3mo otros usuarios describ\u00edan estas herramientas como programas que hacen mosaicos de im\u00e1genes que han visto antes y luego aplican una especie de filtros que les permiten imitar el estilo del artista solicitado. Cualquiera que haga esta afirmaci\u00f3n ignora las realidades t\u00e9cnicas de los modelos subyacentes o argumenta de mala fe.<\/p>\n<p>Como ya hemos explicado, este modelo es completamente incapaz de extraer im\u00e1genes o incluso formas simples de las im\u00e1genes con las que se entrena. Lo mejor que puede hacer es extraer caracter\u00edsticas matem\u00e1ticas.<\/p>\n<div id=\"attachment_26064\" style=\"width: 1344px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26064\" class=\"wp-image-26064 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11181731\/chat-gpt-changes-all-05.jpg\" alt=\"\" width=\"1334\" height=\"629\"><p id=\"caption-attachment-26064\" class=\"wp-caption-text\">A partir de donde la gente cree que empieza DALL-E (izquierda) vs. desde donde realmente empieza DALL-E (derecha).<\/p><\/div>\n<p>Es innegable que se han usado muchos trabajos con derechos de autor en la fase de entrenamiento sin el consentimiento expl\u00edcito de sus autores originales, y tal vez deber\u00edamos debatir sobre esto. Pero tambi\u00e9n vale la pena se\u00f1alar que los artistas humanos siguen exactamente el mismo proceso durante sus estudios: copian pinturas de los principales expertos y se inspiran en las obras de arte que encuentran. \u00bfY qu\u00e9 es la inspiraci\u00f3n, sino la capacidad de capturar la esencia de una obra de arte combinada con el impulso de volver a explorarla?<\/p>\n<p>DALL-E y Midjourney introducen un gran avance en el sentido de que, en teor\u00eda, pueden inspirarse de cada imagen producida en la historia humana (y, probablemente, de cualquiera que produzcan a partir de ahora), pero es un cambio de escala solamente, no de naturaleza.<\/p>\n<div id=\"attachment_26063\" style=\"width: 1010px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-26063\" class=\"wp-image-26063 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2023\/03\/11181635\/chat-gpt-changes-all-06.jpg\" alt=\"\" width=\"1000\" height=\"1170\"><p id=\"caption-attachment-26063\" class=\"wp-caption-text\">Pruebas de que Wolfang Amadeus Mozart rob\u00f3 el estilo de otros artistas durante su fase de formaci\u00f3n.<\/p><\/div>\n<h3>La IA hace las cosas demasiado f\u00e1ciles<\/h3>\n<p>Las cr\u00edticas tambi\u00e9n apuntan a que el arte deber\u00eda ser algo duro. Esta opini\u00f3n siempre me ha sorprendido, ya que el observador de una obra de arte generalmente desconoce cu\u00e1nto tiempo o esfuerzo le ha llevado al artista producirla. Pero esto no es nada nuevo: a\u00f1os despu\u00e9s del lanzamiento de Photoshop, varias personas siguen argumentando que <a href=\"https:\/\/medium.com\/art-direct\/is-digital-art-real-art-b3046f3ee7da\" target=\"_blank\" rel=\"noopener nofollow\">el arte digital no es aut\u00e9ntico arte<\/a> y dudan de que sus usuarios requieran habilidades gr\u00e1ficas, pero creo se est\u00e1n desviando del tema. \u00bfQu\u00e9 habilidades necesit\u00f3 Robert Rauschenberg para <a href=\"https:\/\/www.moma.org\/audio\/playlist\/40\/639\" target=\"_blank\" rel=\"noopener nofollow\">pintar de blanco un lienzo<\/a>? \u00bfCu\u00e1nta pr\u00e1ctica musical necesitas antes de poder interpretar el famoso <a href=\"https:\/\/www.youtube.com\/watch?v=JTEFKFiXSx4\" target=\"_blank\" rel=\"noopener nofollow\">4\u201933\u201d<\/a> de John Cage?<\/p>\n<p>Incluso aunque tuvi\u00e9ramos que introducir la habilidad como un criterio del arte, \u00bfd\u00f3nde trazar\u00edamos la l\u00ednea? \u00bfCu\u00e1nto esfuerzo es suficiente? Cuando se invent\u00f3 la fotograf\u00eda, Charles Baudelaire la llam\u00f3 \u201cel refugio de todo aspirante a pintor, de todo pintor demasiado mal dotado o demasiado vago para completar sus estudios\u201d (y no era el \u00fanico que lo pensaba). Resulta que estaba equivocado.<\/p>\n<h3>ChatGPT ayuda a los ciberdelincuentes<\/h3>\n<p>Con el auge de la IA, vamos a ver una ganancia de productividad en todos los \u00e1mbitos. De hecho, en estos momentos, varios medios de comunicaci\u00f3n y proveedores est\u00e1n haciendo todo lo posible para aprovechar el auge de ChatGPT, lo que conduce al <em>clickbait<\/em> m\u00e1s vergonzoso de la historia reciente. Como ya publicamos en otro art\u00edculo, ChatGPT puede <a href=\"https:\/\/latam.kaspersky.com\/blog\/chatgpt-cybersecurity\/25817\/\" target=\"_blank\" rel=\"noopener\">ayudar a los delincuentes a redactar correos electr\u00f3nicos de phishing o escribir c\u00f3digo malicioso<\/a>, pero ninguno de estos es un factor determinante. Las personas familiarizadas con la existencia de GitHub saben que la disponibilidad de malware no es un problema para los actores maliciosos y cualquier persona preocupada por acelerar el desarrollo deber\u00eda haber planteado ya estas preocupaciones cuando se lanz\u00f3 <a href=\"https:\/\/github.com\/features\/copilot\" target=\"_blank\" rel=\"noopener nofollow\">Copilot<\/a>.<\/p>\n<p>Me he dado cuenta de que es una tonter\u00eda desacreditar todo un frenes\u00ed medi\u00e1tico nacido de una serie de consideraciones econ\u00f3micas en lugar de preocupaciones reales, pero lo cierto es que la IA tendr\u00e1 un tremendo impacto en nuestras vidas y s\u00ed hay una serie de problemas reales que abordar. Todo este ruido solo se interpone en el camino.<\/p>\n<h2>No hay vuelta atr\u00e1s<\/h2>\n<p>Independientemente de lo que pienses acerca de todas las herramientas impulsadas por la IA que se han lanzado en el 2022, ten en cuenta que vendr\u00e1n a\u00fan m\u00e1s. Si crees que este campo se regular\u00e1 antes de que se salga de control, pi\u00e9nsalo bien: la respuesta pol\u00edtica que he presenciado hasta ahora ha estado formada en su mayor\u00eda por gobiernos que decidieron asignar m\u00e1s fondos a la investigaci\u00f3n de la IA mientras pudieron subirse al carro. Nadie del poder tiene inter\u00e9s en frenar esto.<\/p>\n<h2>La cuarta revoluci\u00f3n industrial<\/h2>\n<p>La IA conducir\u00e1, aunque probablemente ya lo haya hecho, a un ahorro de productividad; si ser\u00e1 o no masivo, todav\u00eda es complicado de vislumbrar. Si tu trabajo consiste en producir textos con cierto grado de inspiraci\u00f3n, deber\u00edas preocuparte. Al igual que si eres un dise\u00f1ador que trabaja por encargo: siempre habr\u00e1 clientes que quieran el toque humano, pero la mayor\u00eda optar\u00e1 por la opci\u00f3n m\u00e1s econ\u00f3mica. Y eso no es todo: <a href=\"https:\/\/github.com\/JusticeRage\/Gepetto\" target=\"_blank\" rel=\"noopener nofollow\">expertos en ingenier\u00eda inversa<\/a>, <a href=\"https:\/\/medium.com\/illumination\/chat-gtp-4-could-pass-the-bar-exam-a738f40a31dc\" target=\"_blank\" rel=\"noopener nofollow\">abogados<\/a>, <a href=\"https:\/\/the-decoder.com\/ai-in-education-chatgpt-is-just-the-beginning\/\" target=\"_blank\" rel=\"noopener nofollow\">maestros<\/a>, <a href=\"https:\/\/www.nature.com\/articles\/s41591-020-01197-2\" target=\"_blank\" rel=\"noopener nofollow\">m\u00e9dicos<\/a> y muchos m\u00e1s deben esperar que sus trabajos cambien por completo.<\/p>\n<p>Una cosa que debes tener en cuenta es que ChatGPT es un chatbot de prop\u00f3sito general. En los pr\u00f3ximos a\u00f1os, surgir\u00e1n modelos especializados que superar\u00e1n a ChatGPT en casos de uso espec\u00edficos. En otras palabras, si ChatGPT no puede hacer tu trabajo ahora, es probable que un nuevo producto de IA lanzado en los pr\u00f3ximos cinco a\u00f1os lo haga. La IA se encargar\u00e1 de supervisar todos nuestros trabajos y se asegurar\u00e1 de que tu <em>output<\/em> sea correcto en lugar de hacerlo nosotros mismos.<\/p>\n<p>Es posible que la IA toque techo y no siga progresando, pero despu\u00e9s de equivocarme varias veces, he aprendido a no apostar en contra de este campo. \u00bfLa IA cambiar\u00e1 el mundo tanto como lo hizo la m\u00e1quina de vapor? Esperemos que no, dado que los cambios en los medios de producci\u00f3n cambian la estructura de la sociedad humana, y esto nunca ocurre pac\u00edficamente.<\/p>\n<h3>Sesgo y propiedad de la IA<\/h3>\n<p>Se ha hablado tanto sobre <a href=\"https:\/\/levity.ai\/blog\/ai-bias-how-to-avoid\" target=\"_blank\" rel=\"noopener nofollow\">los sesgos en las herramientas de IA<\/a> que no me apetece volver a sacar el tema. Otro mucho m\u00e1s interesante es la forma en la que OpenAI combate estos sesgos. Como se ha mencionado anteriormente, ChatGPT pasa por una fase de aprendizaje supervisado en la que el modelo de lenguaje b\u00e1sicamente aprende a no ser intolerante. Y, si bien se trata de una caracter\u00edstica deseable, resulta imposible no percibir que este proceso ense\u00f1a un nuevo sesgo al chatbot. Las condiciones de esta fase de ajuste no est\u00e1n claras: \u00bfqui\u00e9nes son los h\u00e9roes an\u00f3nimos que marcan las respuestas como \u201cmalas\u201d? \u00bfTrabajadores mal pagados en pa\u00edses del tercer mundo o ingenieros de Silicon Valley? (Spoiler: son <a href=\"https:\/\/time.com\/6247678\/openai-chatgpt-kenya-workers\/\" target=\"_blank\" rel=\"noopener nofollow\">los primero<\/a>s).<\/p>\n<p>Tambi\u00e9n vale la pena recordar que los productos de IA no se utilizar\u00e1n para el bien com\u00fan. Los diversos productos dise\u00f1ados en este momento son propiedad de empresas que siempre estar\u00e1n impulsadas, ante todo, por las ganancias que pueden o no coincidir con los mejores intereses de la humanidad. Al igual que un cambio en los resultados de b\u00fasqueda de Google tiene un <a href=\"https:\/\/www.science.org\/content\/article\/could-google-influence-presidential-election\" target=\"_blank\" rel=\"noopener nofollow\">efecto medible<\/a> en las personas, los acompa\u00f1antes o asesores de IA tendr\u00e1n la capacidad de influir en los usuarios de forma sutil.<\/p>\n<h3>\u00bfY ahora qu\u00e9?<\/h3>\n<p>Dado que la pregunta ya no parece ser si la IA llegar\u00e1 a nuestras vidas sino cu\u00e1ndo, al menos deber\u00edamos discutir c\u00f3mo podemos prepararnos para ella.<\/p>\n<p>Deber\u00edamos tener mucho cuidado con ChatGPT (o cualquiera de sus descendientes) cuando est\u00e9 en una posici\u00f3n en la que tome decisiones sin supervisi\u00f3n: a la hora de mostrar confianza, ChatGPT es todo un experto, pero aun as\u00ed se equivoca en muchos datos. Sin embargo, habr\u00e1 grandes incentivos para reducir costes y sacar a los humanos del c\u00edrculo.<\/p>\n<p>Tambi\u00e9n predigo que, durante la pr\u00f3xima d\u00e9cada, la mayor\u00eda del contenido disponible online (primero texto e im\u00e1genes, luego v\u00eddeos y videojuegos) se producir\u00e1 con IA. No creo que debamos confiar demasiado en que la alerta autom\u00e1tica de dicho contenido funcione de manera fiable; solo tendremos que seguir siendo cr\u00edticos con lo que leemos online y atravesar diez veces m\u00e1s ruido. Sobre todo, debemos tener cuidado con los modelos especializados que se nos presentan. \u00bfQu\u00e9 sucede cuando una de las Big Four entrena a un modelo con el c\u00f3digo fiscal y comienza a preguntar sobre vac\u00edos legales? \u00bfQu\u00e9 sucede cuando alguien del ej\u00e9rcito juega con ChatGPT y dice: \u201cs\u00ed, quiero algo de eso en mis drones\u201d?<\/p>\n<p>La IA ser\u00e1 incre\u00edble: se har\u00e1 cargo de muchas tareas aburridas, traer\u00e1 nuevas habilidades al alcance de todos e iniciar\u00e1 formas de arte completamente nuevas (s\u00ed). Pero tambi\u00e9n ser\u00e1 terrible. Si la historia sirve de indicativo, conducir\u00e1 a una mayor concentraci\u00f3n de poder y nos dirigir\u00e1 m\u00e1s a\u00fan al camino del <a href=\"https:\/\/nymag.com\/intelligencer\/2022\/10\/what-is-technofeudalism.html\" target=\"_blank\" rel=\"noopener nofollow\">tecnofeudalismo<\/a>. Cambiar\u00e1 la forma en que se organiza el trabajo y tal vez incluso nuestra relaci\u00f3n con los conocimientos de la humanidad. No vamos a tener voz ni voto.<\/p>\n<p>La caja de Pandora ya est\u00e1 abierta.<\/p>\n<input type=\"hidden\" class=\"category_for_banner\" value=\"premium-geek\">\n","protected":false},"excerpt":{"rendered":"<p>La IA tendr\u00e1 un tremendo impacto en nuestras vidas. \u00bfC\u00f3mo podemos prepararnos para ello?<\/p>\n","protected":false},"author":2658,"featured_media":26062,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2738],"tags":[5848,5867,2018,1861,5866,192],"class_list":{"0":"post-26061","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-technology","8":"tag-chatgpt","9":"tag-dall-e-2","10":"tag-ia","11":"tag-inteligencia-artificial","12":"tag-midjourney","13":"tag-tecnologia"},"hreflang":[{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/chat-gpt-changes-all\/26061\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/chat-gpt-changes-all\/25330\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/chat-gpt-changes-all\/20777\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/chat-gpt-changes-all\/27948\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/chat-gpt-changes-all\/25629\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/chat-gpt-changes-all\/28504\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/chat-gpt-changes-all\/34787\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/chat-gpt-changes-all\/47405\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/chat-gpt-changes-all\/20275\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/chat-gpt-changes-all\/20906\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/chat-gpt-changes-all\/29877\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/chat-gpt-changes-all\/33489\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/chat-gpt-changes-all\/25943\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/chat-gpt-changes-all\/31651\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/chat-gpt-changes-all\/31358\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/latam.kaspersky.com\/blog\/tag\/inteligencia-artificial\/","name":"inteligencia artificial"},"_links":{"self":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/26061","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/users\/2658"}],"replies":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/comments?post=26061"}],"version-history":[{"count":1,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/26061\/revisions"}],"predecessor-version":[{"id":26069,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/26061\/revisions\/26069"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media\/26062"}],"wp:attachment":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media?parent=26061"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/categories?post=26061"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/tags?post=26061"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}