{"id":11221,"date":"2017-08-31T09:46:13","date_gmt":"2017-08-31T15:46:13","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=11221"},"modified":"2017-11-07T12:11:45","modified_gmt":"2017-11-07T18:11:45","slug":"ai-fails","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/ai-fails\/11221\/","title":{"rendered":"Por qu\u00e9 no basta con el aprendizaje autom\u00e1tico"},"content":{"rendered":"<p>Cada d\u00eda que pasa, las tecnolog\u00edas conectadas invaden nuestras vidas m\u00e1s y m\u00e1s. Puede que no nos demos cuenta de lo normal que se ha vuelto pedirle a Siri, Alexa o Google que interprete nuestra experiencia humana o que esperemos que nuestros coches respondan a las normas de tr\u00e1fico lo bastante r\u00e1pido para no tener un accidente. A algunos a\u00fan nos preocupan tecnolog\u00edas como la de las c\u00e1maras de vigilancia que usan sus im\u00e1genes con <i>software<\/i> de reconocimiento facial, pero eso a muchos no les importa.<\/p>\n<p><img decoding=\"async\" class=\"alignleft size-full wp-image-14277\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04125047\/machine-learning-fails-featured.jpg\" alt=\"\" width=\"1460\" height=\"960\"><\/p>\n<p>Hoy por hoy, es f\u00e1cil re\u00edrse de los fallos de la IA (Inteligencia Artificial) porque, a fin de cuentas, tienen gracia (solo hay que olvidarse de las posibles consecuencias fatales). Pero creemos que a medida que los dispositivos sigan adelante y el <i>malware<\/i> contin\u00fae evolucionando, eso cambiar\u00e1. Veamos algunos incidentes causados por fallos de la IA.<\/p>\n<h2>La debacle de las casas de mu\u00f1ecas<\/h2>\n<p>Este es un ejemplo cl\u00e1sico: A principios de a\u00f1o, en el telediario se habl\u00f3 de una reacci\u00f3n en cadena que sucedi\u00f3 en California. Se trataba de un accidente de IA basado en otro accidente de IA. Lo que sucedi\u00f3 fue que la noticia de que un Amazon Echo compr\u00f3 por error una casa de mu\u00f1ecas provoc\u00f3 que un mont\u00f3n de Amazon Echos (que escuchaban todo atentamente, como de costumbre, sin distinguir la voz de su due\u00f1o de otras voces) compraran por error un mont\u00f3n de casas de mu\u00f1ecas.<\/p>\n<ul>\n<li><a href=\"https:\/\/latam.kaspersky.com\/blog\/voice-recognition-threats\/8963\/\" target=\"_blank\" rel=\"noopener\">Lee m\u00e1s sobre Amazon Echo y las mu\u00f1ecas<\/a>.<\/li>\n<\/ul>\n<h3>El anuncio de comida r\u00e1pida<\/h3>\n<p>Burger King intent\u00f3 usar el mismo bug mediante sus anuncios y, en cierto sentido, lo logr\u00f3. El verdadero problema fue un fallo para anticipar el comportamiento humano: usaron un comando para que Google Home iniciara una b\u00fasqueda en Wikipedia sobre la famosa hamburguesa Whopper, pero la cadena de comida r\u00e1pida no anticip\u00f3 que los usuarios modificar\u00edan la entrada y eso es justo lo que muchos\u00a0hicieron. <a href=\"http:\/\/www.npr.org\/sections\/thetwo-way\/2017\/04\/13\/523740193\/ok-google-burger-king-hijacked-your-speakers-and-failed-pretty-quickly\" target=\"_blank\" rel=\"noopener nofollow\">Y lo consigui\u00f3<\/a>.<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/n5lj63-nc5g?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<h3>La confusi\u00f3n de Cortana<\/h3>\n<p>No podemos hablar solo del asistente de Microsoft, pues el de Apple, Siri, tambi\u00e9n tiene su hilo de fallos en Reddit, pero el de Google ha acumulado muchos errores graciosos (y lo son a\u00fan m\u00e1s si suceden frente a una multitud). Con este, parece ser que Cortana no comprende un acento no americano (o puede que la r\u00e1pida y natural manera de hablar le sacara de quicio).<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/DDqrfCmIPxI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<h3>Enga\u00f1ando al reconocimiento facial<\/h3>\n<p>A tus amigos puede que no les enga\u00f1e un par de lentes, pero un equipo de investigadores de la universidad Carnegie Mellon demostraron que cambiar esa peque\u00f1a parte de ti es suficiente para que, a los ojos de la m\u00e1quina, seas una persona diferente. Lo mejor es que los investigadores pudieron no solo eludir el reconocimiento facial, sino tambi\u00e9n imitar a una persona en concreto al imprimir algunos patrones sobre el marco de las gafas.<\/p>\n<div id=\"attachment_14278\" style=\"width: 1074px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-14278\" class=\"wp-image-14278 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04125648\/1064.jpg\" alt=\"\" width=\"1064\" height=\"638\"><p id=\"caption-attachment-14278\" class=\"wp-caption-text\">Los investigadores lograron hacerse pasar por famosos.<\/p><\/div>\n<ul>\n<li><a href=\"https:\/\/www.theguardian.com\/technology\/2016\/nov\/03\/how-funky-tortoiseshell-glasses-can-beat-facial-recognition\" target=\"_blank\" rel=\"noopener nofollow\">The Guardian<\/a> lo explica con m\u00e1s detalle.<\/li>\n<li>Y <a href=\"https:\/\/www.cs.cmu.edu\/~sbhagava\/papers\/face-rec-ccs16.pdf\" target=\"_blank\" rel=\"noopener nofollow\">esta es la investigaci\u00f3n original<\/a>.<\/li>\n<\/ul>\n<h3>El contratiempo con las se\u00f1ales de tr\u00e1fico<\/h3>\n<p>\u00bfY qu\u00e9 hay del reconocimiento de las se\u00f1ales de tr\u00e1fico por parte de los coches aut\u00f3nomos? \u00bfEs mejor que el reconocimiento facial? Pues\u2026 no. Otro grupo de investigadores demostr\u00f3 que el reconocimiento de se\u00f1ales tambi\u00e9n puede fallar. Los peque\u00f1os cambios que una persona ignorar\u00eda hicieron que el sistema de aprendizaje autom\u00e1tico clasificara por error la se\u00f1al de \u201cSTOP\u201d por la de \u201cl\u00edmite de velocidad a 45\u201d. Y no se trat\u00f3 solo de un error aleatorio, sino que sucedi\u00f3 el 100 % de las condiciones de la prueba.<\/p>\n<div id=\"attachment_14279\" style=\"width: 1260px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-14279\" class=\"wp-image-14279 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04125857\/Road-Signs.jpg\" alt=\"\" width=\"1250\" height=\"455\"><p id=\"caption-attachment-14279\" class=\"wp-caption-text\">La maquina reconoci\u00f3 tres de estas im\u00e1genes retocadas como \u201cl\u00edmite de velocidad a 45\u201d y la \u00faltima como \u201cStop\u201d.<\/p><\/div>\n<ul>\n<li>Para saber m\u00e1s <a href=\"https:\/\/www.bleepingcomputer.com\/news\/security\/you-can-trick-self-driving-cars-by-defacing-street-signs\/\" target=\"_blank\" rel=\"noopener nofollow\">sobre fallos de reconocimiento de se\u00f1ales de tr\u00e1fico<\/a>.<\/li>\n<li>Aqu\u00ed el <a href=\"https:\/\/blog.openai.com\/adversarial-example-research\/\" target=\"_blank\" rel=\"noopener nofollow\">art\u00edculo de la investigaci\u00f3n<\/a>.<\/li>\n<\/ul>\n<h3>El panda invisible<\/h3>\n<p>\u00bfCu\u00e1nto hay que alterar la informaci\u00f3n de entrada para enga\u00f1ar al aprendizaje autom\u00e1tico? Te sorprender\u00eda lo sutil que puede llegar a ser este cambio. Para el ojo humano, no hay diferencia entre las dos im\u00e1genes siguientes, mientras que una m\u00e1quina estaba del todo segura de que eran objetos completamente diferentes (un panda y un gib\u00f3n, respectivamente). Curiosamente, la m\u00e1quina reconoc\u00eda el ruido que se a\u00f1adi\u00f3 a la foto como nematodo.<\/p>\n<p><img decoding=\"async\" class=\"size-full wp-image-14280 aligncenter\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/88\/2017\/09\/04130250\/invidible-panda.png\" alt=\"\" width=\"1600\" height=\"520\"><\/p>\n<ul>\n<li>Este es un <a href=\"https:\/\/blog.openai.com\/adversarial-example-research\/\" target=\"_blank\" rel=\"noopener nofollow\">art\u00edculo m\u00e1s detallado al respecto<\/a>.<\/li>\n<li>Y, por supuesto, <a href=\"https:\/\/arxiv.org\/pdf\/1412.6572.pdf\" target=\"_blank\" rel=\"noopener nofollow\">la investigaci\u00f3n<\/a>.<\/li>\n<\/ul>\n<h3>La terrible Tay<\/h3>\n<p>El <i>chatbot<\/i> experimental de Microsoft, una IA llamada Tay.ai, en teor\u00eda ten\u00eda que imitar a una adolescente y aprender de sus interacciones con las redes sociales. Pero result\u00f3 que los humanos somos monstruos y Tay se convirti\u00f3 en una nazi. La IA puede crecer, pero su calidad y caracter\u00edsticas dependen de los humanos.<\/p>\n<ul>\n<li><a href=\"http:\/\/www.techrepublic.com\/article\/why-microsofts-tay-ai-bot-went-wrong\/\" target=\"_blank\" rel=\"noopener nofollow\">Lee m\u00e1s<\/a> sobre Tay y sus desventuras.<\/li>\n<\/ul>\n<p>El mayor error hasta la fecha, y puede que el m\u00e1s conocido, viene de Tesla, pero no podemos culpar al sistema, ya que, a pesar de llamarse piloto autom\u00e1tico, este no debe tener el control total de la conducci\u00f3n. La investigaci\u00f3n revel\u00f3 que el conductor no actu\u00f3 correctamente al ignorar las advertencias como las de mantener las manos puestas en el volante o la de que se estaba superando el l\u00edmite de velocidad permitido. Adem\u00e1s, no actu\u00f3 durante <a href=\"https:\/\/www.extremetech.com\/extreme\/251299-dead-tesla-driver-wasnt-watching-dvd-wasnt-paying-attention-either\" target=\"_blank\" rel=\"noopener nofollow\">los m\u00e1s de 7 segundos<\/a> en los que el cami\u00f3n que le mat\u00f3 fue visible.<\/p>\n<p>Puede que un piloto autom\u00e1tico hubiera podido evitar el accidente, pero, a estas alturas, lo que sabemos en realidad es que no excedi\u00f3 sus par\u00e1metros, y eso es algo que esperamos que no haga un <i>software<\/i>.<\/p>\n<p>Por \u00faltimo, aunque usemos aprendizaje autom\u00e1tico, cuyo <i>software<\/i> se vuelve m\u00e1s inteligente con la experiencia, la inteligencia artificial nunca ser\u00e1 como la inteligencia humana. Las m\u00e1quinas son r\u00e1pidas, coherentes e incansables, lo que complementa a la intuici\u00f3n e inteligencia humanas.<\/p>\n<p>Por ello, nuestro planteamiento, al que llamamos <a href=\"https:\/\/www.kaspersky.com\/true-cybersecurity\" target=\"_blank\" rel=\"noopener nofollow\">HuMachine<\/a>, tiene lo mejor de ambos mundos: la rapidez y exactitud de la inteligencia artificial de una programaci\u00f3n avanzada incrementada por la experiencia de los profesionales de la ciberseguridad que luchan contra el <i>malware<\/i> y protegen a los usuarios, a las empresas y a las infraestructuras de sistemas para que funcionen a salvo.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>\u00bfArtificial? Mucho. \u00bfInteligente? Opina t\u00fa mismo.<\/p>\n","protected":false},"author":2045,"featured_media":11222,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[3144,2738],"tags":[2797,3064,1861],"class_list":{"0":"post-11221","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-special-projects","8":"category-technology","9":"tag-aprendizaje-automatico","10":"tag-humachine","11":"tag-inteligencia-artificial"},"hreflang":[{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/ai-fails\/11221\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/ai-fails\/11163\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/ai-fails\/12535\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/ai-fails\/14276\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/ai-fails\/14182\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/ai-fails\/18678\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/ai-fails\/18318\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/ai-fails\/7313\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/ai-fails\/14540\/"},{"hreflang":"zh","url":"https:\/\/www.kaspersky.com.cn\/blog\/ai-fails\/8378\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/ai-fails\/17733\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/ai-fails\/17782\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/ai-fails\/17762\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/latam.kaspersky.com\/blog\/tag\/aprendizaje-automatico\/","name":"Aprendizaje autom\u00e1tico"},"_links":{"self":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/11221","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/users\/2045"}],"replies":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/comments?post=11221"}],"version-history":[{"count":2,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/11221\/revisions"}],"predecessor-version":[{"id":11228,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/11221\/revisions\/11228"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media\/11222"}],"wp:attachment":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media?parent=11221"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/categories?post=11221"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/tags?post=11221"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}