{"id":22002,"date":"2021-05-27T08:49:02","date_gmt":"2021-05-27T14:49:02","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=22002"},"modified":"2022-03-28T05:42:46","modified_gmt":"2022-03-28T11:42:46","slug":"rsa2021-tesla-mobileye-perception-gap","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/","title":{"rendered":"&#8220;Fantasmas&#8221; enga\u00f1an a pilotos autom\u00e1ticos de Tesla y Mobileye"},"content":{"rendered":"<p>Es una trama com\u00fan de pel\u00edcula: el personaje principal cree haber visto a alguien cruzar la calle, as\u00ed que vira y termina en una zanja. Ahora imagina que es real, o casi, y en lugar de que sea un truco de luz o de la mente, la imagen viene de un cibercriminal que proyecta, durante un microsegundo, algo que el piloto autom\u00e1tico del veh\u00edculo est\u00e1 programado para responder. Los investigadores del Instituto de Tecnolog\u00eda de Georgia y la Universidad Ben-Guri\u00f3n del N\u00e9guev <a href=\"https:\/\/www.rsaconference.com\/library\/Presentation\/USA\/2021\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">demostraron<\/a> este tipo de amenaza mediante un \u201cataque fantasma\u201d en la <a href=\"https:\/\/latam.kaspersky.com\/blog\/tag\/rsac\/\" target=\"_blank\" rel=\"noopener\">Conferencia RSA 2021<\/a>.<\/p>\n<p>La idea de mostrar im\u00e1genes peligrosas a los sistemas de inteligencia artificial (IA) no es nueva. En general, las t\u00e9cnicas involucran el uso de <a href=\"https:\/\/latam.kaspersky.com\/blog\/machine-learning-nine-challenges\/13334\/\" target=\"_blank\" rel=\"noopener\">im\u00e1genes modificadas<\/a> para obligar a la IA a sacar una conclusi\u00f3n inesperada. Todos los algoritmos de aprendizaje autom\u00e1tico tienen este tend\u00f3n de Aquiles. Saber qu\u00e9 atributos son clave para el reconocimiento de im\u00e1genes, es decir, saber un poco sobre el algoritmo, posibilita modificar las im\u00e1genes para entorpecer el proceso de toma de decisiones de la m\u00e1quina o incluso obligarla a cometer un error.<\/p>\n<p>La novedad del enfoque demostrado en la Conferencia RSA 2021 es que se le mostraron im\u00e1genes sin modificar al piloto autom\u00e1tico; no es necesario que el atacante sepa c\u00f3mo funciona el algoritmo o qu\u00e9 atributos utiliza. Las im\u00e1genes se proyectaron por poco tiempo sobre el camino y en objetos inm\u00f3viles cercanos y tuvieron las siguientes consecuencias.<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/1cSw4fXYqWI?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>En una variaci\u00f3n del tema, las im\u00e1genes aparecieron durante una fracci\u00f3n de segundo en un espectacular a lado del camino, y tuvieron, en esencia, el mismo resultado.<\/p>\n<p><span class=\"embed-youtube\" style=\"text-align:center; display: block;\"><iframe class=\"youtube-player\" type=\"text\/html\" width=\"640\" height=\"390\" src=\"https:\/\/www.youtube.com\/embed\/-E0t_s6bT_4?version=3&amp;rel=1&amp;fs=1&amp;showsearch=0&amp;showinfo=1&amp;iv_load_policy=1&amp;wmode=transparent\" frameborder=\"0\" allowfullscreen=\"true\"><\/iframe><\/span><\/p>\n<p>Por lo tanto, los autores del estudio concluyeron que los cibercriminales pueden causar estragos desde una distancia segura, sin el riesgo de dejar evidencia en la escena del crimen. Lo \u00fanico que necesitan saber es por cu\u00e1nto tiempo tienen que proyectar la imagen para enga\u00f1ar a la IA (los veh\u00edculos aut\u00f3nomos tienen un umbral de activaci\u00f3n para reducir su probabilidad de producir falsos positivos debidos a, por ejemplo, tierra o escombros en el lente de la c\u00e1mara o lidar).<\/p>\n<p>Ahora, la distancia de frenado se mide en docenas de pies, de manera que a\u00f1adir unos cuantos pies para mejorar la evaluaci\u00f3n de la situaci\u00f3n no fue gran cosa para los desarrolladores de la IA.<\/p>\n<p>\u00a0<\/p>\n<p>\u00a0<\/p>\n<p>\u00a0<\/p>\n<p>\u00a0<\/p>\n<div id=\"attachment_22006\" style=\"width: 1810px\" class=\"wp-caption aligncenter\"><img decoding=\"async\" aria-describedby=\"caption-attachment-22006\" class=\"wp-image-22006 size-full\" src=\"https:\/\/media.kasperskydaily.com\/wp-content\/uploads\/sites\/87\/2021\/05\/26142944\/rsa2021-tesla-mobileye-perception-gap-chart.png\" alt=\"Tiempo de reacci\u00f3n de los sistemas de reconocimiento de Tesla y Mobileye ante una imagen fantasma\" width=\"1800\" height=\"1400\"><p id=\"caption-attachment-22006\" class=\"wp-caption-text\">Tiempo de duraci\u00f3n necesario para mostrar una imagen fantasma a los sistemas de reconocimiento de Tesla y Mobileye. <a href=\"https:\/\/www.rsaconference.com\/library\/Presentation\/USA\/2021\/securing-tesla-and-mobileye-from-splitsecond-phantom-attacks\" target=\"_blank\" rel=\"noopener nofollow\">Fuente<\/a><\/p><\/div>\n<p>\u00a0<\/p>\n<p>Sin embargo, la cifra de un par de metros aplica al sistema de visi\u00f3n artificial de Mobileye y una velocidad de 60 km\/h (m\u00e1s o menos 37 mph). En ese caso, el tiempo de respuesta es de aproximadamente 125 milisegundos. El umbral de respuesta del piloto autom\u00e1tico de Tesla, de acuerdo con la determinaci\u00f3n experimental de los investigadores, es casi tres veces mayor: 400 milisegundos. A la misma velocidad, esto agregar\u00eda casi 7 metros (m\u00e1s o menos 22 pies). De cualquier forma, sigue siendo una fracci\u00f3n de segundo. En consecuencia, los investigadores creen que un ataque de este tipo podr\u00eda aparecer de la nada: antes de que te des cuenta, ya est\u00e1s en una zanja y el dron que proyect\u00f3 la imagen se ha ido.<\/p>\n<p>Pero una peculiaridad en el sistema da la esperanza de que los pilotos autom\u00e1ticos, finalmente, podr\u00e1n repeler este tipo de ataques: las im\u00e1genes que se proyectan en las superficies que no son aptas para mostrar im\u00e1genes difieren mucho de la realidad. Para el ojo humano es muy f\u00e1cil distinguir las im\u00e1genes fantasmas de objetos reales gracias a la distorsi\u00f3n de la perspectiva, los bordes irregulares, colores no naturales, contraste extremo, y otras rarezas.<\/p>\n<p>Como tal, la vulnerabilidad del piloto autom\u00e1tico ante los ataques fantasmas es una consecuencia de la brecha de percepci\u00f3n entre la IA y el cerebro humano. Para superar esta brecha, los autores del estudio proponen acondicionar los sistemas de piloto autom\u00e1tico de los veh\u00edculos con revisiones adicionales para verificar la congruencia de las caracter\u00edsticas como la perspectiva, uniformidad de los bordes, color, contraste y brillo, y garantizar que los resultados sean congruentes antes de tomar cualquier decisi\u00f3n. As\u00ed como con una lesi\u00f3n humana, las redes neuronales deliberar\u00e1n sobre los par\u00e1metros que ayudar\u00edan a distinguir entre se\u00f1ales reales de una c\u00e1mara o lidar y un fantasma ef\u00edmero.<\/p>\n<p>Hacerlo, por supuesto, aumentar\u00eda la carga computacional de los sistemas y resultar\u00eda de manera efectiva en la operaci\u00f3n paralela de varias redes neuronales a la vez, todas con el entrenamiento necesario (un proceso largo y que requiere mucha energ\u00eda). Y los veh\u00edculos, que ya son peque\u00f1os c\u00famulos de computadoras sobre ruedas, se tendr\u00e1n que convertir en peque\u00f1os c\u00famulos de supercomputadoras sobre ruedas.<\/p>\n<p>A medida que los <a href=\"https:\/\/es.wikipedia.org\/wiki\/Acelerador_de_IA\" target=\"_blank\" rel=\"noopener nofollow\">aceleradores de IA<\/a> se hacen m\u00e1s prevalentes, los veh\u00edculos podr\u00edan llevar a bordo varias redes neuronales que trabajen en paralelo y no drenen la energ\u00eda. Pero esa es una historia para otro momento.<\/p>\n<p><strong><input type=\"hidden\" class=\"category_for_banner\" value=\"kesb-top3\"><\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los investigadores de la Conferencia RSA 2021 demostraron como im\u00e1genes \u201cfantasma\u201d pueden enga\u00f1ar a los pilotos autom\u00e1ticos de Tesla y Mobileye.<\/p>\n","protected":false},"author":2540,"featured_media":22003,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2795,3539,2738],"tags":[2867,2018,1861,5146,2402,192,2118,5153],"class_list":{"0":"post-22002","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-business","8":"category-enterprise","9":"category-technology","10":"tag-conferencia-rsa","11":"tag-ia","12":"tag-inteligencia-artificial","13":"tag-rsa-2021","14":"tag-rsac","15":"tag-tecnologia","16":"tag-tesla","17":"tag-vehiculos-autonomos"},"hreflang":[{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/22002\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/rsa2021-tesla-mobileye-perception-gap\/22909\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/18394\/"},{"hreflang":"ar","url":"https:\/\/me.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/9143\/"},{"hreflang":"en-us","url":"https:\/\/usa.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/24828\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/rsa2021-tesla-mobileye-perception-gap\/22821\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/rsa2021-tesla-mobileye-perception-gap\/25378\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/rsa2021-tesla-mobileye-perception-gap\/24764\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/rsa2021-tesla-mobileye-perception-gap\/30814\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/rsa2021-tesla-mobileye-perception-gap\/9684\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/rsa2021-tesla-mobileye-perception-gap\/40064\/"},{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/rsa2021-tesla-mobileye-perception-gap\/17008\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/rsa2021-tesla-mobileye-perception-gap\/17546\/"},{"hreflang":"pl","url":"https:\/\/plblog.kaspersky.com\/rsa2021-tesla-mobileye-perception-gap\/14879\/"},{"hreflang":"de","url":"https:\/\/www.kaspersky.de\/blog\/rsa2021-tesla-mobileye-perception-gap\/26837\/"},{"hreflang":"ja","url":"https:\/\/blog.kaspersky.co.jp\/rsa2021-tesla-mobileye-perception-gap\/30846\/"},{"hreflang":"nl","url":"https:\/\/www.kaspersky.nl\/blog\/rsa2021-tesla-mobileye-perception-gap\/27100\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/rsa2021-tesla-mobileye-perception-gap\/23966\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/rsa2021-tesla-mobileye-perception-gap\/29286\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/rsa2021-tesla-mobileye-perception-gap\/29083\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/latam.kaspersky.com\/blog\/tag\/rsac\/","name":"RSAC"},"_links":{"self":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/22002","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/users\/2540"}],"replies":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/comments?post=22002"}],"version-history":[{"count":7,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/22002\/revisions"}],"predecessor-version":[{"id":24561,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/posts\/22002\/revisions\/24561"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media\/22003"}],"wp:attachment":[{"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/media?parent=22002"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/categories?post=22002"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latam.kaspersky.com\/blog\/wp-json\/wp\/v2\/tags?post=22002"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}