{"id":15526,"date":"2019-10-07T13:15:30","date_gmt":"2019-10-07T19:15:30","guid":{"rendered":"https:\/\/latam.kaspersky.com\/blog\/?p=15526"},"modified":"2020-01-24T12:34:09","modified_gmt":"2020-01-24T18:34:09","slug":"machine-learning-fake-voice","status":"publish","type":"post","link":"https:\/\/latam.kaspersky.com\/blog\/machine-learning-fake-voice\/15526\/","title":{"rendered":"Los fraudes con aprendizaje autom\u00e1tico"},"content":{"rendered":"

Queda claro que las nuevas tecnolog\u00edas est\u00e1n cambiando el mundo, pero no la psique humana. El resultado es que los criminales ingenian innovaciones tecnol\u00f3gicas cuyo objetivo son las vulnerabilidades del cerebro humano. Un vivo ejemplo de esto es la historia sobre c\u00f3mo los defraudadores imitaron la voz de un CEO de nivel internacional<\/a> para manipular a una empresa filial con el fin de que transfiriera dinero a cuentas sospechosas.<\/p>\n

\u00bfQu\u00e9 sucedi\u00f3?<\/h2>\n

Se desconocen los detalles del ataque, pero el Wall Street Journal<\/em>, citando a la empresa de seguros Euler Hermes Group SA, describi\u00f3 el incidente de la siguiente forma:<\/p>\n

    \n
  1. Al responder una llamada telef\u00f3nica, el CEO (presidente ejecutivo, por sus siglas en ingl\u00e9s) de una empresa energ\u00e9tica brit\u00e1nica pens\u00f3 que estaba hablando con su jefe, el director ejecutivo de la empresa matriz alemana, quien le solicit\u00f3 el env\u00edo de \u20ac220,000 a un proveedor h\u00fangaro (ficticio, como trasluci\u00f3 m\u00e1s adelante) en el espacio de una hora.<\/li>\n
  2. El ejecutivo brit\u00e1nico transfiri\u00f3 el monto solicitado.<\/li>\n
  3. Los atacantes llamaron de nuevo para comunicar que la empresa matriz hab\u00edan transferido el dinero para reembolsar a la empresa brit\u00e1nica.<\/li>\n
  4. Luego, hicieron una tercera llamada durante el transcurso de ese d\u00eda, haci\u00e9ndose pasar por el CEO, y solicitaron un segundo pago.<\/li>\n
  5. Puesto que la transferencia que hac\u00eda el reembolso de los fondos no se hab\u00eda reflejado y la tercera llamada proven\u00eda de un n\u00famero de Austria, y no de Alemania, el ejecutivo empez\u00f3 a recelar y ya no hizo el segundo pago.<\/li>\n<\/ol>\n

    \u00bfC\u00f3mo se logr\u00f3?<\/h2>\n

    La empresa aseguradora contempla dos posibilidades: o los atacantes repasaron una gran cantidad de grabaciones del CEO y armaron manualmente los mensajes; o bien, desplegaron un algoritmo de aprendizaje autom\u00e1tico en las grabaciones, lo cual es m\u00e1s probable. El primer m\u00e9todo toma much\u00edsimo tiempo y no es confiable,\u00a0 ya que es extremadamente dif\u00edcil construir una oraci\u00f3n coherente de dos palabras aisladas sin que suene desentonado. Y seg\u00fan la v\u00edctima brit\u00e1nica, el discurso era absolutamente normal, con un timbre claramente reconocible y un leve acento alem\u00e1n. De este modo, el sospechoso principal es la IA. Pero el \u00e9xito del ataque tiene menos que ver con el uso de las nuevas tecnolog\u00edas que con la distorsi\u00f3n cognitiva, en este caso, el sometimiento a la autoridad.<\/p>\n

    Post-mortem<\/em> psicol\u00f3gico<\/h2>\n

    Los psic\u00f3logos sociales han llevado a cabo muchos experimentos que demostraron que incluso las personas inteligentes y experimentadas son propensas a obedecer la autoridad de modo incuestionable, incluso si esto va en contra de sus convicciones personales, sentido com\u00fan o cuestiones de seguridad.<\/p>\n

    En su libro El efecto Lucifer: el poder de la maldad, <\/em>Philip Zimbardo describe este tipo de experimento, en el cual las enfermeras reciben una llamada telef\u00f3nica de un m\u00e9dico que les pide inyectar medicamento a un paciente en una dosis el doble del l\u00edmite permitido. De 22 enfermeras, 21 llenaron la jeringuilla seg\u00fan la orden. De hecho, casi la mitad de las enfermeras encuestadas hab\u00eda seguido las instrucciones de un m\u00e9dico que, en su opini\u00f3n, podr\u00eda haber causado da\u00f1o al paciente. Las enfermeras obedientes creyeron que ten\u00edan menos responsabilidad que un m\u00e9dico con la autoridad legal de prescribir el tratamiento a un paciente.<\/p>\n

    El psic\u00f3logo Stanley Milgram explic\u00f3 igualmente la obediencia ciega a una autoridad mediante la teor\u00eda de la subjetividad<\/em>; dicha teor\u00eda b\u00e1sicamente propone que si las personas se perciben a s\u00ed mismas como instrumentos para la voluntad de otros, entonces no se sienten responsables de sus acciones.<\/p>\n

    \u00bfQu\u00e9 se puede hacer?<\/h2>\n

    Simplemente no hay modo de saber con total certeza con qui\u00e9n estamos hablando por tel\u00e9fono;\u00a0 especialmente si se trata de una figura p\u00fablica y las grabaciones de su voz (discursos y entrevistas) son p\u00fablicas. Hoy en d\u00eda esto es poco com\u00fan, pero a medida que la tecnolog\u00eda avance, estos incidentes se volver\u00e1n m\u00e1s frecuentes.<\/p>\n

    As\u00ed que, al obedecer ciegamente, puede que est\u00e9s cumpliendo la voluntad de los cibercriminales. Por supuesto que es normal obedecer al jefe, pero tambi\u00e9n es importante cuestionar las decisiones administrativas extra\u00f1as o il\u00f3gicas.<\/p>\n

    Como mucho, solo podemos aconsejar no fomentar en los empleados la obediencia absoluta. Procura dar \u00f3rdenes acompa\u00f1adas de su justificaci\u00f3n. De esta manera, es m\u00e1s probable que un empleado indague una orden inusual si no hay motivo aparente para ella.<\/p>\n

    Desde un punto de vista t\u00e9cnico, recomendamos lo siguiente:<\/p>\n