El lado oscuro de la tecnología de reconocimiento facial

La ley Lynch, pérdida de intimidad, marketing repulsivo, robo de identidad digital… ¿Qué más se puede hacer para abusar del reconocimiento facial?

Puedes cambiarte el nombre o usar un seudónimo. También puedes modificar o borrar tus cuentas en redes sociales. Pero lo que no puedes hacer tan fácilmente es cambiar tu rostro. El reconocimiento facial nos ayuda a resolver muchos problemas, pero también crean unos cuantos más. En esta entrada, hablaremos de las amenazas que acompañan a la difusión global de estos sistemas.

  1. Pérdida del derecho a la privacidad (a escala global)

El FBI se encarga de manera oficial de una base de datos, llamada Next Generation Identification-Interstate Photo System (NGI-IPS), que contiene fotos de personas acusadas o juzgadas en procedimientos civiles o penales. Eso está bien, ¿verdad?

¡Para nada! En mayo, la American Government Accountability Office auditó la agencia y descubrió que la base de datos del FBI con 412 millones de fotos incluye imágenes de personas que nunca han sido objeto de ninguna investigación. La agencia también tiene una unidad separada que se encarga del reconocimiento facial: Facial Analysis, Comparison, and Evaluation (FACE) Services.

Al parecer, los representantes del FBI llegaron a acuerdos con varios estados y obtuvieron las fotos de los permisos de conducir, los pasaportes y las solicitudes de visado, además de presuntos delincuentes y convictos. La base de datos también incluye fotos de residentes extranjeros (alrededor de 100 millones de ellos).

El FBI utiliza activamente el reconocimiento facial durante sus investigaciones. Ya hemos escrito sobre los buenos resultados que puede aportar este método, pero la situación es aún más complicada. La tecnología de reconocimiento facial es nueva e imperfecta y el sistema del FBI no es ninguna excepción: tiene prejuicios raciales y en el mejor de los casos llega al 80-85 % de fiabilidad. A su vez, el FBI encubrió deliberadamente la media de uso de su reconocimiento facial en contra de los requisitos de la evaluación del impacto sobre la privacidad.

También cabe mencionar que el consejo municipal de Moscú y las agencias de seguridad rusas intentan estar al día sobre tecnología relevante y se están preparando para implementar la tecnología FaceN (los desarrolladores de este sistema también aportaron el código de FindFace, un servicio que permite buscar a personas usando sus fotos). Estos sistemas modernos se conectarán a cientos de miles de cámaras de seguridad de Moscú.

Tal como informa el medio ruso Meduza “no existen análogos a este sistema en ninguna otra ciudad del mundo. El algoritmo puede comparar personas que van por la calle con una base de datos de delincuentes, pero eso no es todo. También puede identificar a sujetos de cualquier parte de la ciudad y asociarlos con sus redes sociales, las cuales suelen contener mucha información personal”.

Deberíamos recalcar que, a principios de año, el senado ruso obligó a los tribunales rusos a considerar fotos y vídeos como pruebas legales. Antes, la decisión era responsabilidad del tribunal.

  1. Abuso por parte de las fuerzas del orden

El reconocimiento facial comete errores. Los encargados de estos sistemas los utilizan incorrectamente (y es un hecho). Por ejemplo, el New York Times publicó en agosto que la policía de San Diego recopilaba imágenes de personas culpables o inocentes sin su consentimiento.

Aaron Harvey, un afroamericano de 27 años que vive en San Diego, denunció que la policía lo trató con prejuicios. Harvey vive en una de las zonas más violentas de la ciudad, motivo por el que probablemente la policía lo ha detenido en más de 50 ocasiones asegurando que era sospechoso de pertenecer a una pandilla. Cuando no le dio permiso al agente para tomarle una foto, este último se jactó de que podía hacerlo de todos modos.

Dijo: “Lo haremos, sea legal o ilegal” y me sacó del coche. Harvey describiendo el incidente al New York Times.

En 2013, las autoridades de Boston también probaron un sistema de reconocimiento facial. Estaba conectado a las cámaras de seguridad que analizaban en secreto los rostros de las personas cuando se daban conciertos o se desarrollaban otras actividades en exteriores. Al final del período de prueba, el proyecto se descartó por motivos éticos. Pero Boston es una cosa y la implementación global es otra: las agencias gubernamentales están usando mucho los sistemas de reconocimiento facial.

  1. Corporaciones que espían a todo el mundo

Las organizaciones disponen de bases de datos de rostros que son muchos más grandes que la colección del FBI. Las redes sociales son las que más: Facebook, Instagram (que pertenece a Facebook), Google (con Google+), VC.com, entre otras. La mayoría de estas compañías tienen su propia solución de reconocimiento facial que desarrollan y mejoran constantemente.

Microsoft está ahora trabajando en una tecnología similar para la aplicación FamilyNotes que permitirá al software distinguir a un usuario de otro con la ayuda de la cámara de un portátil o una tableta. Microsoft desarrolla uno de los sistemas operativos más populares del mundo y esta aplicación complementará con creces la base de datos de rostros de la compañía.

El sistema de reconocimiento facial de Facebook es uno de los más precisos del mundo. La compañía lanzó discretamente su herramienta en 2012 y la mantuvo por defecto para la mayoría de sus usuarios. Luego, la compañía se enfrentó a decenas de demandas (cuyo número no deja de aumentar) y a Google también se le investiga en los tribunales por cargos similares. Como resultado, Facebook tuvo que desactivar las características de reconocimiento facial en algunas regiones.

También deberíamos mencionar que Facebook tiene un solo enfoque con respecto a esta cuestión. Por ejemplo, su base de conocimientos no contiene ningún artículo que explique cómo desactivar la función de reconocimiento facial, cosa que no es operación de un solo click.

Aunque no seas miembro de ninguna red social (o hayas evitado subir una foto real tuya a ellas), tu cara puede colarse en la base de datos de una compañía de red social. El año pasado, un ciudadano de Chicago demandó al servicio de fotos Shutterfly porque la web añadió su foto a su base de datos sin su consentimiento. Un tercero (probablemente un amigo) había subido su foto a Shutterfly y firmó la imagen.

  1. Cualquiera puede encontrarte

Cualquier sistema de reconocimiento facial disponible al público puede usarse como una herramienta poderosa para realizar vigilancia justiciera. Este año, por ejemplo, dos jóvenes iniciaron un fuego en la entrada de un edificio en San Petersburgo. Cuando terminaron, los pirómanos provocaron un alboroto en un ascensor del mismo edificio. Las cámaras del ascensor y del vecindario grabaron cómo el dúo se entretenía.

Cuando la policía local rechazó abrir un caso penal, los ocupantes de la casa decidieron ocuparse por sí mismos: tomaron capturas de las caras de los culpables y usaron FindFace para localizarlos en las redes sociales.

Los detectives aficionados comunicaron a la policía sus hallazgos y, como resultado, arrestaron a los jóvenes. En un reportaje de la cadena de televisión rusa Ren TV, uno de los inquilinos dijo que tenían suficientes datos y pruebas como para enviar mensajes a los amigos de los vándalos, a sus lugares de estudio y a sus trabajos.

Aunque los de San Petersburgo tuvieron paciencia para pedir ayuda a la policía, no todos los usuarios de Internet son así. Querer es poder (acosar a las personas). Si has oído hablar de FindFace, conocerás su caso de uso más infame: cuando los miembros de 2ch lo usaron para acosar a actrices porno en la red. Los trols encontraron a las mujeres en las redes sociales y enviaron mensajes escandalosos a sus amigos y familiares con sus correspondientes imágenes.

A su vez, el fundador de FindFace, Maxim Perlin, está seguro de que hoy en día las personas tienen que pagar, literalmente, para proteger su privacidad. En una entrevista de televisión, dijo que las personas que quieran eliminar sus datos de la base de datos de FindFace tendrán que adquirir una cuenta premium que ronda los 8 dólares mensuales.

  1. Hay una delgada línea entre la seguridad y el desastre

Muchos expertos lo aseguran: la biométrica reemplazará las contraseñas y hará del mundo un lugar más seguro. En el futuro, las personas dejarán que los sistemas analicen sus ojos, sus huellas e, incluso, huellas faciales para reemplazar el proceso de crear combinaciones complicadas con símbolos.

Microsoft ya está desarrollando la tecnología que da autorización a los usuarios con selfies. NEC está investigando el uso del reconocimiento facial para realizar pagos electrónicos seguros. MasterCard está trabajando en un sistema de identificación de selfies que permite a los usuarios enviar dinero sin el uso de contraseñas.

Ya hemos hablado de los inconvenientes de la dactilografía, así que centrémonos en las debilidades del reconocimiento facial. Se trata de los recientes avances en la impresión 3D: hoy en día puedes imprimir una copia realística de la cara de una persona. Los desarrolladores de los nuevos sistemas de identificación tendrán que tenerlo en cuenta si quieren crear soluciones verdaderamente seguras.

Por ejemplo, MasterCard y Google pidieron a sus usuarios que pestañearan, una acción simple que impide a los estafadores engañar a los sistemas con la ayuda de caras impresas en 3D o incluso con una foto. Por desgracia, la solución de Google falló: se las arreglaban para sortear la medida de seguridad con una imagen animada. El sistema de MasterCard está en desarrollo, así que nadie sabe todavía si se le puede engañar del mismo modo.

3d-printed-face

Mi compañero de trabajo ha impreso mi cara en 3D

  1. No compartas tu cara con cualquiera

Quizá hayas oído hablar de Anaface, una web que analiza tu foto y puntúa tu atractivo. Utiliza la simetría como criterio principal (un estándar muy cuestionable, ¿no crees?) por ejemplo, Angelina Jolie solo sacó un 8.4 de 10 en Anaface. Pero la precisión de la web no es su único problema.

Primero, los propietarios de Anaface admitieron que había lanzado el proyecto para animar a las personas someterse a cirugías plásticas. Al menos dicen las cosas sin tapujos.

Segundo, los términos y condiciones de la web son difíciles de leer y son confusos. Se dan en una ventana muy pequeña, por lo que el usuario debe bajar mucho para leer más de 7 000 palabras a tamaño reducido. Por ello puede que muchos no sepan que cada usuario de la web da derecho a la web a usar su foto de forma “no exclusiva, a transferirla a terceros, bajo licencia, gratis y mundialmente”. Para entendernos: el servicio puede vender las fotos de las personas que las suban sin la obligación de pagar a sus propietarios por las imágenes.

A su vez, los usuarios prometen que solo subirán sus fotos: “no publicará, subirá, mostrará ni de ningún modo contenido que contenga vídeo, audio-fotografías, ni imágenes que sean de otra persona sin su consentimiento (en el caso de un menor, sin el consentimiento de su tutor legal)”. Las condiciones también incluyen pequeñas referencias sobre la privacidad y la posibilidad de borrar las fotos tras registrar una cuenta, pero nadie puede hacerlo en Anaface, la web no lo permite.

En resumen, todos recopilan fotos: los gobiernos, las corporaciones, las compañías e, incluso, las personas normales y corrientes. Hoy en día, todos pueden hacer uso, sea bueno o malo, de los sistemas de reconocimiento facial y lo único que podemos hacer es intentar escondernos de ellos.

Consejos
Suscríbete y recibe nuestras publicaciones en tu correo
  • Para el resto de países