Un equipo de ingenieros informáticos de la Universidad de Chicago ha desarrollado una herramienta que disfraza las fotografías con cambios a nivel de píxeles que confunden los sistemas de reconocimiento facial.
En los últimos años, las empresas han estado merodeando por la red en busca de fotografías públicas asociadas a nombres de personas que puedan utilizar para construir enormes bases de datos de rostros y mejorar sus sistemas de reconocimiento facial, lo cual se suma a la creciente sensación de que se está perdiendo la privacidad personal, poco a poco, en el plano digital.
Una empresa emergente llamada Clearview AI, por ejemplo, extrajo miles de millones de fotografías en línea con el fin de crear una herramienta para la policía que podría llevarlos de un rostro a una cuenta de Facebook y revelar la identidad de una persona. Ahora, los investigadores están tratando de frustrar esos sistemas.
El software, llamado Fawkes en honor a la máscara de Guy Fawkes que usan los manifestantes de todo el mundo, se puso a disposición de los desarrolladores en el sitio web de los investigadores el mes pasado. Después de ser descubierto por Hacker News, ha sido descargado más de 50.000 veces. Los investigadores están trabajando en una versión de aplicación gratuita para quienes no son codificadores, la cual esperan tener disponible pronto.
El software no está destinado a ser una herramienta ocasional para los amantes de la privacidad. Si se despliega en millones de imágenes, sería un instrumento de gran alcance contra los sistemas de reconocimiento facial, el cual afectaría la precisión de los conjuntos de datos que se recopilan en la red.
“Nuestro objetivo es hacer que Clearview desaparezca”, comentó Ben Zhao, profesor de informática de la Universidad de Chicago.
Fawkes convierte una imagen —o la “camuflajea”, en la jerga de los investigadores— y altera sutilmente algunos de los rasgos de los que dependen los sistemas de reconocimiento facial cuando construyen la huella facial de una persona. En un artículo de investigación, reportado anteriormente por OneZero, el equipo describe el “camuflaje” de fotografías de la actriz Gwyneth Paltrow usando el rostro del actor Patrick Dempsey, de modo que un sistema que aprendiera cómo luce Paltrow con base en esas fotografías comenzaría a asociarla con algunos de los rasgos del rostro de Dempsey.
Los cambios, normalmente sutiles y no perceptibles a simple vista, impedirían que el sistema reconociera a Paltrow cuando se le presentara una fotografía real de ella sin el camuflaje. En las pruebas, los investigadores pudieron engañar a los sistemas de reconocimiento facial de Amazon, Microsoft y la compañía tecnológica china Megvii.
Para probar la herramienta, le pedí al equipo que camuflajeara algunas imágenes de mi familia y de mí. Luego subí los originales y las imágenes camuflajeadas a Facebook para ver si engañaban al sistema de reconocimiento facial de la red social. Funcionó: Facebook me etiquetó en la fotografía original, pero no me reconoció en la versión camuflajeada.
Sin embargo, los cambios en las fotografías se notaban a simple vista. En las imágenes alteradas, me veía macabra. A mi hija de 3 años le brotó lo que parecía vello facial y mi marido parecía tener un ojo amoratado.
Los investigadores tenían algunas explicaciones al respecto. Una es que el software está diseñado para emparejarte con la plantilla del rostro de alguien que se vea tan diferente a ti como sea posible, mediante una base de datos de caras de celebridades. Normalmente termina siendo una persona del sexo opuesto, lo cual implica problemas evidentes.
“Las mujeres adquieren bigote y a los hombres les agregan pestañas o sombra de ojos”, dijo Zhao. Él se muestra entusiasmado con lo que llama “armadura de privacidad” y anteriormente ayudó a diseñar un brazalete que evita que las bocinas inteligentes escuchen conversaciones.
El equipo dice que planea ajustar el software para que ya no cambie sutilmente el sexo de los usuarios.
La otra cuestión es que mi experimento no corresponde al propósito para el cual fue diseñada la herramienta, por lo que Shawn Shan, estudiante de doctorado de la Universidad de Chicago y uno de los creadores de Fawkes, hizo que los cambios en mis fotografías fueran los más extremos posibles para asegurar que funcionara.
Fawkes no pretende evitar que un sistema de reconocimiento facial como el de Facebook reconozca a alguien en una sola fotografía. Está tratando de corromper de manera más amplia los sistemas de reconocimiento facial a través de un ataque algorítmico llamado envenenamiento de datos.
Los investigadores dijeron que, idealmente, la gente comenzaría a camuflajear todas las imágenes que suban. Eso significaría que una compañía como Clearview, que recopila esas fotografías, no podría crear una base de datos funcional porque una fotografía no identificada de ti obtenida del mundo real no coincidiría con la plantilla de ti que Clearview habría construido con el tiempo a partir de tus imágenes en línea.
No obstante, Hoan Ton-That, director ejecutivo de Clearview, ejecutó una versión de mi experimento de Facebook en la aplicación de Clearview y dijo que la tecnología no interfería con su sistema. De hecho, dijo que su compañía podía usar imágenes camuflajeadas por Fawkes para mejorar su capacidad de dar sentido a las fotografías alteradas.
“Hay miles de millones de fotografías sin modificar en internet, todas en diferentes nombres de dominio”, dijo Ton-That. “En la práctica, casi es demasiado tarde para perfeccionar una tecnología como la de Fawkes y desplegarla a escala”.
Otros expertos también se mostraron escépticos acerca de que Fawkes funcione. Joseph Atick, un pionero del reconocimiento facial que ha llegado a lamentar la sociedad de vigilancia que ayudó a crear, dijo que el volumen de imágenes que ya hemos puesto a disposición sería demasiado difícil de superar.
“La caja de Pandora está abierta. Estamos expuestos”, comentó Atick. “Aunque aliento este tipo de investigación, soy muy escéptico de que esta sea una solución para resolver el problema al que nos enfrentamos”.
Elizabeth Joh, profesora de Derecho de la Universidad de California, campus Davis, ha escrito sobre herramientas como Fawkes describiéndolas como “manifestaciones en materia de privacidad”, en las que los individuos quieren frustrar la vigilancia, pero no por razones criminales. Ella ha visto repetidamente lo que llamó una “rúbrica cansada” de la vigilancia, luego la contravigilancia y después la antivigilancia, a medida que se introducen nuevas tecnologías de monitoreo.
“La gente tiene una sensación de agotamiento de la privacidad”, dijo Joh. “Hay demasiadas formas en que nuestro sentido convencional de la privacidad está siendo explotado en la vida real y en línea”.
Para que Fawkes tenga un efecto inmediato, necesitaríamos que todas las fotografías que ya hemos publicado estuvieran camuflajeadas de la noche a la mañana. Eso podría ocurrir si una enorme plataforma que mantiene un gran número de imágenes en línea decidiera desplegar Fawkes en todo el sistema.
Si una plataforma como Facebook adoptara Fawkes evitaría que en el futuro Clearview recopile las imágenes de sus usuarios para identificarlos. “Podrían decir: ‘Danos tus fotografías reales, las camuflajearemos y luego las compartiremos con el mundo para que estés protegido’”, dijo Zhao.
Jay Nancarrow, portavoz de Facebook, no descartó esa posibilidad cuando se solicitaron sus comentarios. “Como parte de nuestros esfuerzos para proteger la privacidad de las personas, tenemos un equipo dedicado a explorar este tipo de tecnologías y otros métodos con el fin de prevenir usos indebidos de las fotografías”, señaló Nancarrow.
“En realidad, ahora mismo estoy haciendo una pasantía en ese mismo equipo de Facebook”, dijo Shan, el cocreador de Fawkes.