Por: Javier Murillo*
Algo ocurre en nuestra mente que simplemente no podemos con la curiosidad de vernos más viejos, más jóvenes o ver nuestros rasgos en otro sexo. Esto lo comprueban millones en Facebook a través de FaceApp, la popular app de la empresa rusa Wireless Lab. que emplea técnicas de deepfake, al permitir transformar con un sorprendente realismo el género de un rostro.
FaceApp Inc., está ubicada en Wilmington, Delaware, el desarrollo original de los filtros es de Wireless Lab, fundada por Yaroslav Goncharov en 2013 y que en 2018 se mudó al centro de innovación ruso de San Petesburgo Skolkovo, en donde se mantienen por cierto los desarrollos de Inteligencia Artificial.
Los expertos hemos alertado sobre la desapercibida política de privacidad de la aplicación, toda vez que se debe aceptar de inicio como requisito para utilizar la aplicación, y después de instalarla en el teléfono celular, se debe aceptar que el sistema registre la IP del dispositivo y, lo que resulta más preocupante, la página web que se ha visitado antes de utilizar su sistema. Aceptamos tácitamente que FaceApp registre buena parte de nuestra actividad online. ¡Si!
Todo deja de ser divertido cuando el servicio advierte que registrará las páginas visitadas, tiempo y duración de los accesos, y lo peor del asunto es que se acepta que esta información sea cedida a terceros. No puede decirse que las cláusulas de privacidad de FaceApp sean confusas, explican claramente que se comercia con los datos, y que posteriormente son vendidos a otros. ¿Dejó de ser divertido?
El principal problema de este tipo de aplicaciones gratuitas es doble: por un lado, obtiene un rendimiento de explotar los datos del usuario; por otro, quien quiera disfrutar de este tipo de apps debe aceptar, casi a ciegas, sus políticas de privacidad. Una vez que se admiten, ya no hay vuelta atrás, salvo que se ejerzan los derechos en materia de privacidad, pero nadie perderá el tiempo para ello.
Se ha hecho público que esta aplicación usa servidores de Amazon Web Services y Google Cloud para procesar y almacenar información, cuando hacen la transformación de la imagen y solo los guardan entre 24 y 48 horas. El caché de las fotografías está almacenado temporalmente en los servidores y encriptado usando una llave localmente guardada en el equipo del usuario, advierte FaceApp.
La empresa dice en sus términos y condiciones que, si el usuario lo permite y autoriza, puede usar sus datos para redirigir publicidad personalizada y al ingresar a la app por medio de un tercero, como Facebook, los datos que ya estén liberados a Facebook los puede obtener y usar con propósitos publicitarios o estadísticos. Negocio redondo. Existen varias aplicaciones similares a FaceApp que parecen divertidas Style My Hair, ofrece “increíbles” cambios para encontrar el look perfecto; FatBooth, para quienes quieran ver cómo lucirían si dejaran de lado la dieta o el ejercicio; o Google Arts & Culture, en la los usuarios tienen la posibilidad de encontrar su parecido artístico de obras que existen alrededor del mundo.
Ahora bien, el tema ha tomado una seriedad enorme en los últimos días y no solo se ha quedado en la gracia de vernos distintos físicamente. Recientemente Microsoft se convirtió en la tercera gran compañía tecnológica en anunciar que no venderá su software de reconocimiento facial a la policía, luego de medidas similares adoptadas por Amazon e IBM. De hecho, el presidente y asesor legal de Microsoft, Brad Smith, llamó la atención al Congreso para alcanzar los consensos necesarios y lograr una regulación a esta tecnología, hasta que haya una ley nacional sustentada en los derechos humanos que la regule.
Y hay otro gran problema con los reconocimientos faciales, pues han sido severamente cuestionados por identificar incorrectamente a personas con piel oscura. Las protestas recientes tras la muerte de George Floyd, a manos de la policía, centraron la atención en la injusticia racial en Estados Unidos y cómo la policía usa la tecnología para rastrear a personas.
Amazon anunció la prohibición durante un año a la policía para poder usar su programa de reconocimiento facial Rekognition, adicionalmente exigió fuertes regulaciones gubernamentales para que, en el futuro, su tecnología se use de forma ética. Esto dejó ver que el Congreso norteamericano está listo para actuar en consecuencia.
Como con muchos de estos sistemas, la controversia en torno a sus resultados es relevante. No solo por la alta tasa de falsos positivos que proporciona, sino por el sesgo racial y de género que deriva. Tanto las mujeres como la población negra se ven discriminadas. Diferentes estudios sobre Rekognition han apuntado en diversas ocasiones en esta dirección. En 2018, por ejemplo, investigadores comprobaron cómo el sistema de reconocimiento facial vinculaba hasta a 28 miembros del Congreso con caras de una base de datos de criminales. Un año después, lo mismo ocurrió con 27 atletas profesionales de Reino Unido. En ambos casos, la Unión Estadounidense de Libertades Civiles (ACLU, por sus siglas en inglés) encontró que las personas negras eran significativamente más proclives al error.
El tema ha llegado incluso hasta en la máxima tribuna de la Organización de las Naciones Unidas. Michelle Bachelet, la Alta Comisionada de la ONU para los Derechos Humanos, llamó a una moratoria sobre el uso de la tecnología de reconocimiento facial durante manifestaciones pacíficas, su argumento es que el internet y las nuevas herramientas digitales están siendo manipuladas como nunca para infringir el derecho de las personas a la libertad de reunión. De hecho solicitó a los Estados Unidos que dejen de utilizar tecnologías como el reconocimiento facial, así como los bloqueos de internet y otras estrategias para sabotear a quienes ejercen su derecho a la reunión pacífica.
Pero esta no es la primera vez que Bachelet llama la atención sobre el tema, hace un año hacía referencia a lo que estaba ocurriendo en China, la vigilancia masiva de los gobernados se ha convertido en la norma, decía, violando el derecho a la privacidad y a la vez permitiendo la violación de muchas otras garantías. Sin duda, esta historia sin duda continuará.
Contacto:
*Javier Murillo es Ingeniero electrónico e informático mexicano, especialista en analítica de datos y maestro en ciberseguridad.
Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.
