En marzo de 2022, David Zayas conducía por Hutchinson River Parkway en Scarsdale, en los Estados Unidos (EU). Su coche, un Chevrolet gris, no tenía nada especial, al igual que su velocidad. Pero para el Departamento de Policía del Condado de Westchester, el auto era motivo de preocupación y Zayas un posible criminal; su nueva y poderosa herramienta de inteligencia artificial había identificado el comportamiento del vehículo como sospechoso.
Al buscar a través de una base de datos de 1,600 millones de registros de matrículas recopilados durante los últimos dos años en ubicaciones en todo el estado de Nueva York, la IA determinó que el automóvil de Zayas estaba en un viaje típico de un narcotraficante. Según un archivo del fiscal del Departamento de Justicia, realizó nueve viajes desde Massachusetts a diferentes partes de Nueva York entre octubre de 2020 y agosto de 2021 siguiendo rutas conocidas por ser utilizadas por traficantes de narcóticos y para estadías notoriamente cortas.
Entonces, el 10 de marzo del año pasado, la policía de Westchester lo detuvo y registró su automóvil, y encontró 112 gramos de crack, una pistola semiautomática y 34,000 dólares en efectivo adentro, según documentos judiciales. Un año después, Zayas se declaró culpable de un cargo de narcotráfico.
“Sin supervisión judicial, este tipo de sistema opera al capricho de cada oficial con acceso a él”.
Ben Gold, abogado.
El caso no denunciado anteriormente es una ventana a la evolución de la vigilancia impulsada por IA y un presagio de los problemas constitucionales que inevitablemente la acompañarán. Por lo general, la tecnología de reconocimiento automático de matrículas (ALPR) se utiliza para buscar matrículas vinculadas a delitos específicos.
Pero en este caso se usó para examinar los patrones de conducción de cualquiera que pasara una de las 480 cámaras del condado de Westchester durante un período de dos años. El abogado de Zayas, Ben Gold, cuestionó las pruebas reunidas por AI contra su cliente y las calificó de “vigilancia clandestina”.
Y tenía los datos para respaldarlo. Una FOIA que presentó ante la policía de Westchester reveló que el sistema ALPR estaba escaneando más de 16 millones de placas de matrícula por semana, a través de 480 cámaras ALPR.
De esos sistemas, 434 eran estacionarios, sujetos a postes y letreros, mientras que los 46 restantes eran móviles, sujetos a vehículos policiales. La IA tampoco solo estaba mirando las matrículas. También había estado tomando notas sobre la marca, el modelo y el color de los vehículos, lo cual es útil cuando el número de placa de un vehículo sospechoso no está visible o es desconocido.
Para Gold, el análisis del sistema de cada automóvil captado por una cámara equivalía a una “búsqueda sin precedentes”. “Este es el espectro de la vigilancia moderna contra el que debe protegerse la Cuarta Enmienda”, escribió, en su moción para suprimir la evidencia. “Este es el desarrollo y despliegue sistemático de una vasta red de vigilancia que invade la expectativa razonable de privacidad de la sociedad.
“Sin supervisión judicial, este tipo de sistema opera al capricho de cada oficial con acceso a él”.
Gold se negó a comentar más sobre el caso. El Departamento de Policía del Condado de Westchester no respondió a las solicitudes de comentarios.
Contar con Rekor
El sistema de vigilancia de matrículas del Departamento de Policía de Westchester fue construido por Rekor, una empresa de inteligencia artificial con una capitalización de mercado de 125 millones de dólares que cotiza en el NASDAQ.
Los informes locales y los datos del gobierno público revisados por Forbes muestran que Rekor ha vendido su tecnología ALPR a al menos 23 departamentos de policía y gobiernos locales en todo Estados Unidos, desde Lauderhill, Florida hasta San Diego, California. Eso sin incluir más de 40 departamentos de policía en todo el estado de Nueva York que pueden aprovechar el sistema de policía del condado de Westchester, que se queda sin su Centro de delincuencia en tiempo real.
“Ha visto que los sistemas se metastatizan por completo hasta el punto de que las capacidades de un departamento de policía local realmente sorprenderían a la mayoría de las personas”.
Brett Max Kaufman, abogado principal de la ACLU.
La gran venta de Rekor es que su software no requiere cámaras nuevas; se puede instalar en los ya implementados, ya sean propiedad del gobierno, una empresa o un consumidor.
También ejecuta Rekor Public Safety Network, un proyecto opcional que ha estado agregando datos de ubicación de vehículos de los clientes durante los últimos tres años, desde que se lanzó con información de 30 estados que, en ese momento, leían 150 millones de placas por mes.
Ese tipo de base de datos centralizada con intercambio de datos entre estados ha preocupado a los activistas de derechos civiles, especialmente a la luz de las recientes revelaciones de que la Oficina del Sheriff del Condado de Sacramento estaba compartiendo datos de lectores de matrículas con estados que han prohibido el aborto.
“La escala de este tipo de vigilancia es increíblemente masiva”, dijo a Forbes Brett Max Kaufman, abogado principal de la ACLU. Señalando tanto a Rekor como a Flock, un rival que dirige una red de vigilancia panamericana similar de lectura de matrículas.
Rekor rechazó una entrevista y no respondió a las solicitudes de comentarios. Pero Matt Hill, quien vendió su compañía OpenALPR a Rekor en 2019 y fue su científico jefe antes de partir en septiembre de 2022, le dijo a Forbes que la red probablemente estaba creciendo. “Estoy bastante seguro de que habría más cámaras en más estados ahora… Sería bastante grande”, dijo, y señaló que los clientes no gubernamentales también han estado proporcionando videos. Los clientes privados de Rekor incluyen estacionamientos, casinos y cadenas de restaurantes de comida rápida.
Con tantas agencias ahora recopilando registros de matrículas y el amanecer de una vigilancia más avanzada impulsada por IA, los defensores de la privacidad están dando la voz de alarma sobre una tecnología en expansión con pocas protecciones legales para el estadounidense promedio.
“Usted ha visto que los sistemas se metastatizan por completo hasta el punto de que las capacidades de un departamento de policía local realmente sorprenderían a la mayoría de las personas”, agregó Kaufman. “Este es solo el comienzo de las aplicaciones de esta tecnología”.
Lee más: CNBV otorga licencia bancaria a Hey Banco
Así es como la IA observa millones de autos a diario y le dice a la policía si estás conduciendo como un criminal
El mercado ALPR está creciendo gracias a una gran cantidad de rivales de Rekor, incluidos Flock, Motorola, Genetec, Jenoptik y muchos otros que tienen contratos con los gobiernos federal y estatal. Cada uno de ellos está tratando de hacerse con una porción de un mercado que se estima tiene un valor de al menos 2,500 millones de dólares.
Pero no es fácil. Al informar los resultados del primer trimestre de este año, Rekor obtuvo 6.2 millones en ingresos con una pérdida neta de 12.6 millones. Informó una pérdida similar en el mismo trimestre del año pasado. Sus acciones se cotizan actualmente a alrededor de 2.75 por debajo del máximo de abril de 2021 de 23.45 por acción.
En la búsqueda de ese escurridizo beneficio, el mercado está mirando más allá de la aplicación de la ley hacia el comercio minorista y la comida rápida. Los gigantes corporativos han jugado con la idea de vincular las matrículas a las identidades de los clientes.
McDonalds y White Castle ya han comenzado a utilizar ALPR para personalizar las experiencias de servicio, detectando clientes que regresan y utilizando pedidos anteriores para guiarlos a través del proceso de pedido u ofrecer ofertas de promoción individualizadas. La última cadena de restaurantes utiliza la tecnología Rekor para hacerlo a través de una asociación con Mastercard.
Con la amplitud de la expansión, se vuelve cada vez más difícil evitar la vigilancia del gobierno y las corporaciones, o incluso saber dónde están. Como descubrió Gold al tratar de obtener datos del gobiern
o de Westchester, las autoridades no están legalmente obligadas a proporcionar información sobre el paradero de las cámaras.
“Dada la vasta naturaleza de la red ALPR y la necesidad de viajar por las carreteras públicas para participar en la vida moderna”, escribió Gold en su moción para suprimir, “evitar la vigilancia ALPR es inviable, si es que imposible”.
Este artículo fue publicado originalmente en Forbes US.
Te puede interesar: Kapital lanza software de automatización con inteligencia artificial
