Residentes del este de Iowa dicen que las cámaras de vigilancia con inteligencia artificial carecen de transparencia y regulación.

0
265
Flock Safety's Automated License Plate Readers use AI technology to recognize a vehicle's license plate, make, model and color. The technology has sprouted in all corners of the state.
Advertisements

Por James Kelley, Iowa Public Radio 

Miembros de la comunidad en el este de Iowa están llamando la atención sobre una nueva tecnología de vigilancia que se ha implementado de manera discreta en todo el estado. Se trata de una herramienta que ayuda a las agencias de aplicación de la ley a rastrear vehículos a través de múltiples jurisdicciones. Si bien algunos afirman que ayuda a reducir la delincuencia, existen crecientes preocupaciones de que podría ser utilizada con otros motivos en mente.

El residente de larga data de Cedar Rapids, Josh Whartman, conducía a casa después del trabajo un día cuando algo extraño llamó su atención.

“Noté esta cámara negra, lo cual es extraño”, dijo Whartman. “Me pareció extraño. Habiendo trabajado para la ciudad, tenía cierto interés en la vigilancia y pensé: ‘¿Qué está haciendo la ciudad?’ Supuse que era una cámara de tráfico”.

Advertisements

Había vivido en la zona durante 30 años y trabajado como administrador de registros públicos. Pero Whartman nunca había visto una cámara así: una pequeña caja negra conectada a un único panel solar.

“Mencionaron: ‘Tenemos cámaras de Flock AI, y esa debe ser la que estás describiendo'”, dijo Whartman. “Entonces, comencé a buscar en Google sobre Flock… Jesús. Es toda una madriguera de conejo. No tenía idea en lo que me estaba metiendo”.

Las cámaras de Flock Safety son Lectores Automáticos de Matrículas (LAM), un tipo especial de cámara impulsada por inteligencia artificial que captura datos de placas de vehículos. Las cámaras también recogen la “huella digital del vehículo”, que incluye la marca, el modelo y el color de un automóvil.

Cedar Rapids tiene 75 cámaras. Al menos 29 ciudades en Iowa tienen contratos con Flock. Entre ellas se incluyen West Des Moines, North Liberty y Davenport.

Advertisements

Gráfico de Nicole Baxter / Iowa Public Radio
Luke Bock es teniente del Departamento de Policía de Dubuque, que tiene 22 cámaras de Flock. Bock dijo que espera que la ciudad continúe expandiendo su red de LAM.

“Lo interesante de Flock es que tienes la capacidad de no solo utilizar nuestras 22 cámaras, sino que básicamente podemos compartir nuestra información de cámaras con otras jurisdicciones, y otras jurisdicciones pueden compartir su información de cámaras con nosotros”, dijo Bock.

Bock agregó que los LAM ayudan a la policía a resolver crímenes en múltiples jurisdicciones. En una instancia, una persona con una orden de arresto en Illinois había huido a Dubuque, y los agentes lo arrestaron allí. Otra vez, agentes del departamento de Bock utilizaron las cámaras de Cedar Rapids para rastrear a tres sospechosos que huyeron de Dubuque.

Advertisements

“Básicamente podemos compartir nuestra información de cámaras con otras jurisdicciones, y otras jurisdicciones pueden compartir su información de cámaras con nosotros.”

Luke Bock, teniente de policía de Dubuque

“Se forzó un cajero automático; se tomaron decenas de miles de dólares”, dijo Bock. “Y esas cámaras fueron utilizadas, no solo nuestras cámaras, sino también las de Cedar Rapids, y los delincuentes finalmente fueron localizados y arrestados en Cedar Rapids”.

Los LAM comparan sus datos contra listas nacionales de criminalidad, como el Centro Nacional de Información Criminal, y notifican a las fuerzas del orden locales cuando una placa es marcada.

Advertisements

Las auditorías de búsqueda de múltiples agencias revelan que una orden de arresto no siempre es la razón por la que los agentes utilizan el sistema. En muchos casos, se da una razón más vaga para buscar en la red de Flock, como “sospechoso” o “investigación”.

Algunos residentes en ciudades donde se está instalando Flock dicen que los LAM generan sospechas, en lugar de actuar como una herramienta para resolver investigaciones.

La comunidad pausa la implementación a medida que crece la conciencia de los residentes

En Coralville, justo afuera de Iowa City, los miembros del consejo están reconsiderando la instalación de cámaras de Flock. Destinaron $36,000 para un contrato de dos años con Flock en abril, pero detuvieron la implementación después de que los residentes expresaron preocupaciones sobre la tecnología.

“Para mí, esto es una solución a un problema inexistente”, dijo el residente Ralph Stephens. “¿Qué delito rampante tenemos que aterrorice a los residentes y que estas cámaras vayan a prevenir?”

Durante el transcurso de un debate de horas, los miembros de la comunidad preguntaron qué pasaría con los datos después de que se guardaran y cómo el consejo se aseguraría de que los LAM se utilicen por las razones correctas.

“Quiero que consideren seriamente esta pregunta: ¿Se sienten cómodos con que la inteligencia artificial haga generalizaciones amplias sobre ustedes basándose únicamente en por dónde conducen, dónde se ubican con frecuencia, cerca de quién está su automóvil a menudo?” dijo Clara Reynen, quien vive en Iowa City.

Muchos constituyentes expresaron preocupación de que los sesgos sistémicos en la vigilancia policial se vean exacerbados por el uso de las cámaras de Flock.

“Estas herramientas no solo investigan crímenes, generan sospechas al usar inteligencia artificial para marcar patrones de viaje inocentes”, dijo Dan Waller, residente de Coralville.

James Kelley / Iowa Public Radio. Michael Roberts, residente de Iowa City, revela una lista de todas las agencias capaces de acceder a los datos del sensor LAM del Departamento de Policía de la Universidad de Iowa.

Es estándar que la mayoría de los clientes de Flock acepten que sus datos de LAM se eliminen después de 30 días del almacenamiento en la nube de la empresa, que es proporcionado por Amazon Web Services (AWS).

Muchos en la multitud apoyaron la implementación de las cámaras, citando ejemplos de que la tecnología es utilizada por los agentes para responder rápidamente a situaciones peligrosas.

“En los pocos meses que hemos tenido las cámaras en Cedar Rapids, personalmente he sido testigo de la recuperación de un enfermo de demencia que condujo a dos condados de distancia de su hogar y luego fue localizado gracias a las cámaras, así como la recuperación de un niño que fue llevado a otro estado por un cuidador contra los deseos de sus padres”, dijo Kent Christen, analista de inteligencia criminal del Departamento de Policía de Cedar Rapids.

Los proponentes de la tecnología en la reunión abordaron las preocupaciones de otros sobre la propiedad de los datos señalando que las personas ya hacen sacrificios en su privacidad personal al usar teléfonos celulares.

Si bien la ciudad tendría la propiedad total de los datos, el contrato otorga a Flock acceso para “realizar todos los actos necesarios” para que la empresa preste sus servicios.

“Ellos [Flock] dijeron que son nuestros datos”, dijo el jefe de policía de Coralville, Kyle Nicholson. “Nosotros somos dueños de los datos, pero se eliminan automáticamente después de 30 días. He hablado con otras agencias, y no han podido acceder a los datos en el día 30, a las 24 horas”.

Los miembros del consejo hicieron muchas de las mismas preguntas que sus constituyentes durante su discusión, reconociendo tanto el beneficio de proporcionar a las fuerzas del orden una herramienta para resolver crímenes, como permaneciendo reacios a utilizar un sistema que la ACLU ha calificado como una violación de la Cuarta Enmienda.

Samantha McIntosh / Iowa Public Radio. Erica Dubin-Barz con la ACLU de Iowa, dirige un taller educativo en la Biblioteca Pública de Coralville sobre los riesgos asociados con el uso de LAM por parte de las fuerzas del orden.

“Confío en nuestro personal; lo que no confío es en el sistema en sí, o en la empresa en sí”, dijo la miembro del consejo Hai Huynh. “Tengo preguntas que nuestro alcalde no pudo responder, nuestro personal no pudo responder, y no estoy de acuerdo con avanzar antes de que me respondan esas preguntas”.

La alcaldesa Meghann Foster sugirió invitar a un representante de Flock a una futura reunión del consejo para responder sus preguntas y decidió detener temporalmente el proceso de instalación de los LAM.

Flock afirma que los LAM están diseñados ‘con la transparencia en mente’

Aunque el Concejo Municipal de Coralville y el jefe de policía de la ciudad tuvieron dificultades para comprender ciertos aspectos de cómo funciona la tecnología de Flock, la empresa dijo que mantiene su compromiso con la confianza pública y la transparencia.

“Los lectores de matrículas (LAM) de Flock están diseñados con la privacidad y la transparencia en mente”, dijo el portavoz de Flock, Paris Lewbel. “Por defecto, las imágenes visuales de los vehículos y los datos vehiculares asociados capturados por nuestros dispositivos se eliminan automáticamente después de 30 días”.

Si bien Lewbel dijo que la retención de 30 días sigue siendo la práctica estándar, reconoció que algunos clientes conservan sus datos de LAM por más tiempo.

Advertisements

“Flock no incentiva una retención más prolongada”, dijo. “De hecho, la retención de 30 días es fundamental en nuestro enfoque y ha sido adoptada por la gran mayoría de nuestros clientes”.

En cuanto a quién es dueño de los datos enviados a la base de datos nacional de Flock, Lewbel dijo que los clientes mismos retienen el control incluso después de que los datos se cargan en la nube de AWS.

“Los datos de las cámaras de Flock no se cargan automáticamente a la Red Nacional de LAM”, dijo. “Las agencias locales deciden si, cuándo y con quién compartir sus datos, y pueden revocar el acceso en cualquier momento. Una agencia solo puede compartir datos de sus propias cámaras”.

Lewbel agregó que la empresa registra todas las búsquedas realizadas por una agencia en el sistema de Flock, aunque no mencionó si era evidente para los clientes qué agencias estaban accediendo a sus datos de LAM una vez que se habían cargado en la base de datos nacional de Flock o con qué propósitos.

El sistema de seguimiento que utiliza la empresa incluye tanto auditorías organizacionales (búsquedas realizadas por la agencia en sus propias cámaras) como auditorías de red, que son búsquedas realizadas por agencias externas con las que se comparten los datos.

Flock Safety. Cuando los agentes ingresan placas de vehículos en la interfaz del sistema operativo de Flock Safety, los datos se comparan con listas nacionales de criminalidad, como el Centro Nacional de Información Criminal. Si esa placa es captada por LAM en otra jurisdicción, se notifica a los agentes.

“Los registros de auditoría se conservan permanentemente, lo que permite a las agencias revisar cómo se está utilizando el sistema, por quién y con qué propósito”, dijo Lewbel.

Cuando los clientes utilizan la tecnología fuera de sus propósitos previstos, Lewbel dijo que la empresa puede actuar con rapidez y eliminar el acceso de inmediato si el intercambio de datos entra en conflicto con las políticas estatales o locales.

“Nuestra misión es garantizar que las comunidades puedan utilizar la tecnología que salva vidas de manera responsable, en consonancia con sus valores democráticos”, dijo.

Las solicitudes de registros abiertos parecen revelar vacíos en la supervisión de los LAM

Varias solicitudes de registros abiertos realizadas a múltiples agencias locales de aplicación de la ley en Iowa que utilizan la tecnología de Flock parecen mostrar que las únicas entidades que proporcionan supervisión a los sistemas LAM de Iowa son las propias agencias y la empresa.

Aunque algunas agencias hacen disponibles auditorías de búsqueda recientes a través de los Portales de Transparencia de Flock, a los que se puede acceder a través del sitio web de Flock, varios clientes en Iowa eligen no hacerlo.

IPR News solicitó auditorías de búsqueda tanto a nivel de red como internas de varias agencias locales con contratos de Flock que no se habían hecho públicas anteriormente y recibió la siguiente respuesta:

“Ha solicitado información que está restringida solo al personal de mando de las fuerzas del orden autorizado y se considera datos de inteligencia utilizados para fines de aplicación de la ley”, respondió Mayra Martinez, secretaria municipal de Storm Lake. “Los informes no pueden ser redactados porque se derivan completamente de datos de inteligencia confidenciales, que el Departamento de Policía de Storm Lake tiene prohibido divulgar excepto según lo autorizado expresamente por el Código de Iowa”.

Martínez dijo que los informes de auditoría del sistema de Flock son confidenciales según el código estatal de Iowa y están protegidos por fallos previos de la Junta de Información Pública de Iowa (IPIB).

En julio, en respuesta a una queja presentada por la Oficina del Defensor Público del Estado sobre los datos del sensor de Flock en Davenport, la IPIB dictaminó que los registros que contenían datos del sensor LAM estaban protegidos como datos de inteligencia, aunque el fallo no mencionaba específicamente las auditorías de búsqueda.

Los enlaces policiales en Cedar Rapids y en la Universidad de Iowa rechazaron las solicitudes de registros abiertos de IPR News para obtener datos de búsqueda de auditoría de red u organizacional por motivos similares.

“Esa información ya ha ido a los tribunales estatales, y esa información en Iowa se considera inteligencia investigativa”, dijo Mike Battien, especialista en comunicaciones de seguridad pública de Cedar Rapids.

El Departamento de Policía de Marshalltown proporcionó una hoja de cálculo de sus agentes que accedieron a Flock, pero no incluyó sus razones para hacerlo, también citando confidencialidad.

Los residentes dicen que se necesita más regulación estatal

Hendrik van Pelt es un desarrollador de software de los Países Bajos, que ahora vive en Guttenberg, en el noreste de Iowa.

La Junta de Información Pública de Iowa desestimó una queja presentada por van Pelt en 2023 respecto al acceso a los datos del sensor LAM, el mismo caso que se citó en la negativa de Storm Lake a divulgar sus auditorías de búsqueda de Flock.

En una entrevista, van Pelt dijo que, dado que las agencias de aplicación de la ley clasifican las auditorías de búsqueda de LAM como datos de inteligencia, los sistemas de Flock deben ser monitoreados por el Departamento de Seguridad Pública de Iowa (DPS) según la ley de Iowa.

“Se supone que deben auditar todos los sistemas que procesan datos de inteligencia regularmente, y tener regulaciones y procesos establecidos para ellos”, dijo van Pelt. “Me he comunicado con ellos un par de veces y no he recibido respuesta, y parecen no tener interés en hacer nada en relación con esos sistemas”.

Cortesía de Hendrik van Pelt
Hendrik van Pelt

Si los datos son datos de inteligencia, como han declarado múltiples agencias de aplicación de la ley, entonces deben recibir supervisión estatal según el Código de Iowa.

“El departamento [de seguridad pública] adoptará reglas diseñadas para asegurar la seguridad y confidencialidad de todos los sistemas establecidos para el intercambio de datos de antecedentes penales y datos de inteligencia entre agencias de justicia penal o juvenil”, establece el Capítulo 692 del Código de Iowa.

Portavoces de múltiples departamentos de policía, incluidos Cedar Rapids, West Des Moines y Urbandale, dijeron que no han tenido consultas ni contacto con el DPS de Iowa en relación con sus cámaras de Flock.

El DPS de Iowa no dijo, después de varias solicitudes, si la agencia tiene mecanismos para auditar los sistemas LAM de Flock en todo el estado.

Whartman, quien notó por primera vez las cámaras en Cedar Rapids, dijo que el estado debería tener una forma de regular más estrictamente los LAM.

“Esto debería venir de una agencia de supervisión en Iowa o algo así, o a nivel nacional”, dijo. “El hecho de que un tercero esté haciendo todo esto me parece una locura”.

A pesar de la poca regulación de la tecnología en constante cambio de Flock, el número de ciudades en Iowa que contratan a la empresa ha seguido aumentando.


Manténgase informado con historias que importan: visite HolaAmericaNews.com para obtener las últimas noticias, información cultural y actualizaciones comunitarias.

Facebook Comments

Advertisements