axón, la compañía informó que suministra 47 de las 69 agencias de policía más grandes de los Estados Unidos con cámara y ayudas corporales Jueves que dejará de utilizar sistemas de reconocimiento facial en sus dispositivos.

"La tecnología de reconocimiento facial actualmente no es confiable para justificar la ética de su uso", concluyó el comité de ética independiente de la compañía.

Si bien los sistemas de reconocimiento facial están extendidos por compañías de privacidad, desde aerolíneas hasta fabricantes de teléfonos inteligentes, las instituciones de todo el país enfrentan el uso de herramientas algorítmicas de vigilancia gubernamental.

En mayo, la Junta de Supervisión de San Francisco votó a favor de prohibir el uso de la tecnología de reconocimiento facial por parte de la policía de la ciudad y otras agencias. Otras ciudades, incluyendo Berkeley y Oakland, California, y Somerville, Massachusetts. Están siendo examinados o apagados con paradas. A principios de este meses, los legisladores de California anunciaron que están considerando una prohibición en todo el país para el reconocimiento facial en las cámaras del grupo policial.

En uno El informe de 28 páginas.La Junta de Ética de Axon, que fue seleccionada por miembros de la Facultad de Derecho de la Facultad de Derecho de la Universidad de Nueva York, argumentó que la tecnología "no hace lo mismo con las personas de color en comparación con los blancos, las mujeres en comparación con los hombres". O jóvenes comparados con personas mayores ".

El informe también advirtió que el reconocimiento facial es particularmente propenso a la inexactitud cuando se usa con cámaras de cuerpo de policía, que a menudo operan en condiciones de luz y producen imágenes inestables.

"La tecnología no es muy precisa", dijo Barry Friedman, director fundador de N.Y.U. y un miembro de la junta de ética. "Hasta que esto no se resuelva, no necesitamos decir una palabra más, y eso puede ser años".

El movimiento de Axon es un raro alejamiento del estilo de "movimiento rápido y ruptura de cosas", tradicionalmente asociado con las nuevas tecnologías. Y bien puede mostrar que cuando se trata de cara a cara y de privacidad, la vigilancia puede ser el lugar en el que tiramos de la línea.

Es un momento decisivo para el reconocimiento facial. Aunque la mayoría de los departamentos de policía aún no lo han establecido, algunos usos de la ley han sido preocupantes.

Este año, los investigadores encontraron Detroit firmó un acuerdo de $ 1 millón con un vendedor para monitorear continuamente cientos de cámaras públicas en toda la ciudad sin la aprobación de los ciudadanos. En mayo, Clare Garvie, una investigadora de reconocimiento facial en Georgetown Law, descubrió tácticas de boceto utilizadas por N.Y.P.D. para hacer coincidir las pantallas de las cámaras de seguridad con potenciales sospechosos que parecían celebridades.

(Si está en línea y, bueno, sí lo está, es probable que alguien esté usando su información. Le mostraremos lo que puede hacer al respecto. Suscríbete a nuestro boletín limitado.)

Las limitaciones técnicas y el sesgo de la inteligencia facial tampoco son bien comprendidas por las compañías que comercializan los sistemas, lo que hace que la vigilancia de su uso en el mundo real sea particularmente problemática.. Mientras tanto, a los críticos les preocupa que el despliegue generalizado de tecnología se arriesgue a sentar las bases de un estado de vigilancia integral (ver solo en China).

"Ahora hay una carrera al final de esta tecnología y el desafío es detener el ascensor antes de pasar por el primer piso", dijo el Sr. Friedman. Es algo que el informe de la junta de ética de Axon tuvo dificultades para cambiar. Según el informe de la junta de ética, en las primeras conversaciones sobre el reconocimiento facial, Axon inicialmente argumentó que él "no podía dictar a los consumidores cómo se usaban los productos, ni las políticas de sus clientes y que no podían patrullar el mal uso de su producto". Esta es la versión Big Tech de "las armas no matan a las personas, las personas matan a las personas". Esta es una visión generalizada en toda la industria.

Friedman espera que la promesa de Axon obligue a otros vendedores a pensar en dónde se puede ejecutar la nueva tecnología y cómo puede afectar a los más vulnerables. "Queremos que lo recuerden solo porque puedes construirlo, no significa que lo necesites".

El objetivo final de la junta de ética sigue adelante: obligar a la empresa a ver que el cliente de los productos Axon no es la aplicación de la ley, sino "la comunidad a la que sirven para las organizaciones de seguridad pública y de la ley".

La prohibición de Axon no es necesariamente infalible. Un portavoz de Axon confirmó que los funcionarios encargados de hacer cumplir la ley podrían descargar las imágenes del cuerpo de Axon y luego transferirlas a un servicio de terceros, como la descripción de Amazon. Sin embargo, Eric Piza, profesor asociado de la Facultad de Justicia Criminal John Jay, dijo que el proceso requiere mucho tiempo y que requiere gastar dinero para otro servicio de tecnología. "Si seis oficiales responden a una escena, son horas de trabajo y costos adicionales, lo que puede reducir las posibilidades de que usen tecnología", dijo.

Sin embargo, el Sr. Piza ve la moratoria de Axon como un paso importante. "Todo el mundo está preocupado por la gran cantidad de datos que la policía y ponen privacidad en las finanzas a corto plazo no es algo que veamos lo suficiente".

La decisión de Axon no se detendrá por completo. aplicación de la ley Por el uso de la tecnología, los departamentos de policía todavía pueden usarla en la videovigilancia, por ejemplo. Y el progreso real tendrá que venir de la regulación a nivel municipal, estatal o federal.

Pero este movimiento demuestra el potencial de las juntas de ética independientes para ayudar a las compañías guiadas por la tecnología cuyos productos pueden cambiar drásticamente la vida pública. Si los cuidadores de nuestras compañías de tecnología más grandes no actúan con conciencia interna, lo menos que pueden hacer es externalizar una.

Al igual que otras compañías de medios, The Times recopila datos para sus visitantes cuando leen historias como esta. Para más detalles, por favor vea nuestra política de privacidad y descripción de nuestro editor Prácticas de The Times y pasos continuos para aumentar la transparencia y protección.

seguir @privacyproject en Twitter y en la sección de opinión del New York Times Facebook y Instagram.

Leave a Reply