Ella le dijo a la BBC que Clearview AI había sido utilizada casi un millón de veces por la policía de EE. UU.

La empresa de reconocimiento facial Clearview ha realizado casi un millón de búsquedas de la policía estadounidense, dijo su fundador a la BBC.

El CEO Hwan Tun también reveló que Clearview ahora tiene 30 mil millones de fotos eliminadas de plataformas como Facebook, tomadas sin los permisos de los usuarios.

La empresa ha sido multada reiteradamente con millones de dólares en Europa y Australia por violaciones de la privacidad.

Los críticos argumentan que el uso policial de Clearview pone a todos en una «línea policial perpetua».

«Cuando tienen una foto de un sospechoso, la comparan con tu cara», dice Matthew Guaragilia de Electronic Frontier Foundation. «Es muy agresiva».

El sistema Clearview permite que un agente de la ley cargue una foto de una cara y encuentre coincidencias en una base de datos de los miles de millones de fotos que ha recopilado.

Luego proporciona enlaces a donde aparecen las imágenes coincidentes en Internet. Es considerada una de las empresas de reconocimiento facial más poderosas y precisas del mundo.

La empresa tiene prohibido vender sus servicios a la mayoría de las empresas estadounidenses, después de que la Unión Estadounidense de Libertades Civiles (ACLU) llevara a Clearview AI a los tribunales en Illinois por violar una ley de privacidad.

Pero hay una excepción para la policía, dice Ton: su software es utilizado por cientos de fuerzas policiales en todo Estados Unidos.

La policía de los Estados Unidos no suele revelar si está utilizando el software, y son Prohibido en muchas ciudades de EE. UU. Incluyendo Portland, San Francisco y Seattle.

El uso del reconocimiento facial por parte de la policía a menudo se vende al público como si se usara solo para delitos graves o violentos.

En una rara entrevista con la policía sobre la efectividad de Clearview, la policía de Miami dijo que ha usado el software para todo tipo de delitos, desde asesinatos hasta robos en tiendas.

El subjefe de policía Armando Aguilar dijo que su equipo usa el sistema unas 450 veces al año y que ha ayudado a resolver muchos asesinatos.

Sin embargo, los críticos dicen que casi no hay leyes sobre el uso del reconocimiento facial por parte de la policía.

La policía de Miami trata el reconocimiento facial como un consejo, dice Aguilar. «No arrestamos porque un algoritmo nos lo diga», dice. «O ponemos ese nombre en un collage de fotos o empezamos a resolver el caso por medios convencionales».

Hay algunos casos documentados de identificación errónea mediante el reconocimiento facial por parte de la policía. Sin embargo, la falta de datos y transparencia sobre el uso policial significa que es probable que la cifra real sea mucho mayor.

Ton dice que no tiene conocimiento de ningún caso de identificación errónea usando Clearview. Está de acuerdo en que la policía realizó detenciones falsas utilizando tecnología de reconocimiento facial, pero lo atribuye a la «debilidad policial».

Clearview a menudo cita investigaciones que muestran una tasa de precisión cercana al 100%. Pero estos números a menudo se basan en fotografías policiales.

De hecho, la resolución de Clearview depende de la calidad de la imagen en la que se alimenta, algo que el Sr. Ton-That acepta.

Los activistas de los derechos civiles quieren que las fuerzas policiales que utilizan Clearview digan abiertamente cuándo se están utilizando, y que su precisión se pruebe abiertamente en los tribunales. Quieren que el algoritmo sea examinado por expertos independientes y se muestran escépticos ante las afirmaciones de la empresa.

Caitlin Jackson es una abogada de defensa criminal con sede en Nueva York que hace campaña contra el uso policial del reconocimiento facial.

«Creo que la verdad es que la idea de que esto es increíblemente preciso es una ilusión», dice. «No hay forma de saber cuándo estás usando imágenes en la naturaleza, como capturas de pantalla de CCTV».

Sin embargo, Ton-That le dijo a la BBC que no quería testificar en la corte sobre su exactitud.

«Realmente no queremos estar en la corte testificando sobre la precisión del algoritmo… porque los investigadores también usan otros métodos para verificarlo», dice.

Ton dice que recientemente entregó el sistema Clearview a los abogados defensores en casos específicos. Él cree que tanto los fiscales como los defensores deberían tener el mismo acceso a la tecnología.

El año pasado, se retiraron los cargos contra Andrew Conlin de Fort Myers, Florida, después de que usó Clearview para encontrar un testigo clave.

Conlin iba de pasajero en el auto de un amigo en marzo de 2017 cuando se estrelló contra palmeras a alta velocidad.

El conductor salió disparado del auto y murió. Un transeúnte sacó al Sr. Conlin de los escombros, pero se fue sin hacer una declaración.

Aunque el Sr. Conlin dijo que era el pasajero, la policía sospechó que conducía y lo acusó de homicidio vehicular.

Su abogado tenía una foto del transeúnte de las imágenes de la cámara corporal de la policía. Justo antes de su juicio, el Sr. Ton-That permite que se use Clearview en el caso.

Christopher O’Brien, el abogado defensor de Conlin, le dijo a la BBC: «Esta IA apareció entre tres y cinco segundos». «Fue fenomenal».

El testigo, Vince Ramírez, declaró que tomó al Sr. Conlin del asiento del pasajero. Poco después, se retiraron los cargos.

Pero aunque hay casos en los que Clearview ha tenido éxito, algunos creen que tiene un precio muy alto.

«Clearview es una empresa privada que bioimprime los rostros de las personas basándose en sus fotos en línea sin su consentimiento», dice Guaragilia.

«Es un gran problema de libertades civiles y derechos civiles, y necesita ser prohibido desesperadamente».

Los espectadores del Reino Unido pueden ver el documental Our World en Clearview AI en BBC iPlayer