De politie van New Orleans heeft twee jaar lang stiekem gebruik gemaakt van gezichtsherkenning om straten te bewaken

Gedurende twee jaar hebben de politie van New Orleans in het geheim live gezichtsherkenning camera’s gebruikt om verdachten in realtime te volgen, in wat lijkt te zijn het eerste programma van dit soort in een grote Amerikaanse stad.

Een onderzoek van The Washington Post onthulde dat het bewakingssysteem, uitgevoerd met de hulp van een private non-profitorganisatie genaamd Project NOLA, openbare straatscans uitvoerde en mobiele meldingen naar agenten stuurde over mogelijke overeenkomsten.

Het systeem functioneerde zonder dat het publiek het wist en overtrad de stadsverordening van 2022, die gezichtsherkenning beperkt tot onderzoeken naar gewelddadige misdrijven en geen algemeen toezicht omvat.

“Dit is het nachtmerriescenario van de gezichtsherkenningstechnologie waar we ons zorgen over hebben gemaakt,” zei Nathan Freed Wessler van de ACLU, zoals gerapporteerd door The Post. “Dit is de overheid die zichzelf de macht geeft om iedereen – om het even wie – te volgen terwijl we ons leven leiden in het openbaar,” voegde hij eraan toe.

De Post meldt dat sinds begin 2023 het programma heeft geleid tot de arrestatie van ten minste 34 personen, waaronder mensen die zijn aangeklaagd voor niet-gewelddadige overtredingen. Agenten maakten vaak geen melding van het gebruik van gezichtsherkenning in hun rapporten, en geen van de zaken verscheen in de verplichte rapporten van de afdeling aan de gemeenteraad.

Politiechef Anne Kirkpatrick staakte het programma in april nadat een kapitein juridische zorgen had geuit. “We gaan doen wat de verordening zegt […] en als we ontdekken dat we buiten die dingen vallen, gaan we stoppen, het corrigeren en binnen de grenzen van de verordening komen,” zei ze, zoals gemeld door The Post.

De stad bekijkt nu hoe de technologie werd gebruikt en bespreekt updates van de verordening. Kirkpatrick steunt de wettelijke implementatie van gezichtsherkenningstechnologie, op voorwaarde dat deze transparant werkt.

“Kun je de technologie hebben zonder te overtreden en te surveilleren?” vroeg ze, meldt The Post. “Ja, dat kan. En dat is waar we voor pleiten.”

Er zijn geen federale regels die het gebruik van gezichtsherkenning door de plaatselijke politie reguleren. Maar critici waarschuwen dat de technologie kan leiden tot onterechte arrestaties en schendingen van de burgerrechten, vooral wanneer deze in het geheim wordt gebruikt.

Dit gebrek aan openheid over het gebruik van gezichtsherkenning tijdens arrestaties levert grote problemen op met betrekking tot eerlijkheid en transparantie in heel de Verenigde Staten.

Een eerder onderzoek onthulde meer dan 1.000 strafzaken in 15 staten waar de politie niet onthulde dat er gebruik was gemaakt van gezichtsherkenningstechnologie.

Politieafdelingen vermeden doorgaans het onthullen van het gebruik van software door het verzamelen van bewijs toe te schrijven aan andere onderzoeksmethoden of getuigenverklaringen. Het gebrek aan transparantie voorkomt dat verdachten mogelijk incorrect bewijs kunnen betwisten, omdat is gebleken dat gezichtsherkenningssystemen discriminerend zijn tegenover mensen van kleur, vrouwen en oudere volwassenen.

Een vergelijkbaar geval in Detroit trok landelijke aandacht nadat Robert Williams ten onrechte werd gearresteerd in 2020 door een fout in gezichtsherkenning. Zijn rechtszaak leidde tot nieuwe politieregels die onafhankelijk bewijs vereisen naast algoritmische matches. De hervormingen zijn bedoeld om onterechte arrestaties te voorkomen en raciale vooringenomenheid in AI-systemen aan te pakken.