Britse Overheid Ontwikkelt Controversieel AI ‘Moordvoorspelling’ Hulpmiddel

De Britse regering werkt aan een controversieel project dat AI gebruikt om te voorspellen wie er in de toekomst mogelijk een moord zou kunnen plegen.

Het bestaan van het programma kwam aan het licht door verzoeken om informatie op basis van de vrijheid van informatie die zijn verkregen door de waakhondgroep Statewatch.

Hun bevindingen suggereren dat er gevoelige persoonlijke gegevens worden gebruikt. Dit omvat gezondheidsdossiers, informatie over geestelijke gezondheid, verslavingsgeschiedenis en gegevens over mensen die niet zijn veroordeeld voor enige misdaden.

Statewatch meldt dat het Ministerie van Justitie (MoJ) dit plan leidt, door bestaande autoriteitsrecords van mensen te onderzoeken om ernstige misdaden te voorkomen.

Oorspronkelijk genaamd het “moordvoorspellingsproject”, heet het nu “het delen van gegevens om risicobeoordeling te verbeteren”. Het project bevindt zich momenteel in een onderzoeksfase, maar campaigners en privacyvoorvechters hebben hun zorgen geuit, zoals gerapporteerd door Statewatch.

Echter, ambtenaren ontkennen dit. The Guardian meldt dat een woordvoerder van het Ministerie van Justitie verklaarde: “Dit project wordt alleen voor onderzoeksdoeleinden uitgevoerd. Het is ontworpen met gebruik van bestaande gegevens die door de HM Gevangenis- en Reclasseringsdienst en politiediensten worden bewaard over veroordeelde daders om ons te helpen het risico beter te begrijpen van mensen in reclassering die ernstig geweld plegen. Er zal te zijner tijd een rapport worden gepubliceerd.”

Volgens Statewatch deelde de politie in Greater Manchester gegevens van mogelijk een half miljoen mensen. Dit omvatte slachtoffers, verdachten en mensen in kwetsbare situaties.

Sofia Lyall, een onderzoeker bij Statewatch, bekritiseerde het project sterk en zei: “De poging van het Ministerie van Justitie om dit moordvoorspellingssysteem te bouwen is het nieuwste griezelige en dystopische voorbeeld van de intentie van de regering om zogenaamde misdaad ‘voorspellings’ systemen te ontwikkelen.”

Ze waarschuwde dat het systeem raciale en klasse discriminatie zou versterken: “Dit nieuwste model, dat gegevens gebruikt van onze institutioneel racistische politie en het ministerie van Binnenlandse Zaken, zal de structurele discriminatie die ten grondslag ligt aan het strafrechtelijk systeem versterken en vergroten.”

“Het gebruik van dergelijke gevoelige gegevens over geestelijke gezondheid, verslaving en handicap is zeer indringend en verontrustend,” voegde ze eraan toe.

De overheid beweert dat tools als deze de manier waarop reclasseringsdiensten risico’s kunnen beoordelen en gewelddadige criminaliteit kunnen voorkomen, kunnen verbeteren. Maar critici zeggen dat het systeem ertoe kan leiden dat mensen onterecht als potentiële moordenaars worden bestempeld vanwege gebrekkige en bevooroordeelde gegevens.

De overheid beweert dat deze tools de mogelijkheid van reclasseringsdiensten om risico’s te evalueren en gewelddadige misdaden te stoppen, zullen verbeteren. Critici waarschuwen echter dat het systeem het risico loopt mensen als potentiële moordenaars te bestempelen door slechte en bevooroordeelde gegevens.

Hoewel het nog in ontwikkeling is, meldt Statewatch dat documenten de “toekomstige operationalisering” van het systeem vermelden, wat zorgen oproept dat het binnenkort gebruikt zou kunnen worden in beslissingen van de echte politie.