Categorieën
Een kennisparel van Jaap de Waard

[151] 15 januari 2021: Artificial Intelligence, Predictive Policing, and Risk Assessment for Law Enforcement

Brief

Inleiding en context

Vrijdagmorgen 15 januari 2021, ook deze nieuwe maand van het verse jaar 2021 is weer door midden. Vanochtend een zeer recente ´kennisparel´ rond ´Artificial Intelligence, Predictive Policing, and Risk Assessment for Law Enforcement´. Ik kreeg de publicatie gisteravond van de auteur in kwestie. Een onderwerp dat ook in Nederland volop in de belangstelling staat, niet allen binnen de politieorganisatie, maar ook in de discussie over het te voeren criminaliteitsbeleid hieromtrent. Zo´n bijgesloten overzicht levert dus kennis op die in dit geval precies op tijd komt om te gebruiken in die lopende discussie. Dis is een goed voorbeeld van ´need to know en not nice to know´. Een kleine tien maanden geleden heb ik trouwens rond predictive policing de kennisparel de predictiepolitie verstuurd: https://prohic.nl/2020/03/23/5-23-maart-2020-de-predictiepolitie/

Bijgesloten overzicht biedt de meest recente inzichten rond dat onderwerp maar combineert dat tevens met de mogelijkheden van artificiële intelligentie en risicobeoordeling door de politie. Beslissingen worden meer en meer gebaseerd op algoritmes die met kunstmatige intelligentie zijn gemaakt. Dat brengt grote risico’s met zich mee, als burgers geconfronteerd worden met beslissingen waar men zich niet tegen kan verweren mede omdat niet helder is hoe die tot stand komen. De hele affaire met de toeslagen is hier een pregnant voorbeeld van. Tegelijk weten we dat statistische gegevens vaak beter in staat zijn risico’s te beoordelen dan op ervaring gegronde oordelen. Er zal nadere regulering moeten komen voor de toepassing van algoritmes, waarvan belangrijke elementen zijn transparantie over hun werking, toetsing op discriminerende vertekening, en finale menselijk betrokkenheid bij de toepassing van de uitkomsten. Mijn oud-collega Bert Berghuis heeft hier een prima column over gepubliceerd:  https://ccv-secondant.nl/platform/article/algoritmes-en-de-menselijke-maat

Maar nu naar bijgesloten kennisoverzicht van vanochtend.

Bron

Berk, Richard A. (January 2021). Artificial Intelligence, Predictive Policing, and Risk Assessment for Law Enforcement. Annual Review of Criminology, vol. 4, January, pp. 209-237. https://www.annualreviews.org/doi/abs/10.1146/annurev-criminol-051520-012342

Samenvatting

There are widespread concerns about the use of artificial intelligence in law enforcement. Predictive policing and risk assessment are salient examples. Worries include the accuracy of forecasts that guide both activities, the prospect of bias, and an apparent lack of operational transparency. Nearly breathless media coverage of artificial intelligence helps shape the narrative. In this review, we address these issues by first unpacking depictions of artificial intelligence. Its use in predictive policing to forecast crimes in time and space is largely an exercise in spatial statistics that in principle can make policing more effective and more surgical. Its use in criminal justice risk assessment to forecast who will commit crimes is largely an exercise in adaptive, nonparametric regression. It can in principle allow law enforcement agencies to better provide for public safety with the least restrictive means necessary, which can mean far less use of incarceration. None of this is mysterious. Nevertheless, concerns about accuracy, fairness, and transparency are real, and there are tradeoffs between them for which there can be no technical fix. You can’t have it all. Solutions will be found through political and legislative processes achieving an acceptable balance between competing priorities.

Afsluitend

De toekomst van het toepassen van voorspellen en risicobeoordeling binnen de politieorganisatie is dichtbij en eigenlijk al gearriveerd. Critici wijzen op de noodzaak van transparantie en toezicht op de door de politie gehanteerde nieuwe methoden. Ondanks goede intenties kunnen deze onder meer discriminatoire prakijken bevorderen en een bedreiging vormen voor elementaire burgerrechten. De val vandaag van het Kabinet laat zien dat dit gegeven een harde realiteit is.