Categorieën
Archief Kennisparels

[264] 7 september 2021: Algorithms and Decision-Making in the Public Sector

Inleiding en context

Allemaal een hele fijne Indian Summer dag toegewenst op deze dinsdag 7 september 2021. Vandaag een prima overzichtsartikel over het gebruik van algoritmen en besluitvorming binnen de publieke sector. Beslissingen binnen de publieke sector, ook op het terrein van politie en justitie, worden steeds vaker gebaseerd op algoritmes die met kunstmatige intelligentie zijn gemaakt. Algoritmische of geautomatiseerde beslissingssystemen gebruiken gegevens en statistische analyses om mensen te classificeren om te beoordelen of ze in aanmerking komen voor een uitkering of boete. Ze worden ook gebruikt in de publieke sector, onder meer voor de levering van overheidsdiensten, en in strafrechtelijke veroordelingen en reclasseringsbeslissingen.

Dat kan grote risico’s met zich mee brengen, zoals discriminatie en een gebrek aan transparantie. De toeslagenaffaire in Nederland is hier een voorbeeld van. Strikte regulering is dan ook van het grootste belang. In dit verband is de ontwikkeling in EU-kader van belang, waarin ethische grondslagen voor het gebruiken van kunstmatige intelligentie worden geformuleerd: https://eur-lex.europa.eu/legal-content/EN/TXT/?qid=1623335154975&uri=CELEX%3A52021PC0206 Naast non-discriminatie moet het onder meer ook gaan over finale menselijke controle op de werking en uitkomsten van het toegepaste systeem en transparantie. Daardoor kunnen betrokken individuen over wie wordt geoordeeld de basis kennen van de kunstmatige-intelligentiebeslissing. Maar nu naar de bijgesloten ´kennisparel´ van deze mooie zonnige dag.

Bron

Levy, Karen, Kyla E. Chasalow & Sarah Riley (October 2021). Algorithms and Decision-Making in the Public Sector. Annual Review of Law and Social Science, volume 17, pp. 1-26. https://www.annualreviews.org/doi/abs/10.1146/annurev-lawsocsci-041221-023808

Samenvatting

This article surveys the use of algorithmic systems to support decision-making in the public sector. Governments adopt, procure, and use algorithmic systems to support their functions within several contexts—including criminal justice, education, and benefits provision—with important consequences for accountability, privacy, social inequity, and public participation in decision-making. We explore the social implications of municipal algorithmic systems across a variety of stages, including problem formulation, technology acquisition, deployment, and evaluation. We highlight several open questions that require further empirical research.

Public-sector algorithmic systems raise daunting questions about how to ensure government transparency, accountability, and control over their own systems—but they also provide opportunities for transparency and accountability as well as more careful design and explicit problem formulation. The duality between challenge and opportunity is a recurring theme in the algorithmic life cycle. In this article, we have traced it from problem formulation, where algorithms can make goals and trade-offs explicit but may also tame wicked problems without addressing root causes; through data acquisition and procurement, where data integration and public–private partnerships expand government resources but come with dangers; and finally to governance, deployment, and evaluation,

where algorithms raise legitimate fears but can also become scapegoats. The algorithmic life cycle we present here represents not so much a single lifeline as a collage formed from many arenas, playing out across “federalism’s workhorses.” It brings into focus important sites for social research. For researchers, the challenge is to make sense of this space amid ambiguous scope, much variety, and high stakes—particularly at the local level, where many of the algorithms that directly impact public life reside. The opportunity is to better understand not just a technology but society and its algorithm-mediated future.

Afsluitend

Een groeiend aantal regeringen en organisaties in de publieke sector passen kunstmatige-intelligentiehulpmiddelen en -technieken toe om hen te helpen bij hun activiteiten. Dit varieert van verkeerslichtbeheersystemen die hulpdiensten door drukke straten in de stad leiden, tot chatbots die op intelligente wijze vragen beantwoorden op overheidswebsites. De toepassing van algoritmen die burgers waarschijnlijk de meeste zorgen baart, is waar machine learning wordt gebruikt om algoritmen te creëren die de besluitvorming en beoordelingen door personeel van de publieke sector automatiseren of ondersteunen.

Hoewel sommige van dergelijke beslissingen en beoordelingen weinig impact hebben, zoals het al dan niet uitvaardigen van een parkeerboete, hebben andere mogelijk grote persoonlijke gevolgen, zoals het aanbieden van een individuele sociale woning of het afgeven van een proeftijd voor reclassenten. De algoritme-ondersteunde besluitvorming in de publieke sector zal de komende jaren alleen maar toenemen. De kernvraag is hoe kunnen we hier de controle en regulering over houden en ervoor zorgen dat algoritmen betrouwbaar zijn wanneer de ontwikkeling vele malen sneller is dan het te ontwikkelen beleid? Welke rol moeten het Europees Parlement en de nationale regeringen spelen om deze technologieën te reguleren, en welke waarde zou internationale samenwerking opleveren? Allemaal kernvragen waarop geen eenvoudige antwoorden beschikbaar zijn. Voer voor beleid, wetenschap en praktijk.