Inleiding en context
Beste ´kennisparelontvangers´ het is vandaag dinsdag 21 december 2021. Alweer de kortste dag van het jaar, dus de optimisten onder ons kijken al weer uit naar de langste dag van volgend jaar. En om een beetje in de kerstsfeer te komen heb ik deze opgezocht: https://www.youtube.com/watch?v=l9Ohex7ebtQ Klassiek mag je wel zeggen. Maar goed, nu naar de ´kennisparel´ van vandaag waarin biometrie in het tijdperk van kunstmatige intelligentie (AI) wordt onderzocht op de invloed van huidige en toekomstige ontwikkelingen op de grondrechten. De bijgesloten ´kennisparel´ geeft een overzicht van de belangrijkste controverses rond de begrippen ‘remote biometrische identificatie’ (waaronder met name live gezichtsherkenning), ‘biometrische categorisering’ en wat ‘emotieherkenning’ wordt genoemd. Er zijn veel huidige en voorzienbare ontwikkelingen rond deze fenomenen die ernstige gevolgen kunnen hebben voor individuele grondrechten en voor de rechtsstaat. Ik heb voor de snelle lezer ook de informatieve samenvatting van de bijgesloten ´kennisparel´ bijgesloten.
Aangezien het gebruik van biometrische gegevens gemeengoed wordt in het tijdperk van kunstmatige intelligentie (AI) heeft deze studie tot doel de impact op de grondrechten van huidige en toekomstige ontwikkelingen in kaart te brengen en een overzicht te presenteren van relevante beleidsopties op het niveau van de Europese Unie (EU) . Met name het blijvend (´realtime´) volgen van personen in de openbare ruimte door middel van biometrische identificatie op afstand, al dan niet voor rechtshandhavingsdoeleinden, moet expliciet en ondubbelzinnig worden verboden volgens de auteurs. Dit vanwege de grote gevolgen die het zal hebben voor de grondrechten en de rechtsstaat. Voor de geïnteresseerde lezers, eerder verzond ik al ´kennisparels over kunstmatige intelligentie of artificial intelligence (AI) binnen de rechtshandhaving en criminaliteitsbestrijding: https://prohic.nl/2020/08/04/4-augustus-2020-artificial-intelligence-and-law-enforcement-impact-on-fundamental-rights/ Een ´kennisparel over de mogelijkheden van AI en risicobeoordeling door de politie: https://prohic.nl/2021/01/15/151-15-januari-2021-artificial-intelligence-predictive-policing-and-risk-assessment-for-law-enforcement/ en ten slotte één over de rol van AI in relatie tot grensbewaking binnen de Europese Unie: https://prohic.nl/2021/08/18/253-18-augustus-2021-artificial-intelligence-at-eu-borders-overview-of-applications-and-key-issues/ Allemaal kennis om van te leren lijkt mij.
Bron
González Fuster, Gloria & Michalina Nadolna Peeters (December 2021). Person identification, human rights and ethical principles: Rethinking biometrics in the era of artificial intelligence. Brussels: European Parliament, European Parliamentary Research Service, Scientific Foresight Unit, 81 pp. https://www.europarl.europa.eu/thinktank/en/document/EPRS_STU(2021)697191
Samenvatting
As the use of biometrics becomes commonplace in the era of artificial intelligence (AI), this study aims to identify the impact on fundamental rights of current and upcoming developments, and to put forward relevant policy options at European Union (EU) level. Taking as a starting point the proposal for a regulation of the European Parliament and of the Council laying down harmonised rules on AI, presented by the European Commission in April 2021, the study reviews key controversies surrounding what the proposal addresses through the notions of ‘remote biometric identification’ (which most notably includes live facial recognition), ‘biometric categorisation’ and so-called ‘emotion recognition’. Identifying gaps in the proposed approaches to all these issues, the study puts them in the context of broader regulatory discussions. More generally, the study stresses that the scope of the current legal approach to biometric data in EU law, centred on the use of such data for identification purposes, leaves out numerous current and expected developments that are not centred on the identification of individuals, but nevertheless have a serious impact on their fundamental rights and democracy.
This study has been prepared on the basis of desk research. The focus of the study is the EU framework, although due consideration has also been given to international developments when relevant. The study first provides an overview of current trends in biometrics and AI, including technological considerations and information about notable uses, as well as specific information in relation to remote biometric identification, emotion recognition and biometric categorisation. Second, it presents the regulatory framework, illustrating that ongoing developments in the area of biometrics and AI do not occur in a legal vacuum, but amid pre-existing legal provisions and overarching EU fundamental rights obligations. Third, it reviews current policy discussions, in particular in the EU and as embodied by the European Commission’s proposal for a regulation on AI, and then puts forward policy options.
Afsluitend
Beslissingen worden meer en meer gebaseerd op algoritmes die met kunstmatige intelligentie zijn gemaakt. Dat brengt grote risico’s met zich mee, als burgers geconfronteerd worden met beslissingen waar men zich niet tegen kan verweren mede omdat niet helder is hoe die tot stand komen. Tegelijk weten we dat statistische gegevens vaak beter in staat zijn risico’s te beoordelen dan op ervaring gegronde oordelen. Er zal nadere regulering moeten komen voor de toepassing van algoritmes, waarvan belangrijke elementen zijn transparantie over hun werking, toetsing op discriminerende vertekening en finale menselijk betrokkenheid bij de toepassing van de uitkomsten. Bijgesloten ´kennisparel´ doet daartoe negen beleidsopties, ook om van te leren binnen de Nederlandse context.
Tot zover maar weer, blijf gezond, optimistisch en wees vooral aardig voor elkaar. Alleen zo gaan we echt solidair met elkaar om. Tot de volgende ´kennisparel´ die over een paar dagen in jullie mailbox valt.