Inleiding en context
Beste mensen, het is vandaag maandag 3 juli 2023. Een verse nieuwe maand ligt voor ons. Voor sommige ´kennisparelontvangers´ lonkt een vakantie, voor andere een nieuwe werkmaand. Maak er in ieder geval wat moois van. Ik begin met een toepasselijk liedje bij de ´kennisparel´ van vandaag: https://www.youtube.com/watch?v=abu2otMwDo4 Ik was toen een ´jonge punker´, mooie tijden. Maar nu naar de werkelijkheid van het jaar 2023. Er is heel veel discussie over de toepassing van Artificial Intelligence (AI). Eerder verstuurde ik daarover al de volgende pareltjes: 86;151;253;314;535; en 546. Allemaal gratis te downloaden vanaf: https://prohic.nl/de-parels-van-jaap-de-waard/
De bijgesloten ´kennisparel´ van vandaag gaat in op de huidige discussie die in de ´Brusselse arena´ wordt gevoerd over AI. De Europese Commissie heeft een voorstel ingediend voor een EU-regelgevingskader voor kunstmatige intelligence (AI) in april 2021. Het wetsontwerp AI is de eerste poging ooit om een horizontale verordening vast te stellen voor AI. Het voorgestelde wettelijk kader richt zich op het specifieke gebruik van AI-systemen en aanverwante risico’s. De Commissie stelt voor om in de EU-wetgeving een technologie neutrale definitie van AI-systemen vast te stellen en om een classificatie vast te stellen voor AI-systemen met verschillende eisen en verplichtingen op maat op een ‘risico gebaseerde benadering’.
Sommige AI-systemen die ‘onaanvaardbare’ risico’s met zich meebrengen, zouden verboden worden. Een breed scala aan AI-systemen met een hoog risico zou worden toegestaan, maar wordt onderworpen aan een reeks vereisten en verplichtingen om toegang te krijgen tot de EU-markt. Die AI-systemen die slechts ‘beperkt risico’ opleveren worden onderworpen zijn aan zeer lichte transparantieverplichtingen. De Raad stemde in met het algemeen standpunt van de EU-lidstaten in december 2021. Het Parlement stemde in juni 2023 over zijn standpunt. EU-wetgevers zijn nu bezig met het starten van onderhandelingen om de nieuwe wetgeving af te ronden. Dat zal substantiële wijzigingen met zich mee brengen in het voorstel van de Commissie en omvat onder meer een herziening van de definitie van AI-systemen en een verruiming van de lijst van verboden AI-systemen. Tevens is men voornemens om verplichtingen op te leggen aan AI-modellen voor algemeen gebruik en generatieve AI-modellen zoals ChatGPT.
Bijgesloten ´kennisparel´ biedt een mooi overzicht over de Brusselse discussie rond AI. Het gaat in op het toepasselijke juridische kader (met name met betrekking tot gegevensbescherming) en analyseert belangrijke maatschappelijke en technologische trends en de belangrijke (beleid)discussies daarover.
Bron
Madiega, Tambiama (June 2023). Artificial intelligence act. Brussels: European Parliamentary Research Service, 12 pp. https://www.europarl.europa.eu/RegData/etudes/BRIE/2021/698792/EPRS_BRI(2021)698792_EN.pdf en de bijbehorende podcast: https://www.europarl.europa.eu/rss/podcast/eprs-policy-podcast/mp3/2021/20211210-artificial-intelligence-act.mp3
Summary
AI technologies are expected to bring a wide array of economic and societal benefits to a wide range of sectors, including environment and health, the public sector, finance, mobility, home affairs and agriculture. They are particularly useful for improving prediction, for optimising operations and resource allocation, and for personalising services. However, the implications of AI systems for fundamental rights protected under the EU Charter of Fundamental Rights, as well as the safety risks for users when AI technologies are embedded in products and services, are raising concern. Most notably, AI systems may jeopardise fundamental rights such as the right to non-discrimination, freedom of expression, human dignity, personal data protection and privacy. Given the fast development of these technologies, in recent years AI regulation has become a central policy question in the European Union (EU). Policy-makers pledged to develop a ‘human-centric’ approach to AI to ensure that Europeans can benefit from new technologies developed and functioning according to the EU’s values and principles.
The European Commission tabled a proposal for an EU regulatory framework on artificial intelligence (AI) in April 2021. The draft AI act is the first ever attempt to enact a horizontal regulation for AI. The proposed legal framework focuses on the specific utilisation of AI systems and associated risks. The Commission proposes to establish a technology-neutral definition of AI systems in EU law and to lay down a classification for AI systems with different requirements and obligations tailored on a ‘risk-based approach’. Some AI systems presenting ‘unacceptable’ risks would be prohibited. A wide range of ‘high-risk’ AI systems would be authorised, but subject to a set of requirements and obligations to gain access to the EU market.
Those AI systems presenting only ‘limited risk’ would be subject to very light transparency obligations. The Council agreed the EU Member States’ general position in December 2021. Parliament voted on its position in June 2023. EU lawmakers are now starting negotiations to finalise the new legislation, with substantial amendments to the Commission’s proposal including revising the definition of AI systems, broadening the list of prohibited AI systems, and imposing obligations on general purpose AI and generative AI models such as ChatGPT. Second edition. The ‘EU Legislation in Progress’ briefings are updated at key stages throughout the legislative procedure.
Afsluitend
AI heeft talloze toepassingen die al in de samenleving zijn geïntroduceerd: biometrische (inclusief gezichts-) herkenning, objectherkenning, risico- en succesvoorspelling, algoritmisch besluitvorming of ondersteuning, automatische vertaling, aanbevelingssystemen, enzovoort. Deze AI-toepassingen hebben hun weg gevonden naar vele sectoren in de maatschappij zoals rechtshandhaving, justitie, mens en middelenbeheer, financiële diensten, transport, gezondheidszorg en openbare diensten. Deze toepassingen hebben bijzondere impact op mensenrechten, de democratie en de rechtsstaat in het algemeen.
Het feit dat AI bestaande vooroordelen kan bevestigen of versterken, is vooral relevant bij gebruik binnen de rechtshandhaving en criminaliteitsbestrijding. In situaties waar fysieke vrijheid of persoonlijke veiligheid op het spel staan, zoals bij predictive policing, en recidive risico bepaling en veroordeling is het zaak om hier zeer kritisch op te zijn. Wanneer een AI-systeem bijvoorbeeld wordt gebruikt voor recidivevoorspelling of veroordeling kan dat vertrekkende gevolgen hebben voor de betrokken individuen. Het kan fungeren als een black box waardoor het onmogelijk is voor juridische professionals, zoals rechters, advocaten en officieren van justitie om de redenering achter de uitkomsten van het systeem te begrijpen.
Beslissingen worden meer en meer gebaseerd op algoritmes die met kunstmatige intelligentie zijn gemaakt. Dat brengt grote risico’s met zich mee, als burgers geconfronteerd worden met beslissingen waar men zich niet tegen kan verweren mede omdat niet helder is hoe die tot stand komen. Tegelijk weten we dat statistische gegevens vaak beter in staat zijn risico’s te beoordelen dan op ervaring gegronde oordelen. Er zal nadere regulering moeten komen voor de toepassing van algoritmes, waarvan belangrijke elementen zijn transparantie over hun werking, toetsing op discriminerende vertekening, en finale menselijk betrokkenheid bij de toepassing van de uitkomsten. Bijgesloten ´kennisparel´ geeft een mooi recent systematisch overzicht hoe hier mee om te gaan. Een discussie die nog lang niet is afgerond. AI zal de komende jaren een voortdurende aandacht nodig hebben om de kansen maar ook bedreigingen op een systematische en op evidentie gebaseerde wijze te voeren.
Tot zover maar weer, blijf gezond, optimistisch en wees vooral aardig voor elkaar. Alleen zo gaan we echt solidair met elkaar om. Tot de volgende ´kennisparel´ die valt in de regel op maandag, dinsdag en donderdag in jullie mailbox.