Categories
A pearl of knowledge

[107] 14 October 2020: A-I enabled future crime

Inleiding en context

Woensdagochtend 14 oktober 2020, de ochtend na alweer een weinig vrolijk stemmende persconferentie betreffende de voorgestane aanpak rond het COVID-19 virus. Het is wat het is op dit moment, hopelijk dragen de nieuwe maatregelen bij tot het terugdringen van het virus. Vandaag een mooie ´kennisparel´ over de criminaliteit bevorderende rol van artificial intelligence (AI). Eerder verstuurde ik al ´kennisparel´ nummer 86 over Artificial Intelligence and Law Enforcement: Impact on Fundamental Rights, heb je interesse?, opvragen van die parel bij mij kan uiteraard.

Toepassingen van AI kunnen bijdragen aan een meer effectieve criminaliteitspreventie en opsporing. Echter, AI kan ook op verschillende manieren misbruikt worden door de criminele onderwereld voor criminele doeleinden. Het is dus zaak om vroegtijdig in kaart te brengen welke criminogene aspecten aan verschillende AI-toepassingen kleven. Bijgesloten artikel heeft betrekking op het in kaart brengen van diefstal- en criminaliteitsgevoeligheid van nieuwe (consumptie) goederen, diensten en systemen waar AI een belangrijke rol speelt. In feitewordt getracht om te voorzien (foreseeabilty of crime) hoe toepassingen met AI misbruikt kunnen worden voor criminele activiteiten. Door middel van interviews met 31 experts is informatie verkregen over de waarschijnlijkheid van crimineel misbruik van 20 categorieën van mogelijke AI veroorzakende criminaliteit. Onderstaande samenvatting geeft een opsomming van de meest voor crimineel misbruik risicovolle AI-toepassingen. Voor de snelle lezer heb ik een samenvattend artikel van het uitgebreide artikel bijgevoegd. 

Bron

Caldwell, M., J.T.A. Andrews, T. Tanay & L.D. Griffin (2020). A-I enabled future crime. Crime Science, vol. 9, no. 14, 5 August, pp. 1-13. https://crimesciencejournal.biomedcentral.com/articles/10.1186/s40163-020-00123-8

Samenvatting

As AI technology expands in capability and deployment, so do the risks of criminal exploitation. Opportunities for AI-enabled crime exist both in the specifically computational domain (overlapping with traditional notions of cybersecurity) and also in the wider world. Some of these threats arise as an extension of existing criminal activities, while others may be novel. To adequately prepare for and defend against possible AI threats, it is necessary to identify what those threats might be, and in what ways they are likely to impact our lives and societies.

A review was conducted to identify possible applications of artificial intelligence and related technologies in the perpetration of crime. The collected examples were used to devise an approximate taxonomy of criminal applications for the purpose of assessing their relative threat levels. The exercise culminated in a 2-day workshop on ‘AI & Future Crime’ with representatives from academia, police, defence, government and the private sector. The workshop remit was (i) to catalogue potential criminal and terror threats arising from increasing adoption and power of artificial intelligence, and (ii) to rank these threats in terms of expected victim harm, criminal profit, criminal achievability and difficulty of defeat. Eighteen categories of threat were identified and rated. Five of the six highest-rated had a broad societal impact, such as those involving AI-generated fake content, or could operate at scale through use of AI automation; the sixth was abuse of driverless vehicle technology for terrorist attack. See scheme below for the six identified highest risks of AI-enabled crimes.

Afsluitend

Uiteraard is het altijd lastig om uitspraken te doen over te verwachten ontwikkelingen op de criminaliteitsmarkt. Dat geldt zeker waar het te voorzien misbruik betreft van nieuwe technologie en AI-innovaties. Toch is het mede gezien de snelle ontwikkelingen op dit terrein van belang om dergelijke uitspraken te doen. Ondanks alle onzekerheden en onvolkomen kennis is het noodzakelijk om vroegtijdig in te schatten wat er mis kan gaan met nieuwe AI-toepassingen. Het biedt in ieder geval goede kansen om als effectief instrument te worden ingezet om criminaliteit in een vroeg stadium te voorkomen. Dit kan onder meer door een het ontwerpen van criminaliteitsbestendige AI-producten- en diensten.