Inleiding en context

Goede morgen beste mensen, het is vandaag maandag 2 mei 2022. Een nieuwe maand, dus nieuwe kansen, deze is voor de nieuwe morgen: https://www.youtube.com/watch?v=uZAsfB1Np-8 Ik merk uit de afwezigheidsmelders dat er flink wat vakanties worden gevierd, geniet ervan! Vandaag een ´kennispareltje´ over zogenaamde ´deepfakes´ en de uitdagingen daarvan voor de rechtshandhaving. Een deepfake is beeld, geluid of ander materiaal dat nep is. Met machine learning en artificial intelligence wordt nieuwe digitale content gemaakt uit bestaande video’s, stemmen en afbeeldingen. Kwalitatief goede deepfakes zijn niet of nauwelijks van echt te onderscheiden. En dat geeft op allerlei terreinen problemen, ook de wijze waarop de politie hiermee moet omgaan. De bekendste deepfakes zijn waarin het gezicht van de ene persoon wordt verwisseld met dat van een ander. Deepfakes zijn dus teksten, beelden, video’s en audio-bewerkingen die door kunstmatige intelligente software zijn gemaakt. De term deepfake combineert de Engelse woorden deep en fake. Deep verwijst naar de kunstmatig intelligente deep learning-netwerken. Fake staat voor nep.

Onlangs verscheen ook een in opdracht door het WODC onderzoek naar het fenomeen. In dat onderzoek is gekeken naar de negatieve toepassingen en gevolgen van deepfake zoals pornografie, fraude en misleiding, haat zaaien, het verspreiden van misinformatie en het beïnvloeden van democratische verkiezingen. Naast kwalijke gevolgen voor direct betrokkenen kunnen deepfakes ook maatschappelijke gevolgen hebben. Daarbij valt te denken aan een afnemend vertrouwen in de media, de democratie en de rechtspraak als van veel digitale content niet meer duidelijk is of het authentiek is. Betreffende onderzoek is te downloaden vanaf: https://repository.wodc.nl/handle/20.500.12832/3134 Eerder verstuurde ik deze ´kennisparel´ over het onderwerp: https://prohic.nl/2021/08/02/245-2-augustus-2021-tackling-deepfakes-in-european-policy/ Maar nu naar de door EUROPOL uitgegeven ´kennisparel´ van vandaag.

Bron

EUROPOL (April 2022). Facing reality?: Law enforcement and the challenge of deepfakes. The Hague: EUROPOL, 23 pp. https://www.europol.europa.eu/cms/sites/default/files/documents/Europol_Innovation_Lab_Facing_Reality_Law_Enforcement_And_The_Challenge_Of_Deepfakes.pdf

Summary

‘Facing reality? Law enforcement and the challenge of deepfakes’ is the first report produced through the Observatory function of the Europol Innovation Lab. The Europol Innovation Lab’s Observatory function monitors technological developments that are relevant for law enforcement and reports on the risks, threats and opportunities of these emerging technologies. The report includes several contemporary examples showing deepfakes’ potential use in serious crimes such as: CEO fraud, evidence tampering, and the production of non-consensual pornography. Advances in artificial intelligence and the public availability of large image and video databases mean that the volume and quality of deepfake content is increasing, which is facilitating the proliferation of crimes that harness deepfake technology. Law enforcement agencies therefore need to be aware of deepfakes and their impact on future police work.

Much of the deepfake content created today is identifiable through manual methods that rely on human analysts identifying telltale signs in deepfake images and videos. However, this is a labour intensive task that is not actionable at scale. Accordingly, the report argues that law enforcement agencies will need to enhance the skills and technologies at officers’ disposal if they are to keep pace with criminal use of deepfakes. Examples of such new capacities range from the deployment of technical and organisational safeguards against video tampering to the creation of deepfake detection software that uses artificial intelligence.

Contributing to this report, law enforcement practitioners helped identify a series of challenges that they will have to contend within the decade ahead. In particular, they identified risks associated with digital transformation, the adoption and deployment of new technologies, the abuse of emerging technology by criminals, accommodating new ways of working and maintaining trust in the face of an increase of disinformation. The findings of this report are based on extensive desk research and in-depth consultation with law enforcement experts through strategic foresight activities. These strategic foresight and scenario methods are one means by which the Europol Innovation Lab researches and prepares for the potential impact of new technologies on law enforcement.

Afsluitend

Technologie en technologische ontwikkelingen hebben een grote invloed op de aard van (georganiseerde) criminaliteit. Criminelen integreren snel nieuwe technologieën in hun modus operandi of gebruiken technologie om gloednieuwe bedrijfsmodellen op te zetten. Tegelijkertijd creëren opkomende technologieën kansen voor de rechtshandhaving om nieuwe criminele dreigingen het hoofd te bieden. Dankzij technologische innovatie hebben rechtshandhavingsinstanties nu toegang tot een groter aantal geschikte instrumenten om (georganiseerde) misdaad te bestrijden. Maar dat geldt uiteraard ook voor personen die illegale activiteiten ontplooien: het is in feite een ´rat race´ tussen daders en rechtshandhavers.

In oktober 2019 riepen de ministers van de Raad voor Justitie en Binnenlandse Zaken op tot de oprichting van een zogenaamd innovatielab binnen Europol met als doel een gecentraliseerd vermogen voor strategisch vooruitzien op ontwrichtende technologieën en om bij de bestrijding hiervan nieuwe EU-politiestrategieën te formuleren. Strategisch vooruitzien en scenariomethoden bieden een manier om beter te begrijpen welke mogelijke impact nieuwe technologieën op de criminaliteitsmarkt en de rechtshandhaving heeft. Bijgesloten ´kennisparel´ biedt daartoe suggesties bij de aanpak van zogenaamde ´deepfakes´. Om van te leren voor de Nederlandse rechtshandhavingsorganisaties.

391-DeepfakesChallengeLawEnforcementEUROPOL.April2022Downloaden