Categorieën
Archief Kennisparels

[318] 5 januari 2021: The Society of Algorithms

Inleiding en context

Het is vandaag woensdag 5 januari 2022. Vandaag een bijgesloten ´kennisparel´ over de zogenaamde ´algoritmestaat´, een kritische bijdrage over de rol van algoritmen en kunstmatige intelligentie (AI) bij besluitvorming in de publieke en private sector. Er wordt gesproken over tweedeling tussen een coderende elite en minder bedeelde bevolkingsgroepen, het cybertariaat genoemd. De economische en politieke macht van de technologische industrie is enorm. Grote digitale bedrijven ondersteund door sterke juridische commerciële bedrijven zijn sterk gericht op extreme winstmaximalisatie. Ze worden daarbij ondersteund door een permanente gegevensstroom die surveilleert, controleert, automatiseert en daarmee innoveert. Ze worden gebruikt om burgers te beïnvloeden en te volgen en om desinformatie te verspreiden die het vertrouwen van het publiek in bijvoorbeeld wetenschappelijke kennis ondermijnt. Daarmee wordt een verdere tweedeling in de maatschappij bevorderd. Het gaat daarbij zelfs zo ver dat door verregaande automatisering de menselijke factor overbodig wordt gemaakt.

In het artikel worden de bredere effecten beschreven van de verspreiding en het gebruik van algoritmische methoden over een bereik van beroepsrechtsgebieden, waaronder detailhandel, transport, verzekeringen, maatschappelijk werk, farmaceutische industrie, banken, politie en justitie. De implicaties ervan voor sociale klassenvorming en sociale ongelijkheid worden weergegeven.

Bron

Burrell, Jenna & Marion Fourcade (July 2021). The Society of Algorithms. Annual Review of Sociology, vol. 47, pp. 213-237. https://www.annualreviews.org/doi/10.1146/annurev-soc-090820-020800

Samenvatting

The pairing of massive data sets with processes—or algorithms—written in computer code to sort through, organize, extract, or mine them has made inroads in almost every major social institution. This article proposes a reading of the scholarly literature concerned with the social implications of this transformation. First, we discuss the rise of a new occupational class, which we call the coding elite. This group has consolidated power through their technical control over the digital means of production and by extracting labour from a newly marginalized or unpaid workforce, the cybertariat. Second, we show that the implementation of techniques of mathematical optimization across domains as varied as education, medicine, credit and finance, and criminal justice has intensified the dominance of actuarial logics of decision-making, potentially transforming pathways to social reproduction and mobility but also generating a pushback by those so governed. Third, we explore how the same pervasive algorithmic intermediation in digital communication is transforming the way people interact, associate, and think. We conclude by cautioning against the wildest promises of artificial intelligence but acknowledging the increasingly tight coupling between algorithmic processes, social structures, and subjectivities.

Afsluitend

Expertsystemen, menselijk of mechanisch, stellen altijd eisen aan degenen die ermee omgaan: mensen moeten zichzelf kenbaar maken, anders herkent het systeem ze niet. Zij moeten regels volgen wanneer er met dergelijke systemen wordt gewerkt, echter het vermogen om beslissingen in twijfel te trekken is vaak beperkt . In traditionele bureaucratieën is de uiteindelijke beslisser binnen de daar gevolgde processen bijna altijd een mens. Maar naarmate technologie steeds meer autonoom wordt en de menselijke factor en inbreng steeds meer naar de achtergrond verdwijnt, kan zelfs deze menselijke inbreng door machines worden gestuurd. Wie is dan aan zet, de mens of de machine?

De geschiedenis van informatietechnologie laat zien dat er een min of meer voortdurende drang is om controle te verfijnen – controle over arbeid, controle over materialen en markten, controle over prijzen en controle over mensen. Dit geldt met name voor geautomatiseerde vormen van controle waarbij algoritmen een dominante rol spelen. Een belangrijk uitgangspunt dat een actuariële logica bij besluitvorming rechtvaardigt is de overtuiging dat patronen die in het verleden zijn waargenomen nuttige informatie verschaffen over activiteiten en gebeurtenissen die in de toekomst kunnen plaatsvinden. En dat is dus maar de vraag, want niets is moeilijker om de toekomst te voorspellen zoals bijvoorbeeld blijkt uit onderstaande ´gouwe ouwe voorspellingen´:

  • “We houden niet van dat geluid. Gitaargroepjes hebben afgedaan”. Hiermee wees een topmanager van Decca Recording in 1962 de Beatles af;
  • Business Week deed in augustus 1968 de volgende voorspelling: “Nu hier al meer dan vijftig buitenlandse automerken worden verkocht, is het niet waarschijnlijk dat de Japanse auto-industrie voor zichzelf een grote hap uit de Amerikaanse markt kan halen”;
  • Ken Olson, president van de Digital Equipment Corporation, beweerde in 1977 het volgende: “Er bestaat geen enkele reden waarom iemand thuis een computer zou willen hebben”.

Hoe het ook zij, algoritmes en kunstmatige intelligentie zullen de toekomst in ieder geval wel beïnvloeden. Het is dan zaak om de menselijke maat scherp in de gaten te houden en om een verregaande tweedeling en rechtsongelijkheid in de maatschappij te voorkomen. 

Tot zover maar weer, blijf gezond, optimistisch en wees vooral aardig voor elkaar. Alleen zo gaan we echt solidair met elkaar om. Tot de volgende ´kennisparel´ die over een paar dagen in jullie mailbox valt.