Waarom ik de algehele digitalisering wantrouw

.Een Dwarsligger schreef een artikel:

Inleiding

De Franse president Macron zou, naar verluidt, verklaard hebben dat in zijn land alles – dus het hele openbare leven – ‘gedigitaliseerd’ moet worden.

Contant geld zou verdwijnen en vervangen worden door giraal geld, dat is: betaalwaarde die op een bankrekening vermeld staat.

Het weze met enig leedvermaak gezegd: in Wallonië heeft men de boodschap van Macron meteen opgepakt. In de winkel wordt geen kasticket meer verstrekt, tenzij op vraag.[i] Dat lijkt onschuldig, maar dat is het minder dan het lijkt. De koper wordt immers als een automatisme in de digitale wereld geduwd. De klant moet dus zelf de inspanning leveren om zich buiten die digitalisering te houden. Dat is een omkering van de last.

Contacten met de overheid of allerlei andere instanties verlopen niet meer via telefoon of per brief, maar via elektronische weg, hetzij door gebruikmaking van vooraf opgestelde elektronische formulieren, hetzij door elektronische communicatie. Deze laatste leidt vaak naar digitale plaatsen, waar de boodschap op een zo digitaal mogelijke manier verwerkt wordt en waar de menselijke contacten tot een minimum werden herleid.

De traditionele post en de klassieke brief zouden dan moeten verdwijnen.

Een derde belangrijk domein waarin de digitalisering die sommigen op het oog hebben de volstrekte overhand zou krijgen is terug te vinden in de wereld van de zogeheten kunstmatige intelligentie of, onder Angelsaksische invloed, de artificiële intelligentie. Die KI of AI werkt dan voornamelijk als een elektronische speurtechniek, waarbij op voorhand aangeduide signalen ‘herkend’ worden, waarna één of andere geprogrammeerde actie volgt, ook weer zonder dat daarbij enig menselijk ingrijpen van doen is.

Soms welt het idee op dat voor sommigen bij dit alles op de achtergrond als ultieme toekomstbeeld leeft: het ontstaan van de robotische mens oftewel de cyborg – het Cybernetisch Organisme.

Even toelichten

De meesten onder ons ondervinden steeds meer hoe banken, instellingen en overheden het gebruik van contact geld proberen weg te drukken. Zogenaamd om misdaadgeld te onderscheppen.

Het wordt heus moeilijk om bij de bank nog aan muntstukken te geraken. Daar komt dus een tekort aan. Dat is vervelend, want het betekent bijvoorbeeld dat je parkeergeld digitaal moet betalen. Parkeerautomaten worden er trouwens op afgesteld. En dan moet je maar eens problemen hebben met je bankkaart: parkeren is dan onmogelijk geworden. En buitengewoon grappig voor wie slecht ter been is toch? In sommige streken was het de gewoonte dat de kinderen op oudejaarsmorgen bij de buren nieuwjaarkezoete gingen zingen. Ze kregen dan wat lekkers toegestopt, maar vaak ook muntstukken. Die zijn alleszins gezonder dan het snoepgoed dat het jonge volkje in die dagen al te overvloedig in de handen gestopt wordt. Als je de ober in het restaurant een fooi wil geven, wordt die in de digitale systemen opgeslagen.

Gedaan met het zakcentje. En het ‘nieuwjaarkezoete’.

Elektriciteitsleveranciers en zovele andere leveranciers van diensten en goederen waarvan we menen dat ze levensnoodzakelijk zijn, dringen de hele tijd aan om elke communicatie met hun diensten via de computer te laten verlopen. En dan begint het: “Is het A, druk dan 1; gaat het om B, druk dan 2. Als het A is, wilt u dan alfa? Druk dan 1. Enzovoorts. We maken het allemaal mee en we zullen het er wel ongeveer over eens zijn: het is zeer enerverende communicatie. Bellen gaat gewoon niet, want er is nergens een nummer voorhanden. De mensen lijken wel verdwenen.

Dat gaat verder dan velen onder ons lief is. De Vlaamse overheid meent namelijk dat ze een voortrekkersrol heeft bij de digitalisering. Wie een boom in zijn tuin wil omhakken, moet een kapvergunning hebben. Die is alléén en uitsluitend via digitale weg te verkrijgen. Communicatie over het waarom is niet mogelijk. Je krijgt zelfs geen antwoord. Als voorbeeld van beleefdheid kan dat tellen. En dan zeggen dat de overheid er is ten bate van de bevolking.

Wie het aandurft om zonder vergunning een boom om te hakken, bijvoorbeeld omdat die behoorlijk in de weg staat, loopt het risico een controleur op bezoek te krijgen. Op dat ogenblik ‘werkt’ de digitalisering dus kennelijk nog niet voldoende.

Alhoewel: misschien is de tijd van de controle door drones minder ver af dan we denken…

Oftewel een overheid die haar eigen burgers constant bespioneert.

En ja: dan is er die genoemde inmiddels stilaan berucht wordende Artificiële intelligentie of Kunstmatige Intelligentie.[ii] Ze wordt massaal toegepast in de wereld van de nieuwsgaring en -verspreiding. Ze is een buitengewoon handig instrument in de handen van overheden die de algemene verspreiding van nieuws dat hen niet welgevallig is liefst verhinderen. Nepnieuws of misinformatie noemen ze dat dan.

Wie bepaalt wat nep of vals is? De miserie in dit geval is, dat elke vorm van democratische bijsturing onmogelijk wordt, omdat de daartoe nodige informatie weggesneden wordt.

Laten we wel wezen: ook de wetenschap maakt veel gebruikt van AI en algoritmen om onderzoek te doen. Doch kritische auteurs stellen daar vragen bij: “Maar de impact van algoritmen is minder helder en wordt daarom vaak onderschat.”[iii]

Een andere wereld?

Wie de feitelijke werkelijkheid van deze gang van zaken tot zich laat doordringen wordt onwillekeurig bekropen door de zorgelijke constatering dat de fameuze digitalisering ons naar een ander soort maatschappij voert. Die maatschappij wordt onverbiddelijk koeler, afstandelijker, onvriendelijker. Het is een wereld waaruit de communicatie van mens tot mens vervangen werd door een oncontroleerbaar netwerk van elektronische informatiedragers met hun kille boodschappen. Het is wachten op de sprekende computer. Daar valt geen menselijke warmte of zelf maar menselijk gevoel in te bespeuren.

Dat is zorgelijk, want zo’n koele wereld is tegelijk hard en genadeloos. Artificiële intelligentie werkt namelijk zonder enige vorm van menselijk mededogen.

Dat is niet alles.

Veel relevante informatie kan via digitalisatie gemakkelijk worden onttrokken aan de beschikbaarheid ervan door de modale, geïnteresseerde burger. Het is niet echt ondenkbaar dat de beslissing om sommige gegevens[iv] voor het publiek af te sluiten niet eens door mensen wordt genomen. Het is zelfs twijfelachtig of altijd wel achterhaald kan worden waar ergens in het proces zo’n beslissing werd genomen. Op die manier wordt onze maatschappij in feite steeds meer gestuurd door onpersoonlijke systemen.

Het zou dus wel eens kunnen gebeuren dat de predikers van de algehele digitalisering op een bepaald moment tot de ontdekking komen dat hun eigen geestesproduct ook over henzelf de baas is geworden.

De vraag die nu oprijst is: is dit een wereld die wij als mensen wel willen?

Wantrouwen en vragen

Dat zijn overwegingen die wantrouwen wekken.

Een van de essentiële kenmerken van een democratische maatschappij is dat de informatie vrij kan stromen van de ene hoek van de maatschappij naar de andere. Maar als allerlei digitale machinaties het vrije rondreizen van informatie in de weg zitten of zelfs verhinderen, dan wordt het wezen van de democratie zelf bedreigd.

Dat is heus wel andere peper dat het irritante geklets over extreemrechts!

Allerwege hoort men de bezorgdheid klinken dat vergaande digitalisering de mogelijkheid opent voor overheden of zelfs particuliere organisaties van allerlei slag, om een algehele controle uit te oefenen op het doen en laten van mensen die geacht worden als soevereine burgers te handelen. Natuurlijk is die bezorgdheid terecht.

Als de ober ook zijn fooien moet ingeven, kan de fiscus ook de fooien belasten. Er zit dus een fiscaal kantje aan…

Maar er zit een bijkomend, onaangenaam haakje aan vast.

Als die controle uitgeoefend wordt door een verkozen overheid, dan kan men argumenten bedenken om zo’n controle nog te accepteren. Bijvoorbeeld: hoe komen we drugsgeld op het spoor?

De knoop wordt echter onontwarbaar op het ogenblik dat die overheid niet verkozen werd of, wat nog erger is, die overheid zélf de controle over de systemen verliest.

Het is heel moeilijk om zich voor te stellen waartoe dit laatste concreet zou kunnen voeren, maar we kunnen er donder op zeggen dat dit niet veel goeds voorspelt.

Veronderstellen we even dat de hier op tafel liggende controlesystemen functioneren op Europese schaal – of zelfs op wereldschaal. Wie of wat is er in godsnaam nog in staat om een halt toe te roepen aan de overmacht van dergelijke monstersystemen?

De algemene teneur van wantrouwen tegenover totale digitalisering is dus helemaal niet zonder grond.

Ook al omdat niemand het prettig zal vinden te moeten beseffen te allen tijde voor zowat elke levensuiting voorwerp te zijn van controle – dan nog door systemen die op hun beurt door niemand worden gecontroleerd. Of die worden bestuurd door vijandige groepen of organisaties.

We moeten jammer genoeg constateren dat onze eigen overheden en allerhande instellingen controletechnieken toepassen en dat in ieder geval kunnen, als ze daartoe zouden besluiten.

Een heel recent voorbeeld is de sluiten van het Telegram-kanaal in Irak, omdat de regering van dat land vreest dat Iran van dat kanaal misbruik zou kunnen maken.[v]

Willen we zulke wereld?

De menselijkheid

Er is nog iets anders. Het is een punt dat in de discussies zelden te horen valt.

Dat is de vraag of digitalisering wel spoort met menselijkheid.

Dat zit zo.

Elk dierlijk en dus ook menselijk leven is ondenkbaar zonder de werking van zenuwcellen. In de menselijke hersenen vinden we er daarvan zo’n 86 miljard.

Die zenuwcellen maken verbindingen met allerlei delen van het lichaam, het meest nog met andere zenuwcellen.

Een zenuwcel is met soms wel duizenden andere zenuwcellen verbonden. Elk van die cellen prikkelt de andere zenuwcellen waarmee ze verbonden is. Sommigen zeggen dat de hersenen het meest complexe ding is in de kosmos.

Maar een zenuwcel vuurt niet zomaar. Een zenuwcel zal maar beginnen te vuren als ze door andere zenuwcellen voldoende geprikkeld wordt.

Omdat elke cel op ieder ogenblik door vele, vele andere voorafgaande cellen geprikkeld wordt, hangt het af van de onderlinge verhoudingen tussen de binnenkomende prikkels wat het eindresultaat zal zijn.

Dat levert een merkwaardig schouwspel op.

Neem nu een elektronische schakeling. Een elektronisch signaal levert, afhankelijk van de programmering, zoiets op als: “indien A zich voordoet, dan geeft dat B, maar niet C. Indien niet A zich voordoet, dan krijg je niet B, maar wél C.” Het ene sluit het andere uit.

Maar zo is het niet in de wereld van de zenuwcellen.

Daar krijg je: A doet zich voor, maar ook een beetje niet-A, alleen is niet-A wat minder fel. Je kunt dus krijgen dat én A zich voordoen én niet-A.[vi] Uiteindelijk geeft de geprikkelde cel één signaal.

Het spel van elkaar prikkelende zenuwcellen in onze hersenen kan vergeleken worden met een wielerwedstrijd: er rijden er velen mee in de koers, maar slechts ééntje krijgt de palm en de zoen van de plaatselijke schone.

Wat heeft dat te maken met de digitalisering?

Als de hierboven staande, nogal kort door de bocht voorgestelde gedachtegang ook maar enige grond heeft, dan werkt het menselijk systeem op principieel andere manier dan de digitale systemen waarmee wij thans omringd worden. De wereld van de menselijke zenuwcellen werkt met het principe van evenwichten: een beetje dit, maar ook nog dat en ook dat. En dus krijg je dit resultaat. Het is dus niet of-of.

Je moet nu dit alles doortrekken naar een wereld die op basis van één van deze twee hierboven summier voorgestelde principes werkt.

Het allesoverheersend worden van een wereld waarin het digitale “aan-uit”-principe dominerend is, komt dan in botsing met een wereld waarin het menselijke “dit-en-ook-dat”- principe centraal staat.

Als de elektronische, digitale wereld de doorslag krijgt, dan is de vrees dat we terecht komen in een ontmenselijkte wereld. Het zou een wereld zijn die principieel van de wereld van de menselijke ervaring verschilt. De menselijke vervreemding waarover al zoveel werd geschreven zou dan een veel diepere grond krijgen dan simpelweg wat emotioneel opgeklopte bedenkingen. Die gedigitaliseerde wereld zou inderdaad ronduit vijandig staan tegenover datgene wat wij de menselijke ervaring noemen. Het gaat dus om veel meer dan een moreel, ethisch, filosofisch of zelfs maatschappelijk probleem.

Het gaat dus in de meest letterlijke zin om de toekomst van de biologische wezens op deze planeet.[vii]

Dit brengt ons bij een hedendaags, onrustwekkend vraagstuk.

Het is denkbaar dat de huidige menselijke soort opgevolgd zal worden door denkende robotten, zoals Kees le Pair in zijn De Tweede Apocalyps beschrijft.

De robotten van le Pair zijn echter nog steeds menselijk: ze doen zelfs aan seks. Ze laten hun circuits vervangen als dat laatste niet naar hun zin gaat.

We komen hier terecht bij de ontwikkeling van de zogeheten neurale netwerken. Dat zijn complexe, gelaagde systemen van elektronische schakelingen. Afhankelijk van het eindresultaat van deze schakelingen zullen sommige versterkt en anderen verzwakt worden. Ze leren dus. Dat is méér dan het nabootsen van intelligent gedrag, zoals bij algoritmes.

Sommigen vragen zich inderdaad af of dit soort door de mens ontwikkelde systemen de mens zelf van zijn aardse troon zal stoten. Het is een onheilspellende gedachte.

Hierbij wordt de wereld niet ontmenselijkt: hij wordt de mens ontnomen.

Hachelijker kan bijna niet.

Er bestaat zoiets als gepast wantrouwen.

Jaak

Een reactie van Dwarsligger Marc: Met een verwijzing naar een artikel waarin AI het speerpunt wordt van de nieuwe wapenwedloop:

In navolging van China. Hopelijk blijven mensen nog de finale beslissingen nemen. Hierbij treed ik Jaak volledig bij.

 

[i] HLN 9/8/2023.

[ii] Op het einde van dit stuk zal duidelijk worden dat de Nederlandse term ‘kunstmatig’ nog niet zo slecht is…

[iii] https://scientias.nl/cambridge-luidt-de-noodklok-nu-ingrijpen-om-ecologische-voetafdruk-computertechnologie-aan-banden-te-leggen/

[iv] Tegenwoordig zijn dat data geworden. Data is het meervoud van datum, dat op zijn beurt het verleden deelwoord is van het Latijnse dare, hetgeen gewoon gegeven betekent. Wie zijn taal kent, gruwt…

[v] https://www.hln.be/buitenland/irak-maakt-komaf-met-telegram-omwille-van-veiligheidsredenen~a074847c/

[vi] Eigenlijk is het altijd “A doet zich voor, maar tegelijk doen B, C, E, F enz. enz.” zich voor. Het is een heus bombardement.

[vii] De zaak wordt nog meer precair als je ziet dat men aan biologische computers werkt.