De substitutie van menselijke arbeidskracht door machines is uiteraard in eerste instantie een economisch probleem, maar niet uitsluitend. Er zijn in de huidige industrie een groot en toenemend aantal taken die mensen gewoon niet met de nodige precisie en reproduceerbaarheid kunnen uitvoeren, ongeacht de kosten. Hier speelt de computer natuurlijk een belangrijke drijvende rol. We moeten niet de vergissing maken te denken dat hier vooral de eenvoudige, laagbetaalde arbeid betreft. De kaalslag bij het personeel in de banken is wellicht nog opvallender dan die in de industriële productie. De softwaretechnieken die we onder de term “kunstmatige intelligentie” samenvatten kunnen eigenlijk alles aanpakken wat formeel afgebeeld kan worden. De meeste zogenaamde “intellectuele beroepen” vallen in die categorie. We gaan hier nog verrassende ontwikkelingen zien.

Het probleem is dat arbeid veel meer is dan een manier om in ons levensonderhoud te voorzien. Zo simpel als Marx het dacht: “Morgens jagen, middags vissen…” is het niet. Arbeid, en de daarmee samenhangende sociale contacten, spelen in de zingeving van ons leven een belangrijke rol. En er is nu al heel gauw niet meer voldoende werk voor iedereen. We zullen hiervoor oplossingen moeten vinden. Maar wat ik momenteel zie gebeuren is eerder contraproductief. Niet enkel onze PISA-resultaten donderen naar beneden, maar nu zien we, met enige afstand, ook het gemiddeld IQ meetbaar dalen. Uiteraard zullen we dat laatste eerst weer eens twintig jaar hardnekkig afstrijden maar dat verandert absoluut niets aan de realiteit. De “vlucht naar voren” die we ons hier zouden kunnen voorstellen wordt dus moeilijker en onwaarschijnlijker.

Het is toenemend duidelijk: met behulp van de moderne softwaretechnieken verzamelen en analyseren meer en meer verschillende instanties – waaronder de overheid – steeds meer informatie over ons. De vraag is maar: is dat erg? Als men de wereld rationeel beoordeelt is het antwoord: dat hangt ervan af. Ik vind het bij voorbeeld helemaal geen probleem als de overheid biometrische data (tot en met DNA) van mij heeft. Ik vind dat iedereen voor zijn doen en laten verantwoordelijk is, en dus ook ter verantwoording geroepen moet kunnen worden. Daarvoor is identificatie nodig: het zij zo! Als mijn medische informatie in geval van nood direct in ieder ziekenhuis, in iedere dokterspraktijk beschikbaar is, dan kan dat enkel maar levensreddend zijn. Waarom dan bezwaren uiten? Dat geldt natuurlijk enkel indien we een minimum aan democratische staatsorde hebben en nog een, indien ook beperkt, vertrouwen in de overheid mogelijk is. Uiteraard kan geen mens garanderen dat het zo zal blijven: dat ziet er eerder bedenkelijk uit. Een dergelijke omvattende databank over de bevolking wordt in handen van een totalitair systeem plots van nuttig instrument tot een groot gevaar. Ik denk echter dat het er vooral op aan komt een totalitair systeem te vermijden. Als dat niet lukt komt het op dat beetje data ook niet meer zo aan.
Een van de problemen is dat in de maatschappij, en meer bepaald in het toch wel aanzienlijk ‘progressief’ deel daarvan, niet zo rationeel over die dingen wordt nagedacht. Eigenlijk wordt helemaal niet nagedacht maar des te meer ‘gevoeld’. “Privacy” is goed, “Big Data” is slecht!

Daardoor neemt de diepe ‘bezorgdheid’ over “privacy” vaak nogal schizofrene trekjes aan. Even een voorbeeld.

Ik heb een progressief rood-groen familielid waarmee toch een eerlijk gesprek mogelijk is. Lang geleden, nog aan het begin van de eeuw hadden we het over de meteropnames voor de nutsvoorzieningen. Ik vond dat nogal archaïsch geregeld. “We kunnen toch in iedere watermeter een SIM kaart inbouwen zodat de computer de stand kan opvragen als dat nodig is”. Antwoord: “Ik ben daar tegen”. “Waarom?”. “Dan kunnen ze op de duur zien wanneer ik de wc doortrek.” Ik was totaal verbluft. Daarop paste eigenlijk enkel een ‘Mitterand’: “et alors?” Hoe paranoïde kan je nog worden?

 

Diezelfde man is nu echter, om een hele hoop redenen, een voorstander van rekeningrijden. Hij heeft wel niet in de gaten dat daarvoor de computer precies en waterdicht moet weten welke wagen wanneer en waar was. Toch wel iets heel anders dan kunnen weten wanneer mijn toilet wordt doorgespoeld! Dat is uiteraard niet mijn argument om rekeningrijden af te wijzen. Ik wil gewoon niet dat de overheid mij ‘helpt’ de ‘juiste’ beslissingen te nemen.

En dan wil ik het niet eens hebben over de jongeren die – toch wel vrijwillig – heel hun leven op Facebook te grabbel gooien… Inderdaad, dat gegil over privacy is, zoals de meeste ‘bezorgdheden’ in de postmoderne cultuur niets meer dan flauw spektakel. Toch moeten we waakzaam blijven.

Wat nu volgt zie ik persoonlijk als de grootste dreiging die door de moderne softwaretechnieken wordt gevormd.

We hebben een totaal irrationeel ‘geloof’ en vertrouwen in de computer ontwikkeld. Als ik zeg dat twee plus twee vier is kan dat wel waar zijn, maar als het van de computer komt is het gegarandeerd waar.

We hebben de computer tot een soort persoon verheven. We maken hem voor alles en nog wat verantwoordelijk. We krijgen een maning voor een rekening die we wel degelijk betaald hadden? Het ligt aan de computer… zeggen ze bij de firma. Uiteraard ligt er helemaal niets aan de computer. Een passende vergelijking zou zijn als een loodgieter bij een vervelend lek dat hij niet dicht krijgt verklaart: “het ligt aan mijn tang”.
Herinneren we ons: computers zijn uiteindelijk enkel maar versterkers. Maar ze versterken even goed zin als onzin. Als ze dat laatste doen is het resultaat veel meer en veel snellere onzin die in staat is aanzienlijk meer schade aan te richten.
Bovendien kunnen computers – ook maar mensenwerk – zelf fouten introduceren en ze doen dat heel regelmatig. Het gebeurt wel eens dat een processor geconstrueerd wordt die niet helemaal correct rekent. Een voorbeeld was de Pentium die daar aanvankelijk mee kampte en daarom spottend – maar ongepast – “Dyslexium” genoemd werd. Dergelijke problemen worden door de band snel ontdekt en gecorrigeerd. Maar een computer bestaat uit heel veel onderdelen. Wat daarvan de gevolgen zijn hebben we beschreven in ons artikel De Vloek van grote Getallen.

Veel erger zijn de fouten die kunnen optreden als de computer zelf perfect in orde is. Dan zijn er nog drie mogelijke probleembronnen die zeer ernstige gevolgen kunnen hebben. Ze liggen alle drie bij de mens die de computer bedient. Computers moeten geprogrammeerd worden. Dat betekent dat men de volledige logica van dat wat men van de computer verwacht eerst in die machine moet opslaan. Men kan een goed werkende computer met een gebrekkige logica programmeren en hij zal gebrekkige resultaten produceren. Maar ook als men zich bij de logica niet vergist kan men nog altijd kleinere of grotere schrijffoutjes maken bij het opstellen van het programma. Dat leidt in het beste geval daartoe dat de computer gewoon ophoudt te werken, en in het slechtste geval dat hij foutieve resultaten produceert. Dan is er nog een laatste mogelijkheid die ook allesbehalve onschuldig is. We kunnen een volledig functionele en perfect geprogrammeerde computer voeden met kwalitatief minderwaardige of zelfs regelrecht foutieve data. In dit geval komt de “GIGO-regel” tot aanwending. GIGO staat voor “garbage in, garbage out” (rommel in rommel uit).

Als we bedenken dat wapensystemen, met een dergelijke sturing uitgerust, nooit gegarandeerd volledig foutvrij kunnen zijn, komen toch wel sterke bedenkingen op. En dat is nog niet eens het ergste.

We gebruiken computers vandaag heel vaak om modellen als afbeelding van de werkelijkheid te maken. Die modellen gebruiken we om meer over het studieobject te weten te komen – wat nuttig en goed is – maar ook vaak om te proberen toekomstig gedrag te voorspellen. Dat laatste is minstens roekeloos, vooral dan als we niet de mogelijkheid hebben het betreffend model empirisch te controleren.
Bij de klimaatmodellen waarmee momenteel de mensheid gek gemaakt wordt is alles wat hierboven aangeraakt wordt effectief gebeurd, van foute / onvolledige logica tot en met input van verkeerde data en een gebrek aan vergelijking met metingen. Desondanks worden die modellen bloedernstig genomen: de computer zegt het, dus is het waar!

Als de daardoor aangewakkerde beweging niet op tijd onder rationele controle komt zal daardoor onvoorstelbare schade aan onze maatschappij en cultuur ontstaan. Maar let op: zoals altijd met werktuigen is niet de computer schuldig, maar de mens die hem bedient en zijn resultaten interpreteert.

Ik meen dat hier de ergste dreiging van de moderne softwaretechnieken ligt, veel erger en vooral waarschijnlijker dan alle andere die we hier ook bespreken.

Ook vandaag al is het vrijwel onmogelijk een computer te ontwikkelen zonder daarvoor een computer te gebruiken. Eigenlijk is dat niets bijzonders: een computer is een werktuig en werktuigen hebben hun eigen genealogie, dat hebben we al besproken.
Met heel veel fantasie kunnen we ons een situatie voorstellen waarbij computers, naast al de rest, ook de ontwikkeling en productie van … computers zelfstandig sturen. Ze hebben dan eigenlijk het beheer over hun eigen genealogie in handen (of moet ik zeggen in schakelaars?) gekregen.

Een soort evolutie door natuurlijke selectie op basis van silicium is dan denkbaar. Die gedachte op zich werkt op mij vrij onspectaculair. Niemand heeft bepaald dat het leven enkel op koolstofbasis zou kunnen ontstaan. Koolstof heeft wel een aantal speciale troeven. Een belangrijke daarvan is dat het eenvoudig door de lucht getransporteerd kan worden in de vorm van CO2! Neen, wees gerust, ik begin niet weer over ironie…
Theoretisch kunnen zich daaruit ook dingen zoals bewustzijn en echte intelligentie ontwikkelen, net zoals dat bij de evolutie op koolstofbasis gebeurd is. Er zou een abstracte almachtige intelligentie kunnen ontstaan waarop wij mensen niet meer de geringste invloed hebben. Dat ‘bewustzijn’ zou – en ik kan erin komen – kunnen concluderen dat de wereld het best zonder die lastige veeleisende grillige homo sapiens kan stellen. Dat opent mogelijkheden voor gruwelijke nachtmerries, ‘gefundenes fressen’ voor de sciencefiction auteurs.

Maar voor een dergelijke ontwikkeling – als ze al mogelijk zou zijn – is tijd, heel veel tijd, nodig. De redenen daarvoor zijn energiebeschikbaarheid en energiedichtheid. Indien iemand dat wenst wil ik daar in een later artikel graag op terugkomen.

Desondanks wordt dit door sommigen als een acuut probleem waargenomen. Dat is mogelijk doordat de mensen geloven – door de sciencefiction verhalen – met de problematiek vertrouwd te zijn.

De mensheid heeft een panische angst voor een evolutie die aan haar controle onttrokken wordt. De ironie heeft hier ook weer enkele boodschappen:

 

- Zolang de evolutie haar werk volledig zonder onze controle kon doen is het tamelijk goed gegaan.

- Nu wij beginnen ernstige invloed op onze eigen evolutie uit te oefenen komen er bedreigende problemen op ons toe.

- Wat doet ons denken dat ‘silicium’ er nog minder van bakt dan wij?

 

Mijn voorlopige conclusie:

Ik vrees niet dat kunstmatige intelligentie ons kwaad zal doen. Ze zou dat op heel lange termijn theoretisch wel kunnen, maar ze zal er nooit de tijd voor krijgen. De natuurlijke domheid, die niet enkel veel sneller en effectiever is en vandaag al voorhanden, zal ze altijd voor zijn.