Print
Hits: 121
Pjotrs Dwarsliggers Nieuwsbrief                              10 december 2020
nr149
 
 
 
 
Waarde lezers,
 
Na de overvloed aan coronabijdragen vonden we het goed om U een heel ander interessant onderwerp voor te leggen. Een onderwerp dat nog lang actueel zal blijven.
 
Er volgen ongetwijfeld nog meer bijdragen over dit technisch én vooral ook maatschappelijk relevant onderwerp. Veel vragen blijven nog open.
 
Veel leesplezier,
 
 

Artificiële Intelligentie


 
 
 
Intelligentie

Niemand weet precies wat intelligentie is. Het begrip werd ingevoerd door de grote Cicero die de bedoeling had de bekwaamheid tot intellectuele activiteit te kwalificeren. Hij ging uit van twee woorden: “inter” (tussen) en “legere” (lezen). “Legere” had, zoals “lezen” bij ons nog altijd, een iets bredere betekenis. Enerzijds betekent het “lezen” in de enge zin van “een boek lezen”. Maar het kan ook in de richting “uitlezen” gaan: uitsorteren, kiezen. Dat heeft de discussie om de betekenis van “intelligentie” nog meer vertroebeld dan ze in ieder geval al zou zijn. Na nogal grondige lectuur denk ik dat ik Cicero begrijp: hij bedoelde wel degelijk “tussen de lijnen lezen”, uit onvolledige, zelfs misvormde informatie een klaar beeld produceren. De meesten van ons kunnen dat. De volgende twee plaatjes tonen dat op een vrij eenvoudige manier.
 
D323 M3D3D3LING L44T J3 Z13N TOT W32K3 GROT3 PR35T4135 ON23 HER53N5N IN ST44T 2IJN;
 
Aoccdrnig to a rscheearch at Cmabrigde Uinervtisy, it deosn't mttaer in waht oredr the ltteers in a wrod are, the olny imprmoetnt tihng is taht the frist and lsat ltteer be at the rghit pelae.
 

U ziet duidelijk dat we het hier met twee totaal verschillende manieren van vervorming te doen hebben, maar onze hersens ontwarren dat – als we de taal beheersen – moeiteloos: een verbluffende prestatie. Is dat nu intelligentie? Vast niet! Het is echter wel één van de vele uitingen van intelligentie.

Maar ook zonder echt te weten wat het is hebben wij, homo sapiens, met de ons eigen “bescheidenheid” alvast een monopolie op intelligentie geclaimd: het is dat wat ons van de rest van de schepping onderscheidt. Ik denk dat daar in de toekomst nog hartelijk om gelachen zal worden, maar gunnen we homo sapiens voorlopig zijn stukje eigendunk: hij heeft het al moeilijk genoeg.

Het is dus perfect verstaanbaar dat het idee om intelligentie – uiteraard nog altijd zonder echt te weten wat het is – te automatiseren, dus in de praktijk door machines te laten produceren, op sterk en diep onbehagen stoot. Nu is iets willen automatiseren zonder het echt te begrijpen een nogal avontuurlijk project met een kans op slagen in de buurt van nul. Maar dat weet de postmoderne mens niet meer en desondanks is hij verontrust. De oude “Frankenstein- fantasieën” komen dan gauw weer boven, vooral als sciencefiction films (A Space Odyssey uit 1968)) de opstand der machines tonen en bovendien tot de status van rockstar verheven wetenschapsmensen zoals Stephen Hawking en Yuval Harrari ook nog ernstig daarvoor waarschuwen.

Normaal gezien zou dat zo’n vaart niet mogen lopen, maar het gebeurt in een context en misschien moeten we die wel even schetsen.

Apocalyps als context

De homo sapiens van de 21ste eeuw is een rare snuiter. Van de ene kant toont hij zich enorm zelfverzekerd. Hij denkt alles te weten, alles te kunnen en alles te mogen. Hij heeft Gods hand, die hem duizenden jaren – ingebeeld of niet – een gevoel van geborgenheid gaf, losgelaten: “Hij is overbodig, ik ben nu groot!

Van de andere kant heeft hij zijn ‘volwassenheid’ duur betaald. Hij voelt zich nu voor alles en iedereen verantwoordelijk, en moet dus ook alles en iedereen controleren en sturen. Hij kan onmogelijk vrede nemen met de natuurlijke gang van zaken, maar voelt zich geroepen de schepping nog eens over te doen, deze keer vanuit zijn eigen inzichten. Zijn eerste stappen op dit terrein, die zich vooral rond zaken als abortus, euthanasie, ‘gender’ en ‘gelijkheid’ bewegen zijn niet direct grote successen. Ze schijnen alles nog ingewikkelder te maken dan het al was en dragen definitief niet bij tot “pursuit of happiness” (nastreven van geluk) dat al in de Amerikaanse onafhankelijkheidsverklaring als maatschappelijke doel werd geïdentificeerd. Maar we zijn natuurlijk nog maar enkele tientallen jaren bezig en het kan dus nog veel beter worden. Uiteraard kan het ook nog veel slechter; we zullen zien…

De homo Sapiens heeft het dan ook heel erg druk. Er blijft hem niet meer veel tijd over om na te denken, zich over zijn situatie te bezinnen. Als hij dat toch doet, is het resultaat eerder deprimerend. De reden daarvoor is dat de mens droomt. Dat heeft hij altijd al gedaan, maar tegenwoordig gebeurt het meer en meer in wakende toestand. Wij vinden dat heel goed, want we denken dat dromen het creatief proces kunnen starten en dat kan best wel waar zijn. Maar een oude volkswijsheid zegt: “dromen zijn bedrog”. Ook daarvoor hebben we meer dan voldoende evidentie. Het komt dus vooral aan op de “werkelijkheidswaarde” die wij aan onze dromen toekennen. Wij hebben tegenwoordig, meer dan vroeger, nogal de neiging om onze dromen, vooral dan als we ze wakker beleven, zeer ernstig te nemen.

Dromen komen in alle mogelijke vormen, maar de sterkste indruk maken toch de nachtmerries. Gecombineerd met onze collectieve obsessie alles te kunnen en moeten regelen leidt dit tot talrijke apocalyptische cultuurstromingen. We zijn voortdurend op de vlucht voor de, uiteraard door de mens – door wie anders? – veroorzaakte nakende wereldondergang. De nieuwste – en ook voorlopig luidste – variante daarvan is vandaag de galopperende klimaathysterie, maar dat is bijlange niet de enige. Artificiële intelligentie heeft hier ook haar plaatsje. Merkwaardig genoeg zijn die twee zelfs verbonden.

Beginnen we bij het begin

De geschiedenis van de mens is voor een goed deel ook de geschiedenis van zijn werktuigen. Ik denk niet dat ik u over werktuigen veel nieuws kan of moet vertellen, tenzij misschien twee dingen die we verder nog nodig hebben.

Ten eerste heb ik een probleem met de gebruikelijke definities. Hier komt de mijne:
Een werktuig is een artefact dat een inherent voorhanden menselijke capabiliteit versterkt in de buitenwereld projecteert.

Kijk maar naar het plaatje hieronder. De mens heeft de mogelijkheid toe te slaan, maar met een bijl kan hij deze actie versterkt in de buitenwereld projecteren. Op het plaatje is duidelijk te zien dat de designer van de moderne houthakkersbijl het verlengen van de menselijke arm voor ogen had.
 
 
 
 
 
 
 
 
 
 
 
Test die definitie misschien eens op verschillende werktuigen als een bril, een schroevendraaier, een megafoon, een microscoop, een zeef, een knijptang…
Nog iets dat in deze context belang heeft en dat we niet zonder meer zien: werktuigen hebben een eigen genealogie. Dat klinkt zeker raar, maar bedenk het volgende. Stel dat u een draaibank wilt construeren, wat hebt u dan zeker nodig? Wel: een draaibank! In die zin zijn de huidige precisiemachines nakomelingen van de primitieve met pedalen aangedreven apparaten van honderden jaren geleden.

Werktuigen hebben ons altijd gefascineerd, omwille van de kracht die ervan uitgaat. Er hangt een odium van geweld en gevaar omheen. Fascinatie, nieuwsgierigheid en angst liggen dicht bijeen; we zien dat ook in onze omgang met andere rassen en culturen.
Ook wapens zijn uiteindelijk… werktuigen. Toen vanaf de 12de eeuw de kruisboog (een oeroude Chinese uitvinding) in Europa ingang vond, werd gevreesd dat dit verschrikkelijk wapen de mensheid zou uitroeien. De diep bezorgde, door monniken zorgvuldig gekalligrafeerde traktaten liggen nog altijd in onze bibliotheken.

Computers versterken de werking van de geest

Ook de computer is niets meer of minder dan een werktuig. Maar het is wel het intuïtief moeilijkst verstaanbaar en tegelijkertijd het meest veelzijdig werktuig dat ooit bestond. Als we ons afvragen wat het dan is dat de computer versterkt komen we, na enige verwarring, tot een verbluffende conclusie: de computer versterkt en projecteert de bekwaamheden van de menselijke geest. Ook vandaag – en iedereen heeft tegenwoordig wel een aanzienlijk aantal meestal onzichtbare computers in zijn huishouden en auto, zelfs in zijn telefoon – hebben we dat nog lang niet allemaal begrepen en er zeker de vergaande consequenties ervan niet ingezien. Diegenen die het wél inzien laten zich gemakkelijk door euforie meeslepen. Maar voorzichtig: versterken betekent vermenigvuldigingen, en het resultaat van de vermenigvuldiging van nul met gelijk welke factor blijft nul!

Dartmouth

Door een hele reeks toevallen en ook enige bewuste planning ontstond al vrij vroeg in de 20ste eeuw in de regio rond Boston een soort cluster van instituties en mensen die van engineering in het algemeen en vooral elektronica duidelijk meer begrepen dan de rest van de wereld. Daar kwam in de vijftiger jaren het gevoel op dat die nieuwe ‘machine’ veel meer kon dan enkel maar codes breken en nucleaire explosies simuleren.
 
 
John McCarthy, toen wiskunde professor aan Dartmouth college in New Hampshire, organiseerde in 1956 een workshop (+/- 5weken) om deze vraag verder uit te diepen. Enkele van de grootste geesten van de 20ste eeuw namen daaraan deel, o.a. Marvin Minsky en Ray Solomonoff.
 
Kunstmatige Intelligentie

Het werd dus een zeer vruchtbare brainstorming. Een van de opgaven was een naam te vinden voor het gebied dat ze gingen bewerken. John McCarthy koos voor “kunstmatige intelligentie”. Dat was geen gelukkige keuze die voor veel onnodige controversen en misverstanden gezorgd heeft. Waarschijnlijk deed McCarthy dat – tegen zijn zin – om een confrontatie met Norbert Wiener, de paus van de cybernetica die vanuit MIT zijn lange schaduw over Dartmouth wierp en die de reputatie had een nogal moeilijk mens te zijn, uit de weg te gaan. Ik vermeld dit om weer eens te tonen hoe ook de kleine kantjes van mensen mee geschiedenis schrijven.

Wat ze daar werkelijk wilden doen was de computer inzetten voor taken waarvan men normaal zou verwachten dat enkel een mens ze kan uitvoeren. Daarvoor moesten ze volledig nieuwe softwaretechnieken bedenken. Dat is, hoewel op zich flink ambitieus, niet hetzelfde als “kunstmatige intelligentie”, maar ze zullen wellicht gedacht hebben: “What’s in a name?” Voor de duidelijkheid gaan wij het hier toch maar liever over “nieuwe programmeer- of softwaretechnieken” hebben.

Mislukkingen en Golfbewegingen

Het eerste praktisch project dat ze wilden aanpakken was automatische vertaling. Daarvoor vroegen – en kregen – ze van de overheid een toelage. Ze dachten de klus in ongeveer twee jaar te klaren. De hype in de pers was enorm: het nieuwe modewoord “artificial intelligence” ging de wereld rond.

En dan kwam de grote ontgoocheling. Na twee jaar stonden ze nergens. Vandaag, meer dan een halve eeuw later en na een verbluffende, de verbeelding tartende ontwikkeling van “computer science”, vooral op het gebied van de hardware, staat automatische vertaling op een punt waar ze voor technische informatie bruikbaar – nog niet betrouwbaar – begint te worden.

Hoe kwam dat? Hoe konden de grootste geesten uit de wetenschap zich dermate vergissen? Wel, ze waren – ook toen al – door de postmoderne ziekte aangetast: ze begrepen de beperktheid van hun weten onvoldoende. Ze rekenden op de brede kennis die ze over het werktuig hadden en besteedden te weinig aandacht aan het object waarop ze het wilden loslaten: taal. Ze zagen menselijke taal als iets relatief simpels: woordenschat, syntax, grammatica en klaar is Kees. Bij computertalen, waarmee ze veel ervaring hadden, was dat alleszins zo. De werkelijkheid was dus anders. Menselijke taal is oneindig complex, met het menselijke denken zelf onontwarbaar verweven. McCarthy kon niet slagen, want dat wat hij moest oplossen was geen computerprobleem. Hij had de hulp van filologen, linguïsten (formal language theory) en psychologen nodig. Die heeft hij gekregen en daardoor zijn de – aan de inspanningen gemeten eerder bescheiden – resultaten vandaag ook zichtbaar.
Soms is de ironie in de gang der dingen overweldigend. Om zijn doel te kunnen bereiken had McCarthy precies dat nodig wat hij – tegen zijn zin – gezegd had te willen maar niet kon maken: kunstmatige intelligentie.

De publieke opinie reageerde op die mislukking zoals altijd: traag en dan geweldig, met een grote ”overshoot”, dus ver voorbij ieder redelijk evenwicht. We zien die wisselbaden overal: “Himmelhoch jauchzend, zum Tode betrübt” schrijft Goethe in zijn “Egmont”. In het Evangelie hadden ze ook niet veel tijd nodig om van “Hosanna” naar “kruisig hem” over te gaan. De psychologen spreken tegenwoordig van een “bipolaire storing”…

“Artificial intelligence” ging in geen tijd van hype naar ‘onwoord’. Over de zeer interessante concepten waarvoor in Dartmouth de fundamenten gelegd werden sprak geen mens. Universiteiten die daar verder aan wilden werken zochten beschaamd een ander etiket.

Langzaam, van klein resultaat naar klein resultaat, keerde het tij. In de tweede helft van de jaren 80 kon men weer “artificial intelligence” zeggen zonder luid uitgelachen te worden. Vandaag zijn de verwachtingen, zowel positieve als negatieve, weer totaal overdreven.

We hebben inderdaad vooruitgang geboekt op het pad dat in Dartmouth werd ingeslagen. De huidige computers kunnen verbluffende dingen. Dat ligt vooral aan de onvoorstelbare vooruitgang, niet enkel bij de snelheid van de processoren maar ook in de grootte en toegankelijkheid van de dataopslag. Ook het ontstaan van het wereldwijd netwerk speelt een rol en er zijn inderdaad betere softwaretechnieken ontwikkeld om met die grote data volumina efficiënt om te kunnen gaan.

Maar de innovatie die alle andere in de schaduw stelt is het feit dat we erin geslaagd zijn de computer uit eigen, zelfontworpen experimenten te laten leren (AlphaGo). Dat opent totaal nieuwe perspectieven.

Uiteraard heeft dat alles ook zijn schaduwzijden. Waarop zijn onze angsten gebaseerd?

Job killer

We zien onze werkgelegenheid door de computer bedreigd. Eigenlijk is dat een oud zeer want de computer is slechts de allernieuwste instantie van het oeroude fenomeen “werktuig” en de substitutie van menselijke arbeid door machines is al heel lang bezig.
 
Een opgemerkte episode rond 1800 was de invoering van het Jacquard weefgetouw. Daarbij werd het patroon van het weefsel, dat vroeger via pedalen door de wever gestuurd werd, in ponskaarten opgeslagen. De wevers vreesden voor hun job en wierpen hun klompen in de fragiele machine. Daar komt het woord “sabotage” vandaan (“klomp” in het Frans is “sabot”)
 
 
 

De substitutie van menselijke arbeidskracht door machines is uiteraard in eerste instantie een economisch probleem, maar niet uitsluitend. Er zijn in de huidige industrie een groot en toenemend aantal taken die mensen gewoon niet met de nodige precisie en reproduceerbaarheid kunnen uitvoeren, ongeacht de kosten. Hier speelt de computer natuurlijk een belangrijke drijvende rol. We moeten niet de vergissing maken te denken dat hier vooral de eenvoudige, laagbetaalde arbeid betreft. De kaalslag bij het personeel in de banken is wellicht nog opvallender dan die in de industriële productie. De softwaretechnieken die we onder de term “kunstmatige intelligentie” samenvatten kunnen eigenlijk alles aanpakken wat formeel afgebeeld kan worden. De meeste zogenaamde “intellectuele beroepen” vallen in die categorie. We gaan hier nog verrassende ontwikkelingen zien.

Het probleem is dat arbeid veel meer is dan een manier om in ons levensonderhoud te voorzien. Zo simpel als Marx het dacht: “Morgens jagen, middags vissen…” is het niet. Arbeid, en de daarmee samenhangende sociale contacten, spelen in de zingeving van ons leven een belangrijke rol. En er is nu al heel gauw niet meer voldoende werk voor iedereen. We zullen hiervoor oplossingen moeten vinden. Maar wat ik momenteel zie gebeuren is eerder contraproductief. Niet enkel onze PISA-resultaten donderen naar beneden, maar nu zien we, met enige afstand, ook het gemiddeld IQ meetbaar dalen. Uiteraard zullen we dat laatste eerst weer eens twintig jaar hardnekkig afstrijden maar dat verandert absoluut niets aan de realiteit. De “vlucht naar voren” die we ons hier zouden kunnen voorstellen wordt dus moeilijker en onwaarschijnlijker.

De glazen mens

Het is toenemend duidelijk: met behulp van de moderne softwaretechnieken verzamelen en analyseren meer en meer verschillende instanties – waaronder de overheid – steeds meer informatie over ons. De vraag is maar: is dat erg? Als men de wereld rationeel beoordeelt is het antwoord: dat hangt ervan af. Ik vind het bij voorbeeld helemaal geen probleem als de overheid biometrische data (tot en met DNA) van mij heeft. Ik vind dat iedereen voor zijn doen en laten verantwoordelijk is, en dus ook ter verantwoording geroepen moet kunnen worden. Daarvoor is identificatie nodig: het zij zo! Als mijn medische informatie in geval van nood direct in ieder ziekenhuis, in iedere dokterspraktijk beschikbaar is, dan kan dat enkel maar levensreddend zijn. Waarom dan bezwaren uiten? Dat geldt natuurlijk enkel indien we een minimum aan democratische staatsorde hebben en nog een, indien ook beperkt, vertrouwen in de overheid mogelijk is. Uiteraard kan geen mens garanderen dat het zo zal blijven: dat ziet er eerder bedenkelijk uit. Een dergelijke omvattende databank over de bevolking wordt in handen van een totalitair systeem plots van nuttig instrument tot een groot gevaar. Ik denk echter dat het er vooral op aan komt een totalitair systeem te vermijden. Als dat niet lukt komt het op dat beetje data ook niet meer zo aan.
Een van de problemen is dat in de maatschappij, en meer bepaald in het toch wel aanzienlijk ‘progressief’ deel daarvan, niet zo rationeel over die dingen wordt nagedacht. Eigenlijk wordt helemaal niet nagedacht maar des te meer ‘gevoeld’. “Privacy” is goed, “Big Data” is slecht!

Daardoor neemt de diepe ‘bezorgdheid’ over “privacy” vaak nogal schizofrene trekjes aan. Even een voorbeeld.

Ik heb een progressief rood-groen familielid waarmee toch een eerlijk gesprek mogelijk is. Lang geleden, nog aan het begin van de eeuw hadden we het over de meteropnames voor de nutsvoorzieningen. Ik vond dat nogal archaïsch geregeld. “We kunnen toch in iedere watermeter een SIM kaart inbouwen zodat de computer de stand kan opvragen als dat nodig is”. Antwoord: “Ik ben daar tegen”. “Waarom?”. “Dan kunnen ze op de duur zien wanneer ik de wc doortrek.” Ik was totaal verbluft. Daarop paste eigenlijk enkel een ‘Mitterand’: “et alors?” Hoe paranoïde kan je nog worden?
 
Diezelfde man is nu echter, om een hele hoop redenen, een voorstander van rekeningrijden. Hij heeft wel niet in de gaten dat daarvoor de computer precies en waterdicht moet weten welke wagen wanneer en waar was. Toch wel iets heel anders dan kunnen weten wanneer mijn toilet wordt doorgespoeld! Dat is uiteraard niet mijn argument om rekeningrijden af te wijzen. Ik wil gewoon niet dat de overheid mij ‘helpt’ de ‘juiste’ beslissingen te nemen.

En dan wil ik het niet eens hebben over de jongeren die – toch wel vrijwillig – heel hun leven op Facebook te grabbel gooien… Inderdaad, dat gegil over privacy is, zoals de meeste ‘bezorgdheden’ in de postmoderne cultuur niets meer dan flauw spektakel. Toch moeten we waakzaam blijven.

Goden uit Silicium

Wat nu volgt zie ik persoonlijk als de grootste dreiging die door de moderne softwaretechnieken wordt gevormd.

We hebben een totaal irrationeel ‘geloof’ en vertrouwen in de computer ontwikkeld. Als ik zeg dat twee plus twee vier is kan dat wel waar zijn, maar als het van de computer komt is het gegarandeerd waar.

We hebben de computer tot een soort persoon verheven. We maken hem voor alles en nog wat verantwoordelijk. We krijgen een maning voor een rekening die we wel degelijk betaald hadden? Het ligt aan de computer… zeggen ze bij de firma. Uiteraard ligt er helemaal niets aan de computer. Een passende vergelijking zou zijn als een loodgieter bij een vervelend lek dat hij niet dicht krijgt verklaart: “het ligt aan mijn tang”.
Herinneren we ons: computers zijn uiteindelijk enkel maar versterkers. Maar ze versterken even goed zin als onzin. Als ze dat laatste doen is het resultaat veel meer en veel snellere onzin die in staat is aanzienlijk meer schade aan te richten.
Bovendien kunnen computers – ook maar mensenwerk – zelf fouten introduceren en ze doen dat heel regelmatig. Het gebeurt wel eens dat een processor geconstrueerd wordt die niet helemaal correct rekent. Een voorbeeld was de Pentium die daar aanvankelijk mee kampte en daarom spottend – maar ongepast – “Dyslexium” genoemd werd. Dergelijke problemen worden door de band snel ontdekt en gecorrigeerd. Maar een computer bestaat uit heel veel onderdelen. Wat daarvan de gevolgen zijn hebben we beschreven in ons artikel De Vloek van grote Getallen.

Veel erger zijn de fouten die kunnen optreden als de computer zelf perfect in orde is. Dan zijn er nog drie mogelijke probleembronnen die zeer ernstige gevolgen kunnen hebben. Ze liggen alle drie bij de mens die de computer bedient. Computers moeten geprogrammeerd worden. Dat betekent dat men de volledige logica van dat wat men van de computer verwacht eerst in die machine moet opslaan. Men kan een goed werkende computer met een gebrekkige logica programmeren en hij zal gebrekkige resultaten produceren. Maar ook als men zich bij de logica niet vergist kan men nog altijd kleinere of grotere schrijffoutjes maken bij het opstellen van het programma. Dat leidt in het beste geval daartoe dat de computer gewoon ophoudt te werken, en in het slechtste geval dat hij foutieve resultaten produceert. Dan is er nog een laatste mogelijkheid die ook allesbehalve onschuldig is. We kunnen een volledig functionele en perfect geprogrammeerde computer voeden met kwalitatief minderwaardige of zelfs regelrecht foutieve data. In dit geval komt de “GIGO-regel” tot aanwending. GIGO staat voor “garbage in, garbage out” (rommel in rommel uit).

Als we bedenken dat wapensystemen, met een dergelijke sturing uitgerust, nooit gegarandeerd volledig foutvrij kunnen zijn, komen toch wel sterke bedenkingen op. En dat is nog niet eens het ergste.

We gebruiken computers vandaag heel vaak om modellen als afbeelding van de werkelijkheid te maken. Die modellen gebruiken we om meer over het studieobject te weten te komen – wat nuttig en goed is – maar ook vaak om te proberen toekomstig gedrag te voorspellen. Dat laatste is minstens roekeloos, vooral dan als we niet de mogelijkheid hebben het betreffend model empirisch te controleren.
Bij de klimaatmodellen waarmee momenteel de mensheid gek gemaakt wordt is alles wat hierboven aangeraakt wordt effectief gebeurd, van foute / onvolledige logica tot en met input van verkeerde data en een gebrek aan vergelijking met metingen. Desondanks worden die modellen bloedernstig genomen: de computer zegt het, dus is het waar!

Als de daardoor aangewakkerde beweging niet op tijd onder rationele controle komt zal daardoor onvoorstelbare schade aan onze maatschappij en cultuur ontstaan. Maar let op: zoals altijd met werktuigen is niet de computer schuldig, maar de mens die hem bedient en zijn resultaten interpreteert.

Ik meen dat hier de ergste dreiging van de moderne softwaretechnieken ligt, veel erger en vooral waarschijnlijker dan alle andere die we hier ook bespreken.

Silicium maakt zich zelfstandig

Ook vandaag al is het vrijwel onmogelijk een computer te ontwikkelen zonder daarvoor een computer te gebruiken. Eigenlijk is dat niets bijzonders: een computer is een werktuig en werktuigen hebben hun eigen genealogie, dat hebben we al besproken.
Met heel veel fantasie kunnen we ons een situatie voorstellen waarbij computers, naast al de rest, ook de ontwikkeling en productie van … computers zelfstandig sturen. Ze hebben dan eigenlijk het beheer over hun eigen genealogie in handen (of moet ik zeggen in schakelaars?) gekregen.

Een soort evolutie door natuurlijke selectie op basis van silicium is dan denkbaar. Die gedachte op zich werkt op mij vrij onspectaculair. Niemand heeft bepaald dat het leven enkel op koolstofbasis zou kunnen ontstaan. Koolstof heeft wel een aantal speciale troeven. Een belangrijke daarvan is dat het eenvoudig door de lucht getransporteerd kan worden in de vorm van CO2! Neen, wees gerust, ik begin niet weer over ironie…
Theoretisch kunnen zich daaruit ook dingen zoals bewustzijn en echte intelligentie ontwikkelen, net zoals dat bij de evolutie op koolstofbasis gebeurd is. Er zou een abstracte almachtige intelligentie kunnen ontstaan waarop wij mensen niet meer de geringste invloed hebben. Dat ‘bewustzijn’ zou – en ik kan erin komen – kunnen concluderen dat de wereld het best zonder die lastige veeleisende grillige homo sapiens kan stellen. Dat opent mogelijkheden voor gruwelijke nachtmerries, ‘gefundenes fressen’ voor de sciencefiction auteurs.

Maar voor een dergelijke ontwikkeling – als ze al mogelijk zou zijn – is tijd, heel veel tijd, nodig. De redenen daarvoor zijn energiebeschikbaarheid en energiedichtheid. Indien iemand dat wenst wil ik daar in een later artikel graag op terugkomen.

Desondanks wordt dit door sommigen als een acuut probleem waargenomen. Dat is mogelijk doordat de mensen geloven – door de sciencefiction verhalen – met de problematiek vertrouwd te zijn.

De mensheid heeft een panische angst voor een evolutie die aan haar controle onttrokken wordt. De ironie heeft hier ook weer enkele boodschappen:
 
- Zolang de evolutie haar werk volledig zonder onze controle kon doen is het tamelijk goed gegaan.

- Nu wij beginnen ernstige invloed op onze eigen evolutie uit te oefenen komen er bedreigende problemen op ons toe.

- Wat doet ons denken dat ‘silicium’ er nog minder van bakt dan wij?
 
Mijn voorlopige conclusie:

Ik vrees niet dat kunstmatige intelligentie ons kwaad zal doen. Ze zou dat op heel lange termijn theoretisch wel kunnen, maar ze zal er nooit de tijd voor krijgen. De natuurlijke domheid, die niet enkel veel sneller en effectiever is en vandaag al voorhanden, zal ze altijd voor zijn.
 
 
 
             Pjotrs Dwarsliggers