Veel politici zullen ongeschikt zijn om een land te besturen wanneer ze niet beseffen wat er met AI mogelijk is. Weetgierigheid in plaats van "napraten zonder nadenken" wordt een cruciale plicht,.
Ik vrees dat AI en tal van andere elektronische systemen door een kleine elite zullen worden misbruikt om hun agenda door te drijven. De instrumenten hiervoor – inclusief de gecentraliseerde macht van de EU – vallen steeds vaker in hun handen. We riskeren een herhaling van de jaren dertig, maar dan op continentale schaal en met middelen die zo fundamenteel zijn dat verweer bijna onmogelijk lijkt. Dit doemscenario is niet voor niets een van de hoofdmotieven in de moderne sciencefiction.
Brian Norgard, een ervaren serieondernemer uit Silicon Valley, deelde onlangs een huiveringwekkende observatie op X: "Bijna iedereen die ik ken die intelligent is en in de techsector werkt, lijdt aan ernstige angst. Het voelt alsof alles op het punt staat fundamenteel in te storten."
Op diezelfde dag kondigde Jimmy Ba, medeoprichter van Elon Musks xAI, zijn vertrek aan. Zijn afscheid klonk minder als een zakelijke mededeling en meer als een waarschuwing: "We betreden een tijdperk van honderd keer hogere productiviteit voor iedereen met de juiste tools. De recursieve cyclus van zelfverbetering zal waarschijnlijk binnen de komende twaalf maanden starten. 2026 wordt een waanzinnig jaar; waarschijnlijk het meest beslissende jaar voor de toekomst van onze soort."
Waarom is geschiedenis kennen zo belangrijk? De vraag stellen, is ze beantwoorden.
Neem als voorbeeld hoe een AI gereageerd zou hebben op het moment dat Einstein zijn relativiteitstheorie publiceerde. De AI zou het waarschijnlijk als 'nonsens' hebben geclassificeerd. Waarom? Omdat 99% van de toenmalige documentatie die theorie niet kende. Probabiliteit, mijn beste vrienden, is hier het sleutelwoord.
Ik begin mijn lezingen over AI steevast met een historisch overzicht, startend bij het Theorema van Bayes (1763). Deze krachtige wiskundige regel beschrijft hoe je een inschatting (kans) moet bijwerken op basis van nieuwe informatie. Je vertrekt van een a-priori verwachting en past die aan tot een a-posteriori kans. Het is de formele weg naar rationeel handelen in onzekerheid.
AI-systemen werken vaak met onvolledige of tegenstrijdige gegevens. Dankzij Bayes kunnen zij hun modellen voortdurend verfijnen. Het is het wiskundige fundament waarmee AI leert 'redeneren' in een wereld die bijna altijd onzeker is. Daarnaast is er het McCulloch-Pitts-neuronenmodel (1943), de kiem van de huidige neurale netwerken.
Latere systemen, zoals de symbolische AI, zijn onderworpen aan de onvolledigheidstheorema's van Gödel. De eerste stelt dat krachtige deductieve systemen nooit álles kunnen bewijzen binnen hun eigen kader. De tweede stelt dat dergelijke systemen hun eigen consistentie niet kunnen bewijzen. Dit geldt voor elk model dat gebruikmaakt van rekenkundige algoritmes.
Hoewel neurale netwerken hier strikt genomen niet direct onder vallen, draaien alle AI-systemen op computers. Hierdoor zijn ze indirect onderworpen aan Gödels logica via het Halting Problem van Alan Turing (1936). Turing bewees dat er geen algoritme bestaat dat voor elk willekeurig programma kan bepalen of het ooit zal stoppen of eeuwig blijft draaien. Dit probleem is onbeslisbaar; er bestaat geen universele 'stop-detector'.
Mijn grootste zorg ligt momenteel bij Agentic AI: systemen die autonoom beslissingen kunnen nemen. Gezien de wiskundige onzekerheden die ik hierboven beschreef, stemmen deze autonome programma's mij verre van gerust.
Begin deze eeuw onderzocht ik voor mijn doctoraat al business intelligent agents. De software was er destijds nog niet klaar voor, maar mijn grootste struikelblok was de vormgeving van de 'strategische gedachtegang' zonder te vervallen in starre expertsystemen. Mijn agents moesten fysiek van 'container' (marktomgeving) naar 'container' reizen en zich aanpassen aan lokale marktregels. Dit was een onderzoek op zich in de cognitieve en computerwetenschappen.
Vandaag wil ik dit weer oppikken, maar dan gericht op het 'hogere-orde denken'. Daar is AI momenteel nog ver van verwijderd. Een van de cruciale onderzoeksvragen is of de ethiek van AI emergent (vanuit zichzelf ontstaan) of constitutioneel (van buitenaf opgelegd) moet zijn. Het gaat hierbij niet om de ethiek van de gebruiker, maar om de ethiek binnen de AI zelf.
De huidige generatie AI kan dit nog niet aan. Daarom moeten de 'lanceerders' van Agentic AI de autonomie van deze systemen glashelder afbakenen en beperken. Mijn vrees is echter groot: tegenwoordig kan bijna iedereen agentic software bouwen, vaak zonder de volledige reikwijdte van de gevolgen te overzien.
Wat betreft de 'Prompt-AI': binnen mijn eigen organisatie heb ik de uitrol van Microsoft Copilot gestopt. Voordat we dit toelaten, moet alle interne informatie waartoe medewerkers toegang hebben, volledig opgeschoond zijn. Bovendien moet elke gebruiker eerst een opleiding over de werking en de historiek van AI volgen.
Generatieve AI verslindt documenten, maar de maker van de software bepaalt welke data worden ingevoerd en hoe het model wordt bijgestuurd. Toekomstige (of huidige) dictators zullen deze technologie willen beheersen om de massa een vertekend of beperkt beeld van de werkelijkheid te voorschotelen.
Niets nieuws onder de zon: controle over informatie, brood en spelen. Waarom is geschiedenis kennen zo belangrijk? De vraag stellen is haar beantwoorden.
Vervanging F16