Dit is een verslag van het boek “De Glazen Kooi”, geschreven door Nicolas Carr. Oorspronkelijke titel is “The Glass Cage”.
Dit boek behandeld de voortgang van automatisering en het effect daarvan op de mens. Ik heb dit boek gelezen in 2026. De oorspronkelijke publicatie was in 2014, ruim voordat kunstmatige intelligentie in 2022 een opmars begon te maken in de wereld.
Zelf ben ik werkzaam in software-ontwikkeling en automatiseer geregeld processen. Automatisering zorgt er voor dat alledaagse handelingen kunnen worden overgelaten aan machines. Dat begon al in de landbouw, waarbij de boer gereedschap en trekdieren inzette om het land te bewerken. Hierdoor is minder arbeid van de boer zelf nodig en kan er meer geproduceerd worden in kortere tijd. Dit heeft weer invloed op het aanbod van voedsel en de welvaart van de mens. Kortom, een proces automatiseren leidt tot positieve effecten. Echter is het ook zo dat de boer nu een afhankelijkheid heeft opgebouwd. Als gereedschap stuk gaat of een trekdier sterft, dan zal het vervangen moeten worden en kan de productie verhinderd zijn of potentieel stil liggen.
Het boek gaat om afhankelijkheid van automatisering. Mensen gebruiken satellieten om te kunnen navigeren, zoals GPS. Het is dus niet meer nodig om de weg te weten als je ergens naar toe wilt gaan. Maar als de GPS tijdens je rit opeens niet weet beschikbaar is, dan zouden velen de weg naar huis niet meer weten. Een persoonlijke ervaring had ik toen een vrouw te fiets me de weg vroeg, maar omdat het kruispunt waar ik haar tegenkwam was afgesloten vanwege werkzaamheden aan de Kasteel Traverse te Helmond, wist ze niet meer hoe om te gaan met de route die Google Maps haar toonde. Ze wist ook niet waar ze naar toe ging en liet me gewoon het scherm van haar smartphone zien, in de hoop dat ik het zo kon aanwijzen.
De mens biedt ook vaak weerstand tegen automatisering. Een stelling anno 2026 is dat kunstmatige intelligentie werk gaat overnemen. Deze vorm van automatisering kan er voor zorgen dat mensen hun baan verliezen en daarmee het leven op de kop zetten. Velen zullen zich daarom hiertegen verzetten. Automatisering heeft dus ook zeker negative effecten. Hoewel Nicolas Carr bij het schrijven van dit boek het onderwerp van kunstmatige intelligentie ofwel AI minimaal aanhaalt, zijn er genoeg andere voorbeelden uit de geschiedenis te lezen waar dezelfde patronen voorkomen.
De industrieele revolutie met de introductie van de stoommachine veranderde de mensheid ingrijpend. Een vorm van verzet waren de Engelse Luddite rebellen uit 1811 tot 1816. Dit waren wevers en kledingmakers, die in opstand kwamen tegen textielfabrieken, door vernielingen aan te richten. Tijdens de Crisis van de jaren 1930 was er veel verzet tegen de machines die banen afpakte en daarmee dus ook tegen de bedrijven en ondernemers die deze machines inzetten. Dit deed zich voort tijdens een periode genaamd de “Machine Age”, die liep van 1880 tot 1945. Het zelfde lijkt nu ook zo te gebeuren met kunstmatige intelligentie, hoewel er nu geen economische depressie is. Ik merk dat mensen het als revolutionair zien, maar ook dat er veel verzet tegen is. Het lijkt in mijn ogen een herhalend patroon en daarom is vernieling ervan onnodig. Maar begrip en controle zijn wel nodig, en dat moet afgedwongen worden met verzet. De Borg uit Star Trek, die alles “assimileren” in hun “Collective”, zullen iedereen confronteren met “Resistance is futile”, weerstand is zinloos. Echter, dat is dus precies wat de mens dus wel moet doen, om mens te blijven, om degenen die de mens tot slaaf willen maken te weren, moeten we weerstand bieden. Het boek eindigt dan ook met de boodschap “resistance is our obligation”. De bron van onze vitaliteit, is de actieve ziel, zoals filosoof Ralph Waldo Emerson aangaf in zijn essay “The American Scholar”.
Maar het duurde niet heel lang tot de Luddite rebellen waren uitgeschakeld en de handgemaakte textielproductie verhuisde naar fabrieken. De productiviteit was enorm en daarmee werd kleding en andere textielproducten toegankelijker voor iedereen, wat dan weer bijdraagt aan de welvaart van de mens. Hoewel we nu in periodes leven van enorme bergen textielafval en overproductie. Die dan weer allerlei innovatie in recycling hebben voortgebracht.
Een ander fenomeen is het “Degeneration effect” ofwel de afbraak van vaardigheden de term “deskilling” komt ook wel voor. In 2004 voerde Dr. Christof van Nimwegen bij universiteit van Utrecht enkele experimenten uit van het effect van software op het vormen van vaardigheden en geheugen bij de mens. Één groep kreeg software toegewezen die ze stap-voor-stap assisteerde en een andere groep kreeg simple instructies. De groep met software ging sneller, maar toen de opdrachten moeilijker werden gemaakt met minder assistentie, werd al snel duidelijk dat de groep zonder assistentie-software excelleerde in het oplossen van nieuwe problemen. Zij waren beter in het plannen, conceptueel denken en strategisch aanpakken van de nieuwe opdrachten, terwijl de andere groep duidelijk afhankelijk was geworden van de software. Toen dezelfde groepen acht maanden later dezelfde opdrachten moesten oplossen, had de groep zonder assistentie-software een sterker geheugen gevormd, waardoor zij het sneller wisten op te lossen dan de groep die destijds wel software had voor assistentie. Zie hiervoor: “The Paradox of the Guided User: Assistance Can Be Counter-effective”.
Mensen denken niet allen met het brein. Het brein is verbonden met andere zintuigen van ons lichaam, onze ogen, oren, neus, mond, ledematen. We hebben emoties, ervaringen en er zijn externe factoren die allemaal onze beslissingen kunnen beinvloeden.
Automatisering wordt veel toegepast in de luchtvaart. Het boek heeft haar titel ontleend aan de term “Glass cockpit”, een term die beschrijft dat analoge meters en instrumenten in de cockpit van een vliegtuig vervangen zijn door schermen en computers. Dit betekend dat er geen boordwerktuigkundige meer nodig was, die verantwoordelijk was voor het functioneren van de techniek aan boord van het vliegtuig. De computer neemt deze taak over en zet deze informatie door naar de schermen die in de gaten wordt gehouden door de gezagvoerder en de co-piloot. Net als medici die informatie verzamelen en invoeren in een computer die uiteindelijk met een beslissing komt, zijn de piloten ook menselijke sensoren geworden voor het systeem. Een vergelijking kan ook gemaakt worden voor de zelf-rijdende auto, waarbij de computer rijdt en de mens het in de gaten moet houden. En kunnen ingrijpen als er iets mis gaat. Dit alles is automatisering, wat kostenbesparing met zich meebrengt en het daarmee toegankelijker maakt dat mensen vliegtickets kunnen boeken om de wereld rond te reizen. En dat zorgt weer voor teveel vliegverkeer, wat weer ten koste gaat van het milieu.
Op het eiland Igloolik in Canada, leven de Inuit jagers door te navigeren over lang gestrekte stukken ijs en tundra landschappen. De sneeuw en wind zorgt ervoor dat het land continue veranderd. De Inuit gebruikten kaarten en kompas, maar ook kennis van de stand van de wind, de sterren, gedrag van dieren, patronen in sneeuw en rivierstroming om kennis op te bouwen en zo veilig het land te kunnen bereizen op zoek naar voedsel. Echter komen ook deze Inuit jagers, waarbij vooral de jongeren technologie willen omarmen. Hondensledes werden vervangen door sneeuwscooters, kaarten door GPS. Het maakte het zelfs mogelijk om te jagen in de mist, wat voorheen onmogelijk was. De oudere manieren werden afgedaan als “ouderwets”, “niet meer van deze tijd” en “antiek”. Maar batterijen bevriezen, machines slijten, ontvangers ondervinden storing. GPS routes laten geen gevaren op de weg zien. Het leidde tot verwondingen en zelf doden, naast het feit dat de jongere jagers niet meer konden jagen en ook die essentiele kennis over te dragen aan een volgende generatie. Studies laten zien dat jagers zelfs het zicht op de omgeving verliezen als ze op GPS reizen en tunnelvisie krijgen, zie daarvoor de studies van Claudio Aporta en Eric Higgs: “Satellite Culture: Global Positioning Systems, Inuit Wayfinding and the Need for a New Account of Technology”. “The price of covenience is the loss of autonomy”. Ofwel, de prijs van het gemak, is het verlies van onze autonomiteit. Geschreven door David Brooks in “The Outsourcing Brain” in 2007.
Hoewel deze systemen utopisch lijken, kunnen ze niet omgaan met alle variabelen die de wereld te bieden heeft. In 2009 vloog een groep ganzen tegen de motoren van een Airbus A320, vlucht 1549, waarbij de piloten een noodlanding hebben moeten maken in de Hudson rivier. Als de bemanning van het vliegtuig deze ingreep niet had gedaan door te “babysitten” op de A320 met de allernieuwste automatisering aan boord, dan zouden alle passagiers waarschijnlijk zijn omgekomen. Het is zeker niet ongewoon dat piloten het toestel moeten redden vanwege mechanische defecten, software glitches, weersomstandigheden en andere onverwachte gebeurtenissen.
We klagen tegenwoordig dat we slaven zijn geworden van onze machines, en urenlang kijken naar een scherm van een monitor, laptop of smartphone. Een dystopische werkelijkheid waarin kunstmatige intelligentie ons stuurt via software en op die manier van onze slaaf naar onze meester is geworden, zijn beangstigende gedachten. Wel leuke concepten voor film en geschreven fictie. Het woord “robot” komt dan ook van het Tjechische woord “robota” wat iets als diestbaarheid of “dienaar” is in het Nederlands, de term is dan ook door de Tjechische science-fiction schrijver Karel Čapek geintroduceerd.
Ik zelf zal niet in een zelf-rijdende auto willen rijden, ik houd van verbinding te hebben met het voertuig via het stuur en het gaspedaal van mij Nissan Micra uit 1999 zonder stuurbekrachtiging. Maar ik heb geen probleem met een rit maken in de Yurikamome, een volledig automatisch rijdende trein in Tokyo. En als ik iedere dag dezelfde rit zou moeten maken naar mijn werk, zou een automatisch rijdende auto wel leuk zijn natuurlijk. Maar de angst dat er van alles mis kan gaan, waarbij ik (te laat) kan ingrijpen, weerhouden me om het te omarmen.
Ook al zou het perfecte geautomatiseerde systeem worden ontworpen en gebouwd, het zal nog steeds moeten functioneren in een imperfecte wereld.