Hans Schnitzler: ‘Wanneer data het voornaamste medium zijn om de wereld te begrijpen, houdt alles wat daarbuiten valt, op te bestaan’
Zomaar een kop van een recent nieuwsbericht: ‘Overheid maakt volop gebruik van AI, maar kijkt vaak niet naar risico's.’ Wat blijkt: bij de overheid zijn inmiddels 120 AI-systemen aan het werk. Zo zet – bijvoorbeeld – de Belastingdienst kunstmatige intelligentie in om fraude op te sporen. Tegelijkertijd worden de eventuele risico's van AI-systemen niet of nauwelijks bekeken, aldus een onderzoek van de Algemene Rekenkamer. Hoe heilzaam is die inzet van al die technische hulpmiddelen nu eigenlijk? En wat moet je als ambtenaar weten om AI goed in te zetten? Filosoof Hans Schnitzler zoekt naar antwoorden.
Ons geloof in de heilzame werking van AI is enorm. Neutraal, onvermoeibaar, objectief – dat beeld kleefde vroeger al aan de inzet van data en ICT. En nu net zo hardnekkig aan AI. Dat zette filosoof Hans Schnitzler aan het denken. Voor De Maand van de Geschiedenis 2024 schreef hij het essay ‘De mens, de machine & de therapeut’ [https://www.botuitgevers.nl/product/hans-schnitzler-de-mens-de-machine-de-therapeut/]. Een essay over dat brede ICT-veld, over AI, over data, over techniek. Maar vooral een essay over hoe we daar als mensen mee omgaan.
‘Waar komt onze fascinatie met technologie als reddende engel vandaan?’
Schnitzler schetst het beeld van een alomtegenwoordige datarevolutie. Van een samenleving die zich laat verleiden door posts op social media, laat sturen door algoritmen en leiden door die veronderstelde objectiviteit van enen en nullen. Schnitzler schrijft: 'Voortaan zijn het onze data, en het heilige geloof in de objectiviteit van getallen en statistieken, die de grenzen van de wereld bepalen.’ Zonder data zijn we niet(s) meer.
Het beeld dat Schnitzler oproept is een beeld van ons als mensen die steeds meer uitbesteden aan techniek. Eerst in doen. Maar de laatste jaren ook in denken. Was het vroeger de stoommachine die handenarbeid lichter maakte. Tegenwoordig is het een mix van data, van ICT, van kunstmatige intelligentie, die ons denken een slag vooruit moet helpen. Tegelijkertijd is dat brede begrip technologie inmiddels een synoniem voor vooruitgang geworden.
‘Het spel tussen echt en nep is inherent aan ons mens-zijn’
Technologie als reddende engel
Waar komt onze fascinatie met technologie als reddende engel vandaan? Want ons heilige geloof in die kracht van techniek, dat zit diep. Schnitzler haalt de filosoof Stiegler (1994) aan: ‘de mens is een prothetisch wezen – door en door technologisch gedetermineerd’. Terwijl we aan de andere kant toch ook al best even weten dat ‘technologie noch goed, noch slecht, noch neutraal is', zoals juist de historicus Kranzberg al formuleerde.
Toch is ons geloof in technologische vooruitgang zo goed als onuitroeibaar. Hetgeen bij Schnitzler de logische vraag oproept: wat zetten we daarmee op het spel? Enerzijds hechten we zo’n geloof aan techniek, aan vooruitgang en aan objectiviteit van data. Anderzijds zien we deep fakes, of AI-bots, die als het erop aankomt fabuleren. ‘Wat betekent dat voor het onderscheid tussen echt en nep?’ En wat betekent het dan nog om ‘mens’ te zijn?
Het kan maar één ding betekenen, aldus Schnitzler: ‘dat dit hele onderscheid op den duur geen zeggingskracht meer heeft. Wanneer data eenmaal het voornaamste medium zijn om de wereld te beschrijven en te begrijpen, zal alles wat niet in data te vangen is, in casu wat niet te tellen of te classificeren valt, niet meer bestaan.' En is ook het onderscheid tussen ‘echt’ en ‘nep’ niet meer (relevant).
‘Vind de tastende, voelende mens achter je AI-systeem’
In gesprek met de Technotherapeut
Schnitzlers boek is opgebouwd uit verschillende hoofdstukken, die hij sessies noemt. Sessies met iemand, die Schnitzler ‘de Technotherapeut’ heeft genoemd. Een alleraardigste vondst, zo blijkt als je het essay uitgelezen hebt. Schnitzler heeft de sessies namelijk met ChatGTP gevoerd.
In iedere sessie komt wel een wezensvraag aan de orde. Over wat ons mensen nu eigenlijk mens maakt. Schnitler haalt Immanuel Kant aan, die de essentie van mens-zijn ooit langs drie vragen formuleerde: wat kan ik weten, wat moet ik doen, wat mag ik hopen? De mogelijke antwoorden op die vragen, die maken ons mensen ‘mens’.
Kom daar maar eens om in deze tijd, zo lijkt Schnitzler te stellen. Immers: ‘Chat of, excusez les mots, vergelijkbare behendige babbelaars [zullen] ongetwijfeld een antwoord paraat hebben dat menigeen tevreden stemt en tot navolging aanzet.’ Kortom: hoe uniek, hoe écht is de mens?
Misschien wel niet zo authentiek als we denken, zo riposteert de Technotherapeut in een van de sessies: 'Onze identiteit bestaat immers altijd al uit ‘de voortdurende navigatie tussen authentieke en geconstrueerde aspecten van onszelf’. Waarbij hij verwijst naar Erving Goffman’s wellicht meest bekende boek The Presentation of Self in Everyday Life (1956). Met dat boek in de spreekwoordelijke achterzak, stelt de Technotherapeut vast dat het spel tussen echt en nep inherent is aan ons mens-zijn en net zo oud als menselijke sociale interactie zelf.
Die vergelijking trekt een behoorlijke wissel op Schnitzler. Bekend was hij niet met het werk van Goffman. Na lezing constateert hij dat achter 'Goffmans ideeën vanuit maatschappelijk perspectief [bezien], een mens- en wereldbeschouwing met wezenloze trekjes’ schuilgaat. Sterker nog: ‘Voor Goffman is de mens immers niet veel meer dan een verkoper van zijn imago, een wezen wiens identiteit van losse imagodraadjes aan elkaar hangt. Wat je intenties ook zijn, uiteindelijk draait het allemaal om effectbejag, om de vraag of je een geloofwaardige indruk achterlaat.'
Dit is een van de weinige passages in een verder sterk betoog waarin Schnitzler de plank misslaat. Schnitzler schetst Goffman als iemand die onze door social media en influencers beheerste tijd al voorziet. In zekere zin is dat ook zo. Alleen, Goffman verbindt daar geen waardeoordeel.
‘Blijf het onderscheid tussen echt en nep eerbiedigen, koesteren en cultiveren, ook als ambtenaar’
Het enige wat nog werkelijk tastbaar is
Schnitzler eindigt zijn essay met een oproep. In deze tijd waarin ‘de’ waarheid langzaam in het geding raakt, er gesproken wordt over ‘jouw’ feiten en ‘factchecker’ een beroep is, moeten we luisteren naar wat schrijver Marian Donner te zeggen heeft. Zij doet ‘een aansporing om het onderscheid tussen echt en nep blijvend te eerbiedigen, te koesteren en te cultiveren’.
Donner schrijft: ‘Als de grens tussen echt en onecht vervaagt, tussen droom en realiteit, als we ons overal en nergens kunnen bevinden zolang er maar een goede internetverbinding is, zal het enige dat nog werkelijk tastbaar is, en misschien ook het enige dat daarom nog te vertrouwen is, ons eigen lichaam zijn. Mijn huid, mijn handen, mijn hartslag.'
En misschien leggen we Schnitzler nu woorden in de mond: tasten, aanraken, voelen – die vorm van waarnemen is ons mensen eigen. En misschien is het in de kern wel onze eerste zintuigelijke waarneming die ons informatie geeft. Tot vreugde of verdriet leidt. Ons waarschuwt. Ons early warning system is. Laten we dat dan ook maar goed blijven gebruiken.