‘Hoe intelligent AI ook is, het heeft geen ziel’ (en is dus beperkt geschikt voor de overheid)
Kunstmatige intelligentie (AI) doet rap haar intrede in het openbaar bestuur. Immers, de overheid moet – zo voelt zij zelf – mee in de digitale transformatie die zich voltrekt. Maar zoiets vraagt naast reactievermogen ook om regie, aldus Jan van Ginkel, tot voor kort loco-provinciesecretaris van Zuid-Holland: ‘Daar waar medemenselijkheid nodig is, zeg ik vooralsnog: dit is een AI-vrije zone.’ In de NSOB-podcast Uit de school interviewt onderzoeker Christiaan van der Kaaij Van Ginkel en NSOB-bestuurder Martijn van der Steen over de strategische en morele vragen achter de digitale transformatie van de overheid. ‘We maken ons nu teveel afhankelijk van marktpartijen.’
Of de helft van het ambtenarenapparaat er in de toekomst niet gewoon uit kan, vraagt Christiaan van der Kaaij zich – ietwat provocerend – af bij aanvang van de podcast ‘De belofte en bedreiging van AI’.
‘Nou mijn gedachte bij die vraag is meervoudig, maar volgens mij mag dat wel bij de NSOB’, grapt Jan van Ginkel, op dat moment nog nét loco-provinciesecretaris bij de provincie Zuid-Holland (inmiddels bestuurder bij zorggroep Sirjon). Vanuit zijn rol aldaar, en als lid van overheidsbreed beleidsoverleg digitale overheid (OBDO), richtte hij zich op de digitale transformatie bij de overheid ten gevolge van kunstmatige intelligentie.
‘Toen ChatGPT zijn intrede deed, dacht ik direct: nu kan een groot deel van de ambtenaren andersoortig werk gaan doen’, vertelt hij. Al ziet hij nu wel: ‘Werkelijk relevante en ethische AI-toepassingen ontwerpen, dat kost veel denkkracht, tijd en aandacht.’
‘Veel overheden hebben uit enthousiasme over AI al vroeg in het proces veel controle op morele en ethische aspecten losgelaten’
Technologie in tussentijd
NSOB-decaan Martijn van der Steen schreef in opdracht van de Provincie Zuid-Holland het essay ‘Technologie in de tussentijd: AI, publieke waarde en democratie’. Hierin beargumenteert hij dat AI-sturing vereist van overheden. Juist nu, in een tussentijd waarin AI nog te onderontwikkeld is om op te vertrouwen, maar te geavanceerd is om te negeren, is het zaak de ‘handen aan het stuur te houden’.
Overheden moeten zich voortdurend de vraag stellen hoe AI zich in moreel opzicht gedraagt in een bepaalde context. Maar in plaats daarvan, vertelt Van der Steen, geven overheden de ontwikkeling van AI grotendeels uit handen aan marktpartijen. ‘Veel overheden hebben uit enthousiasme over AI al vroeg in het proces veel controle op morele en ethische aspecten losgelaten. Als die vraag later urgent wordt, zijn zij niet meer in staat de regie terug te nemen.’
‘Een algoritme dat met de verkeerde aannames is geprogrammeerd, kan desastreuze gevolgen hebben voor kwetsbare groepen in de samenleving’
AI-vrije zones
Tegelijkertijd, stelt Van Ginkel, zijn er plekken in de samenleving die voorlopig nog niet – maar misschien wel nooit – rijp zijn voor AI. Volgens hem schiet het achterliggende, rationele mensbeeld op basis waarvan algoritmes momenteel opereren, in bepaalde situaties te kort:
‘In de zorg creëren personeelstekorten en vergrijzing een lastige situatie, maar is gerobotiseerde verpleging dan de oplossing? Ik ben zo ver nog niet. En hoe intelligent AI ook mag zijn – los van wat je onder intelligentie verstaat, het gebrek aan een ziel, aan empathisch vermogen is heel wezenlijk in zo’n context. Daar waar medemenselijkheid nodig is ben ik vooralsnog geneigd om te zeggen: dit is een AI-vrije zone.’
Van der Steen denkt even na en beaamt dat AI, hoe geavanceerd ook, per definitie keuzes maakt op basis van data en patronen. Dat betekent dat sommige groepen onbedoeld uitgesloten kunnen worden. ‘Denk aan de toeslagenaffaire. Een algoritme dat met de verkeerde aannames is geprogrammeerd, kan desastreuze gevolgen hebben voor kwetsbare groepen in de samenleving.’
Van Ginkel: ‘Ik houd voorlopig vol dat er verschijnselen in de wereld zijn - schoonheid, liefde en empathie - waarvan ik wil geloven dat je die niet kunt vatten in nullen en enen. Ik laat in mijn gedachten niet toe dat dat alles programmeerbaar is. Dat is uiteindelijk een dode wereld die heel slim en perfect is, maar waar je niet wilt wonen.’
‘Door als overheid zelf toepassingen te bouwen, krijg je niet alleen grip op de technologie, maar win je ook aan zelfvertrouwen’
Overheid en AI in harmonie
Op plekken waar de overheid wél kansen ziet in AI, zegt Van der Steen, is het ergste wat zij kan doen deze ontwikkelingen outsourcen. Zo maken we ons in de nabije toekomst afhankelijk van marktpartijen die er weinig aan gelegen is om maatschappelijk verantwoord te programmeren:
‘We zien nu een asymmetrische ontwikkeling waarin de overheid en samenleving enthousiast gebruiker zijn van allerlei tech-toepassingen. Met dat gebruik, en de data die dat oplevert, voeden we de aanbieders van die tech-toepassingen. Die worden almaar slimmer en groeien dusdanig hard dat wij de controle daarop verliezen. Over een paar jaar vis je dan echt achter het net.’
Van Ginkel onderstreept het belang van actief mee-ontwikkelen: ‘Door zelf toepassingen te bouwen, krijg je niet alleen grip op de technologie, maar win je ook aan zelfvertrouwen. AI is uiteindelijk een veredelde calculator, die je moet durven onttoveren.’
De provincie Zuid-Holland zette daarin een eerste stap door een eigen AI-engine te ontwikkelen. ‘Niet enkel met het oog op privacy, maar ook in termen van bekwaamheid was dit een belangrijke stap.’
Het volledige gesprek tussen Van der Kaaij, Van Ginkel en Van der Steen is te beluisteren op Spotify.