De Engelse filosoof Thomas Hobbes (1588-1679) beschreef de staat ooit als een kunstmatig lichaam, vergelijkbaar met een machine. Die machine werd bestuurd door de soeverein, alle andere staatsbeambten bewogen slechts als een soort artificiële ledematen op zijn aansturing; als radertjes in een mechaniek. Latere denkers zagen in plaats van de absolute vorst die Hobbes aan het hoofd van de staat plaatste liever een gekozen volksvertegenwoordiging. Maar het beeld van de staat als machine, stelt filosoof Joseph Heath in zijn boek The Machinery of Government, was een blijvertje in ons denken.
In werkelijkheid, vervolgt Heath, is de overheid natuurlijk geen machine. De bureaucratie, het ‘ambtenarenapparaat’, bestaat niet uit tandwielen en kettingen, maar uit mensen van vlees en bloed. Mensen die hun superieuren kunnen gehoorzamen maar ook tegenspreken; mensen die kunnen besluiten om de regels te handhaven of een uitzondering te maken; mensen die ‘ja’ of ‘nee’ kunnen zeggen tegen een burger aan het loket of aan de BelastingTelefoon. In principe volgen ambtenaren wel de wil van de politiek, maar die kan nooit alle specifieke gevallen voorzien waarover in de praktijk beslissingen worden verwacht. En dus ligt er onvermijdelijk een hoop macht bij de mensen die dagelijks al die besluiten nemen.
Van die mensen hebben we er te veel, vindt het kabinet. Staatssecretaris Eric van der Burg wil een vijfde van de banen bij de Rijksoverheid schrappen. Dat hoopt hij te bereiken door versimpeling van regels, afschaling van controle en toezicht, en – quelle surprise – verdere digitalisering en inzet van kunstmatige intelligentie. Ambtenaren zullen meer werk moeten overlaten aan digitale assistenten. Telefonische loketten voor burgers worden vervangen door chatbots. Risico-onderzoek om te controleren of overheidsgeld goed besteed wordt, wordt een klus voor AI.
Als het allemaal gaat lukken wat Van der Burg wil, dan staan we aan de vooravond van een aanzienlijke overheveling van staatsmacht van menselijke ambtenaren naar iets waarvoor ik toch niet echt een betere naam kan bedenken dan ‘de machine’. Hij lijkt misschien minder op het ratelende automaton met wieltjes en veertjes dat Hobbes voor zich zag. Eerder is het een kolos van kabels en stekkers, printplaten en microchips, waaruit een laagfrequent bromgeluid opstijgt. Maar een machine is het zeker, en al decennialang vertrouwt de overheid die meer en meer taken toe.
Met de grootschalige omarming van AI in het openbaar bestuur breekt de computer nu verder door als superbureaucraat. En wat is daar ook op tegen, zou je kunnen denken. Het hele idee is dat die computer in ruil voor een beetje stroom doet waar een rijksambtenaar jaarlijks bijna tweemaal modaal voor vraagt. En elk weldenkend mens ziet in dat het aantal van die ambtenaren de afgelopen jaren compleet de pan uit is gerezen.
Maar zou elk weldenkend mens, alvorens zich te laten meeslepen in een droom van een staat die draait op ultra-efficiënte algoritmes, niet ook heel even moeten terugdenken aan de Toeslagenaffaire? Aan hoe tienduizenden burgers toen werden ingemetseld tussen nullen en eentjes? Hoogleraar publiek management Sandra Groeneveld waarschuwde bij radioprogramma Dit is de dag voor grote risico’s wanneer het kabinet vereenvoudiging van regels en uitfasering van checks and balances combineert met het opschalen van AI-inzet. Een volgend discriminatieschandaal zou zich zomaar om de hoek kunnen bevinden.
Voor mensen die dit toekomstbeeld nog niet huiveringwekkend genoeg vinden heb ik er nog wel een, uit een interview met technologiedenker Yuval Noah Harari van afgelopen maand. Koeien weten niet dat geld bestaat, begint Harari, het is onzichtbaar voor ze. Ook als je zou proberen ze het uit te leggen – de effectenbeurs, de aandelenmarkt – zouden ze het niet snappen. Maar ondertussen worden koeien wel gefokt, verkocht en geëxploiteerd volgens de wetten van het financiële systeem. Het systeem domineert hun leven, ook al begrijpen ze er zelf niks van. Een vergelijkbaar lot wacht de mens nu AI de bureaucratie overneemt, aldus Harari. AI zal zo’n geavanceerd bestuurlijk systeem creëren dat wij mensen het niet langer zullen begrijpen. Maar onze levens zullen er wel door gecontroleerd worden.
‘We are the cows of the future’, besluit Harari met zijn bekende stelligheid. Volgens hem is de totalitaire AI-bureaucratie onafwendbaar. In die onafwendbaarheid geloof ik persoonlijk dan weer niet. Omdat ik geloof in de weldenkende mens.
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie