is hoogleraar Informatica.
Een hoop verbaasde stemmen naar aanleiding van de video van Rutger Bregman over de kansen en gevaren van AI. Hier gaat wat mis, schreef Laurens Verhagen terecht in deze krant. Klimaatverandering kan rekenen op brede wetenschappelijke consensus en tot een paar jaar terug ook op redelijk wat politieke consensus.
Remember dat Mark Rutte ooit ‘Groen Rechts’ als strategie voor de VVD promootte? Voor AI geldt zo’n consensus allerminst: toonaangevende wetenschappers die Bregman noemt in zijn filmpje, zoals Emily M. Bender en Noam Chomsky, zijn helemaal niet overtuigd van de intelligentie van AI.
Echter blijkt uit Bregmans reactie op Bender en Chomsky dat hij niet begrijpt wat zij zeggen. Chomsky beargumenteerde dat taalmodellen geen morele taken kunnen uitvoeren, omdat zij hun uitvoer niet langs een ethische meetlat kunnen leggen; die hebben zij namelijk niet. Ze kunnen wel geprogrammeerd worden om het een of het ander niet te zeggen, maar dat is nog geen moraliteit; moraliteit vergt namelijk afwegingen tussen conflicterende wensen.
Columnisten hebben de vrijheid hun mening te geven en hoeven zich niet te houden aan de journalistieke regels voor objectiviteit. Lees hier onze richtlijnen.
Bregman neemt aan – stuitend voor een historicus, maar honderd procent in lijn met informatici – dat er zoiets is als algemeen moreel juist, en dat we taalmodellen zo kunnen programmeren dat zij dat moreel juiste ding netjes uitspugen, alsof dat niet afhangt van je geloof, je ervaringen in het leven of je persoonlijkheid.
Zijn kritiek op Bender (en coauteurs) slaat de plank nog verder mis. Al voor ChatGPT benoemden zij trouwens het gevaar van de nu vaak aangehaalde ‘stochastische papegaai’. De uitvoer van zo’n papegaai, zeiden zij, zal door mensen onvermijdelijk gezien worden als uitvoer van een denkend wezen. Hoewel zij met hun metafoor wel probeerden uit te leggen dat een LLM (Large Language Model) op basis van kansberekening werkt, zeiden zij absoluut niet dat een LLM imperfect is omdat het ‘maar’ een stochastische papegaai is.
Maar wie nu denkt: ‘Ach, die Bregman, wat een fall from grace… Zo’n slordig literatuuronderzoek, zeker voor een historicus, misschien heeft hij het zelf ook uit een LLM getoverd’, mist het punt. Bregman vertegenwoordigt hier namelijk twee meningen die binnen de techbro-community absoluut mainstream zijn: dat we een goede, morele AI kunnen maken en dat bedrijven het vehikel zijn om dat mee te doen.
Het is een duizelingwekkende draai na zijn ‘taxes, taxes, taxes’, en daarom zo lastig te kaderen, maar Bregman gelooft – en dat heeft hij gemeen met de hele Nederlandse AI-start-upscene – dat AI gaat leiden tot overvloed van alles voor iedereen. ‘Universal basic wealth’ noemt hij dat in de video, zijn andere claim to fame. De overheid is in dat scenario uitgespeeld, want wat moeten die nog doen als ze geen gelijkmaker meer hoeven te spelen? Daar komt de tech overlord, in de vorm van Dario Amodei natuurlijk, die strategisch langs Sam Altman is gelaveerd als maker van de beste en moreelste AI.
En kijk, van mening veranderen mag, maar zo’n 180 vraagt toch om publieke introspectie, die geheel en al ontbreekt. Heeft Bregman zelf door dat hij totaal anders naar de wereld kijkt? Zijn blik op AI is eigenlijk, schreef jurist Bo Salomons op Mastodon, in de lijn met zijn School voor Morele Ambitie, die ook al inzet op goede bedrijven, en daarmee andersoortig activisme (via demonstratie of politiek) verwerpt als vector van verandering.
Is Bregman hier kort door de bocht en niet goed geïnformeerd? Ja. Maar ook gewoon bereslim. Hij zet mensen als Bender en Chomsky – die het roerend met hem eens zijn over de macht van de oligarchen – weg als naïef en misguided en kan zo van beide walletjes mee-eten. Hij noemt zichzelf links maar distantieert zich er ook van, terwijl hij de beloftes van de rechtse techbro’s bekrachtigt. ‘Links lullen, rechts zakken vullen’ zeiden zij vroeger, dit is ‘links bashen, rechts cashen’.
Geselecteerd door de redactie
Source: Volkskrant