Gezondheidszorg en AI De Engelse zorg efficiënter maken was een prestigieuze klus voor het Amerikaanse techbedrijf Palantir. Nu staat de Labour-regering onder druk om het miljoenencontract stop te zetten. „Het wantrouwen jegens Palantir doet afbreuk aan de algemene steun voor het delen van data.”
Demonstratie tegen het Amerikaanse technologiebedrijf Palantir bij het hoofdkantoor in Londen, op 1 oktober.
Het begon met een contract van een symbolische 1 pond, voor drie maanden dienstverlening. Aan het begin van de coronacrisis in 2020 zette het Amerikaanse technologiebedrijf Palantir een databank op voor de Engelse gezondheidsdienst, de National Health Service (NHS). Een open aanbesteding was niet nodig dankzij noodwetten die snelle besluitvorming tijdens de crisis mogelijk maakten. Palantir was binnen.
Het bedrijf bracht in zijn software allerlei informatie samen, over de beschikbaarheid van beademingsapparatuur en ziekenhuisbedden. Over de voorraden beschermende kleding, over testresultaten, over vrije plekken op de intensive care. Een verlenging van vier maanden dienstverlening kostte de NHS 1 miljoen pond (omgerekend ongeveer 1,16 miljoen euro). Daarna kwam er een contract van 23 miljoen pond, voor twee jaar.
In 2023 sloot het bedrijf een contract van 330 miljoen pond, bijna 385 miljoen euro, waarvoor Palantir in zeven jaar tijd een dataplatform zou ontwikkelen dat de gezondheidsdienst veel efficiëntie zou opleveren en patiënten in Engeland snellere zorg en betere communicatie. De NHS is één van de grootste landelijke gezondheidsorganisaties ter wereld; Palantir had hier een prestigieuze, omvangrijke klus binnengehaald.
Inmiddels bestaan grote twijfels over de samenwerking. Regeringspartij Labour staat onder druk om het contract tussentijds op te zeggen; dat zou kunnen vóór februari volgend jaar. In het Lagerhuis riepen twee parlementaire commissies de regering dit voorjaar al op om het contract stop te zetten. Tienduizenden patiënten maakten bezwaar tegen gebruik van hun gegevens in de Palantir-database. Morele argumenten en achterdocht jegens kunstmatige intelligentie spelen mee.
Het Verenigd Koninkrijk is na de Verenigde Staten de grootste markt voor Palantir. Hun grootste kantoor buiten de VS is dan ook gevestigd middenin de Britse hoofdstad Londen, om de hoek van de drukke winkelstraat Oxford Street. Pal voor de statige deuren en hoge zuilen van het pand protesteren activisten geregeld tegen de rol van Palantir binnen de NHS.
Begin oktober sprak arts in opleiding Rhiannon Osborne er een groep demonstranten toe. Osborne: „Ons werd verteld dat Palantir een revolutie zou brengen binnen de NHS. Oh, ze zouden zó uniek en bijzonder zijn dat we hun software niet konden weigeren. Maar wat blijkt, dat was allemaal kwakzalverij.” Beweringen over efficiëntiewinst zijn overdreven, gaat ze verder, en de kwaliteit van de software valt tegen. „Volgens managers in de ziekenhuizen zijn het veredelde spreadsheets.”
Arts in opleiding Rhiannon Osborne sprak de demonstranten toe bij het protest tegen een rol voor Palantir in de NHS op 1 oktober.
Osborne maakt uit privacyoverwegingen liever niet bekend in welk ziekenhuis ze werkt, vertelt ze op straat na haar toespraak. Maar de software van Palantir hebben ze er niet. „Er zijn hoe dan ook weinig ziekenhuizen en artsen die het gebruiken. Soms omdat ze al een systeem hebben dat werkt en het platform van Palantir weinig extra te bieden heeft. Soms ook uit weerstand tegen het bedrijf.” Zelf heeft ze vooral ethische bezwaren, over de betrokkenheid van Palantir bij de uitzetting van migranten in de Verenigde Staten en de steun aan de Israëlische genocide in Gaza. „Als arts word ik geacht om geen schade aan anderen toe te brengen, ook niet buiten het ziekenhuis.”
De demonstratie tegen Palantir had ook voor anti-Israëldemonstratie kunnen doorgaan. Palestijnse vlaggen staken uit boven de demonstranten, sommige artsen droegen een zwart-wit geblokte sjaal over hun operatiekleding. Het luide getoeter van de tegendemonstranten (zij zwaaien met Israëlische vlaggen) maakt de sprekers bijna onverstaanbaar. Palantir-baas Alex Karp zei in 2024 dat hij „trots” is dat Palantir bij „cruciale operationele acties in Israël betrokken is”. Het bedrijf levert al jaren technologie aan het Israëlische ministerie van Defensie.
Die betrokkenheid is één van de redenen dat vorig jaar de belangrijkste medische vakbond in Engeland zich vorig jaar tegen Palantir uitsprak. Het hoofd van Palantir in het VK, Louis Mosley, zei daarover dat de kritische artsen „ideologie verkiezen boven het belang van patiënten”. Ten onrechte, volgens hem. Arts Osborne vindt dat onzin. „Als medisch personeel weigert het systeem te gebruiken en patiënten willen hun gegevens niet delen omdat Palantir meewerkt aan droneaanvallen en deportaties, dan ontstaat een gebrek aan goede data.” En is de software alsnog weinig waard, bedoelt ze.
Een opt-out voor het delen van gegevens is mogelijk bij de NHS in Engeland en afgelopen voorjaar kozen ongeveer zestigduizend patiënten daarvoor. Een stijging die waarschijnlijk voortkomt uit wantrouwen jegens Palantir en wat het bedrijf doet met hun privacygevoelige data, gaf minister voor zorginnovatie James Frith (Labour) toe. De stijging kwam na aanhoudende negatieve berichtgeving over Palantir en hun zorgdataplatform. Volgens Frith was het ineens „geen vereiste” meer voor NHS-organisaties om de software van Palantir te gebruiken, terwijl de regering dat eerder wel als verplichting had gebracht.
In mei bleek uit onderzoek van de Financial Times dat werknemers van Palantir en andere consultancybedrijven onbeperkt toegang hadden tot gegevens van patiënten die nog niet geanonimiseerd waren. Terwijl alleen personeel van de NHS daar toegang toe had mogen hebben. De zorg hierbij is dat Palantir de data vervolgens in andere AI-programma’s voor hun eigen doeleinden zou gebruiken. Dat zoiets ook is gebeurd, daar is geen bewijs voor.
Demonstratie tegen een rol voor het Amerikaanse technologiebedrijf Palantir in de NHS, Londen, 1 oktober.
Over het algemeen zien Britten het belang ervan in dat hun gegevens worden opgeslagen om de gezondheidszorg te verbeteren. „Alleen moet wel helderheid bestaan over zowel het nut als de mogelijke risico’s”, zegt Andrew McIntosh. Hij is hoogleraar psychiatrie aan de Universiteit van Edinburgh en verbonden aan Datamind, een onderzoekscentrum voor geestelijke gezondheid. „Ik maak me zorgen dat het wantrouwen over Palantir afbreuk doet aan de algemene steun voor het delen van data.” Al in 2023, kort na het bekend worden van het contract voor Palantir, waarschuwde McIntosh dat het publiek de NHS zélf wel vertrouwt, maar achterdochtig is over inmenging door private bedrijven.
„Op een betrouwbare manier gegevens delen zou geweldige voordelen voor de NHS opleveren”, zegt de hoogleraar, „zelfs als dat met een Amerikaans bedrijf zou zijn”. Als voorbeelden noemt hij een betere planning van operaties en poliklinische bezoeken, en het versnellen van ontslag uit het ziekenhuis zodat andere patiënten weer sneller kunnen worden opgenomen. Zaken die NHS Engeland goed kan gebruiken: ruim zes miljoen patiënten wachten op één of meerdere afspraken met een arts.
Alleen over de toegevoegde waarde van het patiëntenplatform van Palantir valt nog weinig steekhoudends te zeggen. „Informatie van de NHS wordt door partijen aan beide kanten als argument voor hun mening aangehaald”, zegt McIntosh. Volgens NHS Engeland hebben bijvoorbeeld ziekenhuizen met de Palantir-software bijna 120.000 operaties extra uitgevoerd in vergelijking met daarvóór. Maar daar zijn andere factoren niet bij meegewogen, dus oorzaak en verband staan niet vast. McIntosh; „Al betekent dat ook weer niet, zoals tegenstanders zeggen, dat het níet dankzij Palantir is gebeurd.”
Bij de demonstratie voor het kantoor van Palantir in Londen staat activist Wendy Horler met een spandoek dat al een paar jaar meegaat. Save our NHS. Ze is aangesloten bij Keep Our NHS Public, een campagneorganisatie die al sinds 2005 ageert tegen privatisering binnen de NHS. De NHS levert gratis gezondheidszorg aan alle inwoners van het VK en veel Britten zijn daar trots op, ondanks de vaak lange wachttijden. „Als je eenmaal binnen bent, is de zorg geweldig”, zegt Horler.
Demonstrant Wendy Horler is aangesloten bij campagneorganisatie Keep Our NHS Public
Het contract met Palantir ziet Horler als onderdeel van „een Amerikaanse campagne om voet aan de grond te krijgen binnen de Britse gezondheidszorg”. „Onacceptabel en het moet stoppen.” Ze hoopt dat regeringspartij Labour binnenkort bekend maakt het contract op te breken. Een paar keer bezocht ze het spreekuur van het Lagerhuislid dat haar district vertegenwoordigt, in het zuiden van Londen, en dat gaf haar goede moed. „Eerst zei ze dat alleen Palantir deze software kan leveren. Maar de laatste keer dat ik er was, een paar weken geleden, was ze van mening veranderd.”
Volgens Britse media zoekt de regering van premier Andy Burnham naar binnenlandse bedrijven die het werk van Palantir zouden kunnen overnemen. Burnham wil dat het VK breekt met „de gewoonte alles uit te besteden aan het buitenland”, zei hij in één van zijn eerste toespraken als premier. De Financial Times schreef begin deze maand dat ministers ook overwegen om de verantwoordelijkheid voor het platform over meerdere partijen te verdelen. Niet alleen de feiten, maar ook de beeldvorming en impopulariteit van Palantir zullen meespelen, zegt hoogleraar Andrew McIntosh. „Uiteindelijk maakt de regering een politieke afweging.”
Britse overheidsinstellingen hebben in totaal bijna een miljard pond (1,16 miljard euro) uitgegeven aan software van Palantir. Naast de gezondheidszorg werkt het technologiebedrijf ook voor het Britse ministerie van Defensie, het nucleaire agentschap en een handvol politie-eenheden. Ook voor de contracten met Defensie zou regeringspartij Labour naar alternatieven zoeken.In Europa is het Verenigd Koninkrijk met afstand de grootste markt voor Palantir, maar de afhankelijkheid van het bedrijf in andere Europese landen groeit ook, stelde onderzoekplatform Follow the Money vast. In elf landen (waaronder Nederland) sloten nationale overheden contracten met Palantir, in acht landen werken ze voor het ministerie van Defensie en in vijf landen doen ze opdrachten voor de politie.
Bij Google kan je nu zelf aangeven welke nieuwsbronnen jij vaker wil zien in je zoekresultaten.Meer informatie