is techredacteur van de Volkskrant, gespecialiseerd in de impact van kunstmatige intelligentie op de maatschappij.
In Silicon Valley fungeert het adagium ‘Move fast and break things’ zo’n beetje als de grondwet. Zo snel mogelijk bewegen en de concurrentie vermorzelen, zonder je van iets banaals als wetgeving aan te trekken.
Concurrentie is voor sukkels, voegde Peter Thiel daar ook nog eens aan toe. In dit proces worden brokken gemaakt, maar dat is onvermijdelijk. Bedrijven als Meta of Uber werden er groot mee.
In de AI-wereld is het al niet anders, met als hoofdrolspelers OpenAI en Anthropic. De geschiedenis van de rivalen speelt een rol: Anthropic werd opgericht door een prominente groep ontevreden OpenAI-figuren.
Het feit dat beide ondernemingen naar de beurs willen, zet de verhoudingen nog verder op scherp. OpenAI en Anthropic azen op dezelfde groep betalende gebruikers, investeerders en AI-talent. Prachtige verhalen over belangrijke doorbraken helpen om het beeld in te kleuren dat ze graag willen schetsen: wij staan op het punt om superintelligentie te ontwikkelen.
Opvallend genoeg gaat alle jubel vergezeld door paniekverhalen die uit exact hetzelfde kamp afkomstig zijn. Het is allemaal onderdeel van dezelfde hype, betogen critici, maar zo langzamerhand is het marketingverhaal – als dat het is – wel heel erg slecht.
Een tekenend voorbeeld is het essay An alien mind van Jakub Pachocki, OpenAI’s hoofdonderzoeker. Zijn baas Sam Altman zal tevreden zijn met formuleringen als: ‘We bevinden ons nu op een moment in de geschiedenis (...) waarop machine-intelligentie die van de mens op transformatieve wijze begint te overtreffen.’
Het venijn zit in de laatste alinea. Pachocki schrijft dat geen enkel bedrijf (inclusief zijn eigen OpenAI) zijn ‘afstemming en monitoring’ voldoende op orde heeft om ‘op verantwoorde wijze en met maximale snelheid te kunnen blijven produceren’. Ergo: zijn eigen werkgever handelt onverantwoord. Want met die ‘maximale snelheid’ zit het wel goed.
Zijn evenknie bij Anthropic, Evan Hubinger, zit op exact dezelfde lijn. ‘We geloven er echt oprecht in dat AI de hele mensheid zou kunnen uitroeien!’, schrijft hij monter. Zelf schat hij de kans daarop in het komende decennium op ‘meer dan 10 procent’. Hij zegt het allemaal achteloos.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
Het ergste komt nog: Hubinger zegt dat Anthropic ‘zijn uiterste best doet’, maar eigenlijk nog helemaal geen plan heeft om een rampscenario af te wenden. Als investeerder zou ik niet heel enthousiast worden van zo’n slecht verhaal.
Een conclusie zou kunnen zijn om zo snel mogelijk je hielen te lichten en geen werk meer voor zo’n bedrijf te verrichten. Die trekken Pachocki en Hubinger niet. Hun collega-onderzoeker Jacob Coxon (ook van Anthropic) wél. Hij nam ontslag wegens zorgen over AI en bekritiseert zowel Anthropic als OpenAI. Zij zijn zich volgens hem bewust van alle risico’s van AI, maar vinden het belangrijker hun wedloop te winnen.
Thiel zei het al, concurrentie is voor sukkels.
Geselecteerd door de redactie
Source: Volkskrant