Muziekstreamingsdienst Spotify en chatbot Claude van Anthropic krijgen labels en watermerken om aan te geven wanneer muziek of tekst is gegenereerd door AI. Waarom doen ze dat en hoe werken die watermerken eigenlijk?
is techredacteur van de Volkskrant. Hij schrijft onder meer over digitale autonomie, sociale media en games.
Is het toeval dat Spotify en Anthropic tegelijkertijd met deze maatregelen komen?
Nee. De Europese AI-wet verplicht techbedrijven sinds 2 augustus om duidelijkheid te scheppen over de vraag wat door mensen is gemaakt en wat door AI. Brussel wil dat zo goed als alle producten van generatieve AI-modellen duidelijk worden geoormerkt als kunstmatig.
Muziekplatforms stromen al jaren lang vol met AI-drek. Vorig jaar maakte Spotify nog bekend gedurende twaalf maanden tijd maar liefst 75 miljoen AI-nummers te hebben verwijderd, terwijl daar op dit moment ruim 100 miljoen songs te beluisteren zijn.
Al deze AI-content zuigt aandacht weg van menselijke artiesten. Ook zijn er AI-artiesten met miljoenen fans die oprecht van de AI-muziek genieten. Al helemaal verwarrend zijn de muzikanten die claimen mensen te zijn, zoals soulzangeres Sienna Rose met 500 duizend maandelijkse streams op Spotify, wat muziekrecensenten in twijfel trekken.
De Europese wet legt de verantwoordelijkheid om dit soort discussies op te lossen met duidelijke labels bij partijen die AI-content publiceren.
Zijn Spotify en Anthropic de enige die deze AI-watermerken invoeren?
190 organisaties ondertekenden voor augustus al een ‘transparantiecode’, waarin de Europese Unie een aantal methodes op een rij zette die bedrijven kunnen gebruiken om aan de wet te voldoen.
Ondertekenaars waren onder meer Google, Meta, Microsoft en OpenAI, en ook beeldbank Getty Images, luchtvaartmaatschappij Lufthansa en juwelier Bulgari – op de websites en socialemediakanalen van deze laatste drie partijen kunnen ook AI-foto’s of teksten verschijnen. Het is te verwachten dat er de komende tijd meer aankondigingen verschijnen zoals die van Spotify en Anthropic.
Bovendien gebruiken meerdere partijen al langer AI-labels: zo vermelden boekverkopers op Bol.com of boeken zijn geschreven met AI. Een woordvoerder van Bol.com vertelt dat de verantwoordelijkheid voor deze transparantie bij verkopers ligt. Een team van Bol.com gaat weliswaar na of deze informatie klopt, maar dit werk is door het enorme aanbod – zo’n 7 miljoen boeken – ‘best een uitdaging’, aldus de woordvoerder.
Wat voor AI-labels gaat Spotify toevoegen?
Vanaf september kunnen mensen die muziek op Spotify zetten, vermelden of de bijbehorende artiest van die muziek een ‘AI Persona’ is. Dat komt vervolgens als label bij het profiel van de artiest te staan. In het SongDNA van een nummer, een nieuwe functie die duidelijkheid geeft over de credits van een song, kunnen aanbieders van muziek aangeven op welke manier AI eventueel is gebruikt: voor tekstschrijven of de muziek zelf, bijvoorbeeld.
‘We hopen dat artiesten transparant zullen zijn’, schrijft Spotify in een persbericht. Ook heeft het bedrijf een systeem opgetuigd dat automatisch nagaat of populaire artiesten AI-personages zijn. Als het systeem dat vermoedt, verschijnt er een label met ‘Waarschijnlijk een AI Persona’.
Hoe voegt Anthropic watermerken toe aan teksten en bestanden die Claude genereert?
Hierover geeft Anthropic weinig details, ook om het kwaadwillenden niet te makkelijk te maken de watermerken te omzeilen.
Wel is bekend dat Anthropic de Brusselse transparantiecode heeft ondertekend, en daarom hoogstwaarschijnlijk gebruikmaakt van een al bekende methode voor het maken van AI-watermerken in teksten.
Zodra een taalmodel tekst genereert, kiest het woorden uit op basis van statistische berekeningen. Voor woorden bestaan synoniemen en er zijn meerdere formuleringen van een zin mogelijk. Ontwerpers van chatbots maken gebruik van deze verschillen, om te voorkomen dat een chatbot altijd dezelfde woorden in dezelfde volgorde gebruikt.
Een watermerk voor AI-tekst is in dit ontwerp op te nemen, vertelt Jelle Zuidema, universitair hoofddocent AI aan de Universiteit van Amsterdam: ‘Je maakt twee lijsten woorden en vertelt de chatbot om woorden uit die twee lijsten in bepaalde patronen door een tekst heen te weven. Een lezer zal dit niet opmerken en het verandert de kwaliteit van de tekst ook niet.’ Hoe langer de tekst, hoe duidelijker het ‘weefpatroon’ wordt. Zie het als een voor mensen onzichtbare barcode die detectiesoftware er wel uitpikt.
Aan bestanden die Claude maakt, zoals png-afbeeldingen, voegt Anthropic een versleuteld watermerk toe in de metadata.
Hoe valt het nieuws over de AI-labels in de creatieve branche?
Michiel Laan, voorzitter van de AI Taskforce bij BumaStemra, omschrijft de AI-labels bij Spotify als een goede stap: ‘We pleiten al langer voor transparantie. Mensen moeten weten waarnaar ze luisteren.’ Tegelijkertijd vindt hij de maatregelen van Spotify nog te vrijblijvend. De transparantie berust nog voor een te groot deel op informatievoorziening van mensen die muziek uploaden.
Ook zijn de labels voor artiesten en individuele liedjes verre van genuanceerd. Wat als een artiest baslijntjes laat schrijven met AI, maar de rest zelf speelt? ‘Dit is een belangrijke vraag, maar op dit moment is het belangrijk dat er duidelijkheid is over de zwart-witgevallen – helemaal menselijk of helemaal AI’, zegt Laan. ‘Maar we zullen uiteindelijk verder moeten nadenken over de balans tussen het stimuleren van technologische innovatie en het beschermen van muzikanten en schrijvers.’
Ook Zuidema zegt opgelucht te zijn over de watermerken voor Claude: ‘Het kost Anthropic niets om dit door te voeren en het verhoogt de drempel fors voor bijvoorbeeld mijn studenten om hun scripties en essays door AI te laten opstellen.’ De watermerken zijn te omzeilen, bijvoorbeeld door zelf geschreven zinnen af te wisselen met AI-zinnen, maar de watermerken zijn, simpel gezegd, ‘beter dan niets’.
Luister hieronder naar onze podcast de Volkskrant Elke Dag. Kijk voor al onze podcasts op volkskrant.nl/podcasts.
Geselecteerd door de redactie
Source: Volkskrant