Toen Apple deze week de nieuwe Apple Watch-modellen aankondigde, waren er veel verbeteringen die je kon zien aankomen: betere hartslagmeters, nieuwe gezondheidsfuncties, een wat andere behuizing …
Maar één specifieke functie viel ineens op. De smartwatches kunnen voortaan ongevraagd met gesprekken meeluisteren én die uitschrijven. Volgens Apple gebeurt dat 'privacyvriendelijk', maar het bedrijf brengt een deel van de functionaliteit alsnog niet in Europa uit. Hoe werkt dat systeem eigenlijk en mag dat meeluisteren wel?
Apple toonde afgelopen woensdag zijn langverwachte vouwbare iPhone: de iPhone Duo. Daar ging uiteraard veel aandacht naartoe, waardoor andere producten bijna ondersneeuwden. Toch kondigde het bedrijf ook andere producten aan, waaronder de Apple Watch Series 12 en de Watch Ultra 4. De nieuwe smartwatches hebben onder andere een nieuwe functie genaamd Audio Intelligence.
Dat is een verzamelterm voor verschillende functies in het horloge. Een daarvan is Live Rewind, een manier om audio-opnames van vijftien seconden te maken die gebruikers kunnen terugluisteren of als tekst kunnen lezen. Dat is handig als de gebruiker iets niet verstaat. Ook noemde Apple de optie om omgevingsgeluid op te pikken en te onderscheiden, zoals sirenes, alarmen of huilende baby's. Dat is bijvoorbeeld interessant voor dove of slechthorende gebruikers.
Een van de opvallendere en tegelijk controversiële functies heet Siri Recap. Daarmee maakt de smartwatch de hele dag door notities van gesprekken die de drager voert. Aan het eind van de dag staat er dan in de nieuwe Siri-app een samenvatting van de gesprekken die een gebruiker heeft gevoerd. Apple Intelligence schrijft die samenvatting. Het gaat om een opt-infunctie: de gebruiker kan zelf kiezen of de functie aan staat en wanneer.
Gebruikers moeten hun Apple Watch daarom ook koppelen aan een telefoon die Apple Intelligence ondersteunt. Dat zijn modellen vanaf de iPhone 16, met uitzondering van het goedkopere iPhone 16e-model.
Apple heeft een technische beschrijving gepubliceerd waarin het uitlegt hoe dat concept werkt. Het gebruikt daarvoor onder andere de nieuwe soc in de Apple Watch: de S11. Die heeft een zogenoemde Secure Exclave, of een afgesloten omgeving voor 'geheime' data.
De soc bevat een 'lichtgewicht' AI-model om te bepalen of er in de directe omgeving iemand spreekt. Als dat model een gesprek detecteert, vloeit de audio naar een beschermde buffer in de Secure Exclave. Apple zegt dat audio en transcripties ontoegankelijk zijn voor de gebruiker, het besturingssysteem, de apps daarop en Apple zelf.
De Secure Exclave op de S11-chip versleutelt de audio en stuurt die weer naar de Secure Exclave in de processor van de gekoppelde iPhone. Zodra die overdracht voltooid is, wordt de audio verwijderd van de Apple Watch. Alleen de exclave van de iPhone kan de audio dan nog ontsleutelen. Als de Watch de audio niet kan verzenden, verwijdert hij die permanent.
De lokale spraakherkenning zet de audio om in tekst. Daarna kort een taalmodel op de iPhone de transcriptie in tot ongeveer de helft van de oorspronkelijke lengte. Dat model filtert ook inhoud, zoals opvulwoorden en wat Apple 'niet-essentiële taal' noemt.
De Secure Exclave is een afgesloten stuk in de processor. Oplettende lezers zien dat Apple bewust het woord 'exclave' gebruikt in plaats van het gangbaardere enclave.
'Secure Enclave' is Apples merknaam voor een zogeheten trusted execution environment. Deze omgeving is binnen de soc van een apparaat afgeschermd om bijvoorbeeld biometrische data te beschermen. Een Secure Exclave is een fysiek gescheiden module. Die staat daadwerkelijk buiten dat primaire enclave- en cpu-deel, maar kan wel direct en versleuteld communiceren met de primaire enclave.
Tweakers schreef in 2020 al een achtergrondartikel over hoe trusted execution environments werken.
Waar een traditionele Secure Enclave de gevoelige data binnen de chip isoleert van het reguliere besturingssysteem (zoals de XNU-kernel), zorgt een exclave voor een strengere scheiding. Hierdoor kunnen specifieke datastromen zoals audiobuffers buiten de primaire enclave worden verwerkt, zonder dat een aanvaller met roottoegang onderweg kan meeluisteren.
Veel van de nieuw aangekondigde functies zullen bij de release van de nieuwe smartwatches niet beschikbaar zijn in Europa, dus ook niet in de Benelux. De twee meest besproken functies, Siri Recap en Live Rewind, blijven hier vooralsnog achterwege.
De enige Audio Intelligence-functie die zijn weg naar Europa vindt, is de geluidsherkenning. Apple worstelt al langer met de Europese Digital Markets Act (DMA). Die EU-wetgeving maakt het voor het bedrijf een stuk lastiger om functies in Europa uit te brengen. Veel daarvan voldoen niet aan privacy- of andere wetgeving.
Siri AI heeft lokaal toegang tot gegevens op een iPhone, maar andere virtuele assistenten van concurrenten krijgen die niet. Volgens de EU zorgt dat voor een oneerlijk voordeel voor de Apple-dienst ten opzichte van de concurrentie.
Naast de juridische DMA-hobbels heeft Audio Intelligence zeker een privacyonvriendelijk randje. Veel gebruikers uitten daarover hun zorgen al. Vooral het feit dat de Apple Watch straks continu kan meeluisteren, lijkt onethisch.
Jurist Charlotte Meindersma noemt de grens tussen legaal gebruik en overtreding tegenover Tweakers flinterdun. "Je mag als particulier wel gesprekken opnemen waar je zelf aan deelneemt. Dat is in elk geval strafrechtelijk geen probleem."
De situatie wordt echter juridisch complexer als het apparaat ongevraagd gesprekken van derden begint vast te leggen. De Apple Watch is zich namelijk niet bewust van sociale context. "Als de Watch opneemt terwijl de gebruiker niet actief deelneemt aan het gesprek en dit ook niet gemeld wordt, luistert de gebruiker af en is dit strafbaar."
Dan heeft ze het alleen nog over gesprekken in de privésfeer. Volgens Meindersma zijn er ook risico's in een zakelijke omgeving. "Als de gesprekken een zakelijkere context krijgen, kan je natuurlijk met werknemers en werkgevers in de problemen komen omdat er vertrouwelijke informatie besproken kan worden zonder dat mensen daarover geïnformeerd worden."
Het is niet de eerste keer dat een techbedrijf een controversiële nieuwe AI-functie introduceert in een product dat mogelijk niet voldoet aan Europese wetgeving. Het is ook niet de eerste keer dat Apple een functie introduceert die het met trots aanprijst als privacyvriendelijk, maar die wél kritiek krijgt.
De situatie doet denken aan die uit 2021, toen Apple besloot om alle iOS-apparaten client-side te scannen op kindermisbruikmateriaal. Ook daarbij had het bedrijf uitgebreid beschreven hoe dat de privacy van gebruikers niet zou schaden en hoe dat veilig en lokaal gebeurde. Toch werd de kritiek daarop zo groot dat het bedrijf besloot de functie uiteindelijk toch niet in te zetten.
Redactie: Lumen Heijdendael • Eindredactie: Marger Verschuur
Source: Tweakers.net