'DeepSeek stuurde prompts door naar Claude zonder dat klanten dat wisten'

Chinese AI-bedrijven, waaronder DeepSeek en Moonshot, zouden zonder klanten daarvan op de hoogte te stellen prompts hebben laten beantwoorden door Claude in plaats van de eigen modellen. Dat deden ze via proxy-accounts in onder meer Singapore en Japan.

Chinese AI-bedrijven hebben volgens Anthropic op grote schaal via nepaccounts Claude gebruikt om kennis te vergarenDeepSeek en Moonshot hebben zelfs prompts doorgestuurd naar Claude zonder dat hun klanten dat wistenXiaomi speelde gesprekken tussen het AI-model en klanten opnieuw af binnen Claude, vermoedelijk om de resultaten van het eigen model te toetsen

Chinese AI-bedrijven hebben volgens Anthropic op grote schaal via nepaccounts Claude gebruikt om kennis te vergaren

DeepSeek en Moonshot hebben zelfs prompts doorgestuurd naar Claude zonder dat hun klanten dat wisten

Xiaomi speelde gesprekken tussen het AI-model en klanten opnieuw af binnen Claude, vermoedelijk om de resultaten van het eigen model te toetsen

Klanten dachten dat ze vragen stelden aan modellen van DeepSeek en het Kimi-model van Moonshot, maar kregen dus in feite antwoord van Claude Opus, meldt Anthropic. Dat gebeurde afgelopen maanden minimaal honderdduizenden keren. Daardoor belandden gevoelige gegevens van onder meer Chinese en Russische bedrijven op de servers van Anthropic.

De bedrijven hebben nog niet gereageerd op de beschuldiging. Het is onbekend of DeepSeek en Moonshot ook andere AI-modellen de prompts hebben laten beantwoorden. Ook is onduidelijk welke prompts naar Opus gingen.

Andere Chinese AI-bedrijven hebben ook campagnes op touw gezet om kennis te onttrekken aan Claude, zo claimt Anthropic. De grootste campagne voor destillatie kwam van Alibaba, dat de Qwen-modellen maakt. Anthropic vond ongeveer 151 miljoen interacties tussen door Alibaba aangestuurde geautomatiseerde proxy-accounts en Claude. Dat gebeurde via vijfduizend accounts met virtuele creditcards.

Kleinere campagnes kwamen onder meer van Xiaomi. Xiaomi zou hebben geprobeerd het eigen MiMo-V2-Pro te verbeteren door gesprekken tussen het eigen model en gebruikers na te spelen met Claude. Het doel is vermoedelijk om de antwoorden te vergelijken. Ook andere Chinese AI-bedrijven hebben nog niet gereageerd op de bevindingen van Anthropic.

Source: Tweakers.net