Anthropic claimt dat Alibaba aan een eigen Mythos-model werkt op basis van Claude-output. Mythos is een model dat kwetsbaarheden kan vinden in software. Anthropic uitte de beschuldiging enkele dagen voordat de VS besloot het gebruik van Mythos buiten de VS te verbieden.
Alibaba gebruikt volgens Anthropic distillation om zijn eigen AI-model te verbeteren. Bij distillation gebeurt de training van een AI-model op basis van de output van een geavanceerder model. Bedrijven stellen een chatbot van een concurrent en de eigen chatbot dezelfde vraag en onderzoeken waarom de concurrent met een beter antwoord komt.
Het Amerikaanse bedrijf beschuldigde Chinese concurrenten er al eerder van dat ze AI-modellen trainen op basis van Claude. Nu gaat het om de grootste 'aanval' tot nu toe, zegt Anthropic in een brief die Reuters inzag. De aanval vond plaats tussen eind april en begin juni, met ruim 28,8 miljoen gesprekken en bijna 25.000 'fraude'-accounts.
Alibaba zou op deze manier sneller aan een eigen Mythos-model willen komen, claimt Anthropic in de brief. Anthropic verstuurde de brief op 10 juni naar een Republikeins en een Democratisch lid van de Senaat.
Later die week blokkeerden de Verenigde Staten Mythos en de openbare versie Fable vanwege de kans op misbruik van het model. Het verbod geldt alleen voor mensen van buiten de VS. Omdat Anthropic naar eigen zeggen niet kan controleren wat iemands afkomst is, heeft het de modellen voor iedereen ontoegankelijk gemaakt.
Het is niet duidelijk of de brief van Anthropic iets te maken heeft met het besluit. Het verbod volgde naar verluidt ook op een onderzoeksrapport van Amazon. De Amerikaanse president ziet Fable en Mythos inmiddels niet langer als een nationaal veiligheidsrisico, maar de modellen zijn nog steeds geblokkeerd.
Source: Tweakers.net