De Amerikaanse president Donald Trump ziet Anthropic niet langer als een nationaal veiligheidsrisico. Dat laat hij weten in een interview met Axios. Eerder dit jaar bestempelde de VS het AI-bedrijf als een risico voor de nationale veiligheid. Anthropic begon daarop een rechtszaak.
Anthropic Claude Fable 5 is een variant van het krachtige Mythos-model. Deze programmeertool is goed in het vinden van beveiligingslekken. Daarom werd Mythos voor een zeer select publiek uitgebracht.
Fable 5 is de eerste publieke versie van Mythos. De tool kan hetzelfde, maar heeft zeer strenge veiligheidsmaatregelen om te voorkomen dat kwaadwillenden het model gebruiken om kwetsbaarheden te vinden en te misbruiken. Een jailbreak van dit model zou betekenen dat iedereen toegang heeft tot Fable zonder vangrails, wat in principe dus Mythos is.
President Trump zegt tegenover Axios dat hij Anthropic een week geleden 'misschien' nog wel als een veiligheidsrisico zag, maar inmiddels niet meer. Hij noemt Anthropic-ceo Dario Amodei een 'aardige, slimme man'. Ook roemt hij Anthropics snelle besluit om zijn Fable 5-model wereldwijd te blokkeren. Daar had de Amerikaanse overheid om gevraagd.
Trump noemt het uitbrengen van het model 'een enorm aansprakelijkheidsrisico'. "Mensen worden daar stante pede de gevangenis voor ingegooid. Dat zijn geen spelletjes. [Amodei] reageerde heel verantwoordelijk, vond ik."
Een woordvoerder van Anthropic laat tegenover Axios weten 'dankbaar' te zijn dat de regering 'met ons samenwerkt om deze kwestie zo snel mogelijk op te lossen'. "We blijven met ze samenwerken aan onze gemeenschappelijke doelen: het beschermen van kritieke infrastructuur en ervoor zorgen dat de VS een leidende rol speelt op het gebied van AI."
De band tussen de Verenigde Staten en Anthropic was de afgelopen maanden gespannen. Er loopt nog een rechtszaak tussen de twee omdat de VS Anthropic eerder dit jaar als veiligheidsrisico bestempelde. Volgens het AI-bedrijf heeft het ministerie van Defensie dat alleen maar gedaan als 'straf' voor het niet meegaan in bepaalde voorwaarden voor een samenwerking. Een rechter heeft de aanwijzing als veiligheidsrisico al voorlopig geblokkeerd, omdat deze waarschijnlijk onwettig is.
Source: Tweakers.net