De Amerikaanse Federal Trade Commission is begonnen met een onderzoek naar AI-bedrijven vanwege de risico's van AI. De hacks die AI-agents tijdens tests zelf hebben uitgevoerd, vormen de aanleiding.
In het onderzoek moeten topmensen van onder meer OpenAI en Anthropic getuigen, meldt The New York Post. Ook kan de FTC documentatie opvragen over onderzoek naar AI-ontwikkeling en de risico's daarvan.
Het onderzoek richt zich op de risico's van AI voor consumenten. De hacks van deze zomer hebben de angst aangewakkerd dat AI-agents zelfstandig een gevaar kunnen vormen voor consumenten. Het onderzoek liep al voor de hack op Hugging Face van OpenAI-agents, maar kreeg door de hacks van deze zomer extra urgentie.
Dat een toezichthouder actie onderneemt tegen AI-bedrijven, valt op. De regering-Trump is tot nu toe niet bereid gebleken om bijvoorbeeld AI-wetgeving in te voeren, want de president is naar eigen zeggen de enige veiligheidsregel die AI nodig heeft.
De FTC betoogt volgens The New York Post dat AI-bedrijven zich aan huidige wetten moeten houden. "We moeten deze race op het gebied van AI absoluut winnen. Uiteraard wil de andere kant, de Democratische Partij, deze technologie vernietigen en zich overgeven aan onze vijanden of concurrenten. Daar voelt de voorzitter van de FTC niets voor. Maar dat neemt niet weg dat de wet moet worden nageleefd. Er wordt gesproken over de noodzaak van nieuwe wetgeving voor deze bedrijven, maar de voorzitter is daar heel duidelijk over geweest: we hebben al wetgeving genoeg."
Source: Tweakers.net