Anthropic blokkeert gebruik van krachtigste AI-tools

(ABM FN-Dow Jones) De regering-Trump heeft buitenlandse overheden, bedrijven en personen verboden om gebruik te maken van de krachtigste AI-tools van Anthropic, wat het Amerikaanse bedrijf ertoe heeft aangezet de toegang voor iedereen te blokkeren om aan deze nieuwe regel te voldoen.

"De Amerikaanse regering heeft, onder verwijzing naar de nationale veiligheidsautoriteiten, een exportbeperkingsmaatregel uitgevaardigd om alle toegang tot Fable 5 en Mythos 5 voor buitenlandse onderdanen op te schorten, ongeacht of zij zich binnen of buiten de Verenigde Staten bevinden, met inbegrip van buitenlandse werknemers van Anthropic", zei het AI-bedrijf vrijdagavond laat in een verklaring op de website.

Het gevolg is dat Fable 5 en Mythos 5 nu zijn uitgeschakeld om naleving te waarborgen. 

"De toegang tot alle andere modellen van Anthropic blijft ongewijzigd", aldus het bedrijf.

Volgens Anthropic zou de Amerikaanse overheid zich zorgen maken over een methode om Fable 5 te omzeilen, oftewel te 'jailbreaken'. Het gevaar zou echter beperkt zijn, meent het bedrijf.

"We hebben een demonstratie bekeken waarin deze specifieke techniek werd gebruikt om een klein aantal reeds bekende, minder ernstige kwetsbaarheden op te sporen. Deze kwetsbaarheden lijken allemaal relatief eenvoudig, en we hebben vastgesteld dat andere, openbaar beschikbare modellen deze eveneens kunnen opsporen zonder dat daarvoor een omzeiling nodig is", aldus Anthropic.

Het bedrijf vindt niet dat de ontdekking van een beperkte mogelijke beveiligingslek aanleiding zou moeten zijn om een commercieel model terug te roepen dat al aan honderden miljoenen mensen is geleverd. 

"Als deze norm in de hele sector zou worden toegepast, zou dit naar onze mening in feite een halt toeroepen aan de introductie van alle nieuwe modellen door alle toonaangevende modelaanbieders", aldus Anthropic, dat zijn best doet om de toegang "zo snel mogelijk" te herstellen.