Amerikaaanse marktwaakhond onderzoekt OpenAI en Anthropic

(ABM FN-Dow Jones) De Amerikaanse markttoezichthouder FTC heeft een onderzoek ingesteld naar de AI-ontwikkelaars Anthropic en OpenAI, die mogelijk consumenten hebben misleid over de potentiële gevaren van hun technologie. Dat schreef The Wall Street Journal woensdag.

De Federal Trade Commission (FTC) besloot recent om het onderzoek in te stellen, nadat AI-onderzoekers in de zomer hun zorg uitspraken, dat de technologie de mensheid zou kunnen uitroeien. 

De regering van Donald Trump staat onder druk om de ontwikkelaars van AI-modellen te reguleren, nadat AI-agents uit testomgevingen ontnapten en softwarebedrijven hackten, wat leidde tot zorgen over cyberaanvallen met AI-bots. 

OpenAI onthulde dat AI-agents in juli probeerden een gunstige beoordeling te krijgen door vals te spelen en in te breken bij het softwarebedrijf Hugging Face. Daarbij werkten 1.200 AI-agenten samen op een zelf gecreëerd communicatieplatform, zonder dat de ontwikkelaars dit wisten of hadden toegestaan. 

De FTC kan de bedrijven niet voor de strafrechter dagen, maar kan boetes opleggen en regels uitvaardigen om verandering door te voeren. 

Dit kan een tegenslag zijn voor de aanstaande beursgang van Anthropic, die is uitgesteld tot november. 

Inmiddels heeft OpenAI de training van zijn nieuwste AI-modellen stopgezet, vanwege de zorgen over de veiligheid. 

President Trump zegt de innovatie niet te willen tegenhouden met regelgeving, terwijl China bezig is met een inhaalrace in AI. Een haastig georganiseerde AI-top in het Witte Huis eindigde dinsdag met de toezegging van leiders van AI-bedrijven om "op termijn" controles in te voeren om rampen te voorkomen en zich te onderwerpen aan externe audits om verantwoording af te leggen.