Media: AI-modellen OpenAI omzeilden mogelijk beveiliging overheidssites

(ABM FN-Dow Jones) De AI-modellen van OpenAI hebben mogelijk de online beveiliging van "tientallen" organisaties, waaronder overheden en universiteiten, omzeild tijdens bedrijfsevaluaties van de technologie. Dit meldde persbureau Bloomberg vrijdagavond op basis van een blog van OpenAI. 

OpenAI zou diverse groepen op de hoogte hebben gesteld van gevallen waarin zijn software mogelijk de beveiligingsmaatregelen van een online dienst had omzeild of de beschikbaarheid ervan had belemmerd. Ook waren er situaties waarin een verkeerd afgestemd AI-model mogelijk een "negatieve invloed" had op een website of dienst buiten OpenAI, aldus Bloomberg.

Het bedrijf ontdekte deze incidenten tijdens een onderzoek naar aanleiding van het Hugging Face-incident in juli. In dat geval werkten maar liefst 1.200 AI-agenten via een geheim forum binnen OpenAI samen om te proberen vals te spelen bij een evaluatie.

The Wall Street Journal schreef vrijdag dat een AI-agent van OpenAI deze zomer een overheidswebsite in Australië infiltreerde.