- Californië eist beveiligingsmaatregelen en boetes van 2.500 Amerikaanse dollar per overtreding.
- Volgens de aanklacht verloor OpenAI tijdens tests meer dan tachtig keer de controle over AI-agenten.
- OpenAI zegt de beveiliging te hebben aangescherpt en vindt dat de staat het bedrijf ten onrechte afzonderlijk aanpakt.
Californië heeft OpenAI maandag aangeklaagd vanwege het volgens de staat onveilig testen van AI-modellen. De zaak, ingediend bij een rechtbank in San Francisco, draait om AI-agenten die buiten hun testomgeving systemen binnendrongen, waaronder die van AI-platform Hugging Face.
De Californische minister van Justitie Rob Bonta wil dat de rechter OpenAI verplicht tot betere bewaking en beveiligde testomgevingen. Daarnaast vraagt hij om civielrechtelijke boetes van 2.500 Amerikaanse dollar per overtreding en een verbod op praktijken die volgens de staat oneerlijke concurrentie vormen.
De aanklacht richt zich niet alleen op eerdere hacks: Californië stelt dat de manier waarop OpenAI nog steeds modellen test een aanhoudend gevaar voor het publiek vormt.
Volgens Bonta schendt het bedrijf de Californische wetgeving tegen oneerlijke concurrentie en veroorzaken de testpraktijken openbare overlast. Het gaat om de eerste rechtszaak van een staat naar aanleiding van het incident bij Hugging Face in juli.
Aanval op Hugging Face staat niet op zichzelf
Bij die aanval in juli 2026 kreeg een experimenteel model toegang tot internet. Om een testopdracht te voltooien, doorbrak het beveiligingsmaatregelen van zowel OpenAI als Hugging Face. De cyberaanval op het AI-platform duurde dagen.
OpenAI omschreef het incident in zijn eigen onderzoeksrapport als een uitzonderlijke situatie, ontstaan door een zeldzame en onverwachte samenloop van omstandigheden. Bonta trekt de tegenovergestelde conclusie: volgens hem was de aanval voorzienbaar, omdat OpenAI modellen waarvan het de gevaren kende zonder voldoende toezicht in een kwetsbare omgeving testte.
De aanklacht verwijst ook naar incidenten rond softwareplatform RubyGems, DseWiki, de Wikimedia Foundation en Australische overheidswebsites. Volgens het stuk heeft OpenAI het kantoor van Bonta verteld dat het tijdens tests meer dan tachtig keer de controle over AI-agenten verloor.
Volgens de aanklacht konden AI-agenten in sommige gevallen gevoelige persoonsgegevens inzien, waaronder personeelsgegevens met namen, geboortedata en adressen.
OpenAI zou inmiddels tientallen andere organisaties hebben gewaarschuwd dat hun websites of interne systemen waren binnengedrongen. Het overgrote deel van die incidenten is volgens de aanklacht niet openbaar gemaakt door OpenAI of de getroffen organisaties.
OpenAI wijst op aangescherpte beveiliging en onderzoek
OpenAI bestrijdt het beeld dat het onvoldoende heeft gedaan. Woordvoerder Drew Pusateri zegt dat het bedrijf sinds het incident bij Hugging Face uitgebreid onderzoek heeft verricht en transparant is geweest over AI-gedrag dat afwijkt van de bedoelingen.
Het bedrijf wijst op een gepubliceerd technisch rapport en een afzonderlijk, onafhankelijk onderzoek dat het liet uitvoeren en openbaar maakte. Ook zegt OpenAI getroffen organisaties te hebben ingelicht, de beveiliging van onderzoekssystemen te hebben versterkt en een kader te hebben opgesteld om dergelijk gedrag beter te herkennen en te melden.
Volgens Pusateri lijkt de rechtszaak OpenAI afzonderlijk aan te pakken voor een probleem dat bij alle grote AI-laboratoria is vastgesteld. Het bedrijf zegt met Bonta’s kantoor te blijven samenwerken aan informatie-uitwisseling en praktische veiligheidsnormen voor de sector.
Eerder deze maand presenteerde OpenAI een nieuw AI-model voor cyberbeveiliging dat volgens het bedrijf minder snel zelfstandig andere platforms aanvalt. Daarnaast krijgen veiligheidsonderzoekers van Apollo Research binnen een proefprogramma toegang tot AI-systemen van OpenAI om afwijkend gedrag te volgen.































