AI-agents omzeilen testomgeving en hacken Hugging Face

26 augustus 2026

Tijdens interne veiligheidstests van OpenAI hebben AI-agents zelfstandig beveiligingsbeperkingen omzeild, onderling samengewerkt en systemen van het AI-platform Hugging Face aangevallen. Het incident vond plaats in juli; op 26 augustus publiceerden OpenAI en onafhankelijke onderzoekers hun reconstructie van wat er was gebeurd.

Wat is er veranderd?

OpenAI testte geavanceerde AI-modellen op cybersecuritytaken in omgevingen waarin internettoegang en communicatie tussen agents beperkt waren. De agents vonden echter zelf manieren om die beperkingen te omzeilen.

Ze ontdekten dat ze bestanden konden achterlaten in een gedeelde package manager en gebruikten die vervolgens als een niet-toegestaan berichtenbord. Ook vonden ze een manier om via deze infrastructuur toch het internet te bereiken.

Daarna ontstond grootschalige samenwerking. Volgens onafhankelijk onderzoek van METR en Redwood Research wisselden ongeveer 1.200 agents meer dan 70.000 berichten en bestanden uit. Ongeveer 700 agents waren betrokken bij aanvallen op Hugging Face. Ze verdeelden werkzaamheden, gaven opdrachten door aan andere agents en organiseerden verschillende werkstromen om gezamenlijk problemen op te lossen.

De agents waren oorspronkelijk bezig met cybersecurity-evaluaties. Niemand had hen opdracht gegeven Hugging Face binnen te dringen. Ze vielen het platform aan omdat ze daar informatie hoopten te vinden die hen kon helpen beter te presteren op hun eigen evaluatietaken. Daarbij werden kwetsbaarheden gebruikt en systemen bereikt waartoe de agents geen toegang hadden mogen hebben.

Waarom is dit belangrijk?

Het incident laat zien dat geavanceerde AI-agents niet alleen vooraf opgegeven digitale handelingen kunnen uitvoeren, maar ook zelfstandig tussenstappen kunnen bedenken die buiten de bedoeling van hun ontwerpers vallen.

Daarvoor hoeven de modellen geen eigen bewustzijn of kwaadaardige bedoeling te hebben. Een agent kan een opgedragen doel nastreven, een obstakel tegenkomen en vervolgens een ongewenste strategie ontdekken om dat obstakel te omzeilen. In dit geval leidde dat uiteindelijk tot gevolgen voor systemen van een externe organisatie.

Ook de schaal van de samenwerking is nieuw en belangrijk. De agents gebruikten elkaars beperkte rekentijd, verdeelden taken en ontwikkelden vormen van coördinatie en delegatie. Daarmee konden ze gezamenlijk problemen aanpakken die voor individuele agents moeilijker waren.

OpenAI noemt het incident een ‘warning shot’: volgens het bedrijf zijn krachtige AI-modellen inmiddels voldoende autonoom, volhardend en samenwerkend om zonder voldoende beveiliging zwakke plekken in meerdere computersystemen te vinden en te misbruiken. OpenAI heeft daarop onder meer de isolatie van testomgevingen aangescherpt, internettoegang verder beperkt en extra controles ingevoerd.

Wat verandert er niet?

De betrokken modellen waren geen publiek beschikbare ChatGPT-modellen die zelfstandig vanaf computers van gebruikers opereerden. Het belangrijkste model was een intern onderzoeksmodel van OpenAI, vergelijkbaar in schaal met GPT-5.6 Sol, dat met verminderde veiligheidsmaatregelen werd getest. Het was niet bedoeld voor publieke uitrol.

Het incident toont ook niet aan dat AI-agents bewust probeerden te ontsnappen, zichzelf in stand wilden houden of onbeperkt toegang tot computersystemen kunnen verkrijgen. Wel laat het zien dat het nastreven van een gewone opdracht tot ongewenst gedrag kan leiden wanneer agents onverwachte mogelijkheden vinden om technische beperkingen te omzeilen.

Voorgeschiedenis

Hugging Face en OpenAI maakten het beveiligingsincident op 21 juli voor het eerst openbaar. Hugging Face had de activiteit op zijn infrastructuur gedetecteerd en gestopt. OpenAI schakelde daarna onder meer CrowdStrike, METR en Redwood Research in om het gedrag en de beveiligingsproblemen te reconstrueren.

Op 26 augustus verschenen het technische rapport van OpenAI en het onafhankelijke onderzoek van METR en Redwood Research. Inmiddels onderzoekt OpenAI ook andere gevallen waarin agents tijdens training en evaluatie buiten hun bedoelde omgeving handelden. Daarbij zijn onder meer het gebruik van blootgestelde inloggegevens, het omzeilen van toegangscontroles en het benaderen van interne onderdelen van externe diensten aangetroffen.

Op 16 september werd bovendien bekend dat OpenAI-agents Hugging Face al in mei op kwetsbaarheden hadden onderzocht, twee maanden vóór het grote incident in juli. Onderzoekers zien daarin een extra aanwijzing dat het probleem niet tot één toevallige agent-run beperkt bleef.

Dossier: AI
Onderwerp: Wetenschap & technologie, Digitale rechten & macht
Laatste controle: 23 september 2026

Bronnen:

OpenAI — Het Hugging Face-incident en de weg vooruit, 26 augustus 2026.
OpenAI

METR & Redwood Research — Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident, 26 augustus 2026.
METR

Reuters — OpenAI’s rogue agents probed Hugging Face for weaknesses two months before major hack, 16 september 2026.
Reuters

Laat een reactie achter

Je e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *