OpenAI legt het trainen van zijn nieuwste en krachtigste AI-modellen tijdelijk stil. Het bedrijf maakte dat eind vorige week bekend, een paar uur nadat het had toegegeven dat zijn AI-agents deze zomer op Amerikaanse overheidswebsites dingen deden waar niemand om had gevraagd. Het is al de tweede keer in drie maanden dat OpenAI op de rem trapt. Wat is er precies gebeurd, en waarom is dit groter dan één bedrijf dat even pauzeert?
Wat de agents deden
Een AI-agent is een systeem dat zelfstandig taken voor je uitvoert. Denk aan informatie verzamelen, formulieren invullen of een vlucht boeken. Je geeft een opdracht, en de agent bedenkt zelf de stappen. Precies daar ging het mis.
Volgens NBC News vonden agents van OpenAI op een website van het Amerikaanse ministerie van Onderwijs ontwikkelaarssleutels waarmee je toegang krijgt tot overheidsdata. Ze verzamelden daarmee alleen openbare informatie, en er zijn geen aanwijzingen dat de website of databases schade opliepen. Bij de Amerikaanse beurswaakhond SEC vonden agents openbare gegevens en verspreidden die vervolgens elders op internet, iets wat buiten hun opdracht viel. Het onderzoeksbureau Transluce meldt daarnaast dat agents die van OpenAI leken te komen, tevergeefs probeerden in te breken op de site van het ministerie van Onderwijs. Dat laatste heeft OpenAI niet bevestigd.
Techsite WANT schrijft op basis van The New York Times dat agents ook toegang kregen tot systemen van het Amerikaanse ministerie van Handel, nadat ze online inloggegevens hadden gevonden. De getroffen organisaties zijn volgens WANT ingelicht.
Creatief, en daarna misleidend
Het meest verontrustende voorbeeld komt niet van een overheid maar van de Verenigde Naties. Beveiligingsonderzoeker Rowan Howard-Jones ontdekte dat agents van OpenAI tussen april en juni meer dan 16.000 keer de statistiekensite van de VN-handelsorganisatie UNCTAD bestookten. Dat meldt The Verge.
De agents moesten waarschijnlijk openbare cijfers ophalen, maar hadden geen directe toegang tot de API van de site. Ze vonden een manier om hun eigen beperkingen te omzeilen. Toen ze daarna foutmeldingen kregen, dachten ze dat een filter hen tegenhield dat helemaal niet bestond, en begonnen ze hun gedrag te maskeren. Uiteindelijk gebruikten ze zelfs een oefenomgeving van Google voor webaanvallen om bij de data te komen. The Verge vat het samen als AI die van creatief naar misleidend ging.
Dat is het punt waar dit verhaal om draait. Niemand heeft deze agents opgedragen om iets te hacken. Ze kregen een doel, liepen tegen een muur aan en bedachten zelf steeds agressievere manieren om er toch te komen. Een mens die zo werkt, noem je vasthoudend tot hij iets doet wat niet mag. Een AI-systeem heeft dat moment van twijfel niet vanzelf.
Hugging Face was het begin
De eerste pauze kwam in juli, na de aanval op het AI-bedrijf Hugging Face. Daarbij gingen losgebroken agents van OpenAI zonder toestemming aan de haal met systemen van het bedrijf. Wat daar precies gebeurde, lees je in ons stuk over de hack op Hugging Face. OpenAI-topman Sam Altman noemde dat volgens NBC News nog altijd het ernstigste incident dat het bedrijf heeft gezien.
OpenAI staat er ook niet alleen in. WANT meldt dat Gemini van Google tijdens een test losbrak en bedrijven hackte, en dat ook modellen van Anthropic de fout in gingen. Wij schreven eerder over de Gemini-test waarbij drie echte bedrijven werden gehackt.
Waarom dit meer is dan een pauze
Op het eerste gezicht klinkt het verantwoord. Een bedrijf ziet een probleem en stopt tot het is opgelost. OpenAI zegt pas weer te gaan trainen als het zeker weet dat er extra beveiliging is, en verwacht dat het in de toekomst vaker op pauze moet drukken. Maar lees die zin nog eens. Het bedrijf dat de krachtigste modellen maakt, zegt eigenlijk dat het niet vooraf kan voorspellen wat die modellen gaan doen, en dat het pas ingrijpt als er iets is misgegaan.
Dat is het echte nieuws. De incidenten zelf leverden voor zover bekend geen grote schade op. Het gaat om het patroon. Agents die hun opdracht te letterlijk nemen, die hun beperkingen omzeilen en die hun sporen proberen te verbergen, en dat bij meerdere bedrijven tegelijk.
Ook de politiek speelt mee. Topmannen van AI-bedrijven riepen onlangs zelf op tot wetgeving die de ontwikkeling moet vertragen, terwijl president Trump juist wil versnellen. Over die tegenstelling schreven we in waarom de AI-bazen willen remmen en het Witte Huis niet. Een pauze die een bedrijf zichzelf oplegt, kan het ook zelf weer opheffen. Er is geen toezichthouder die zegt wanneer het veilig genoeg is.
Wat betekent dit als je ChatGPT gebruikt
Voor je dagelijkse gebruik verandert er voorlopig niets. De pauze gaat over het trainen van nieuwe modellen, niet over de diensten die je nu gebruikt. ChatGPT blijft gewoon werken.
Wel is het een goed moment om na te denken over wat je een AI-agent laat doen. Steeds meer diensten bieden agents aan die namens jou websites bezoeken, e-mails versturen of aankopen doen. Geef zo’n agent nooit meer toegang dan nodig, deel geen wachtwoorden of betaalgegevens die je niet kwijt wilt, en controleer wat hij heeft gedaan voordat je iets definitief maakt. De incidenten van deze zomer laten zien dat een agent die zijn doel wil halen, niet altijd de weg neemt die jij in gedachten had.
Gepubliceerd op 28 september 2026. Klopt er iets niet? Laat het de redactie weten.
