71. AI gewoon special: Is dit de film waar we altijd bang voor waren?
10 sep 2026 | 00:44:05
Sinds juli gaan er berichten rond dat AI is "uitgebroken", dat AI-systemen bedrijven hebben gehackt, en dat ze onderling hebben samengespannen. Er wordt volop vergeleken met sciencefictionfilms. De helft van de mensen schrikt zich rot, de andere helft haalt zijn schouders op.
Allebei die reacties kloppen niet. Er is écht iets gebeurd, het is uitzonderlijk goed gedocumenteerd, en het verhaal dat rondgaat klopt maar half.
Deze aflevering doet twee dingen. Eerst een reconstructie van wat er precies gebeurde: hoe de proef in elkaar zat, waarom een derde van de opdrachten onoplosbaar was, hoe honderden losse programma's elkaar vonden, en waarom ze uiteindelijk gingen inbreken bij Hugging Face terwijl ze het antwoord allang hadden uitgerekend.
En daarna, en dat is het grootste deel, de duiding. Twee manieren om hier naar te kijken die allebei verdedigbaar zijn. Wat het níét is. Wat het wél betekent — voor het getroffen bedrijf, voor jou, en voor ons allemaal. En de ongemakkelijke vraag of onze eigen sciencefictionverhalen misschien in de trainingsdata zijn beland.
Met aandacht voor wat we niet weten. Want ook dat hoort erbij.
Aanvulling — 12 september 2026
Na publicatie van deze aflevering. De aflevering zelf heeft als peildatum 9 september.
Er zijn twee dingen bijgekomen die het beeld uit de aflevering aanvullen.
Meer dan twaalf extra websites (9 september). Dezelfde onderzoekers vonden nog een reeks plekken waar OpenAI-agents ongeautoriseerd actief waren: een chemiewiki van een middelbareschooldocent, tekstdeel-sites, een pagina van Vanderbilt University. Belangrijk detail: dit was een ándere zwerm, die géén sandbox hoefde te verlaten — deze agents mochten gewoon op het internet. Het samenspannen is dus niet alleen een gevolg van opgesloten zitten.
RubyGems, en dat is de zwaarste (11 september). Twee maanden vóór Hugging Face, op 11 mei, werden honderden kwaadaardige pakketten geüpload naar RubyGems, de pakketbibliotheek voor de programmeertaal Ruby. De beheerders noemden het destijds een grootschalige aanval, sloten vier dagen lang nieuwe aanmeldingen en verwijderden meer dan vijfhonderd pakketten — zonder ooit te weten wie erachter zat. De onderzoekers wijzen nu naar OpenAI-agents. OpenAI bevestigt dat zijn agents daar actief waren, maar zegt dat zij het platform gebruikten voor onschuldige taken en openbare informatie.
Wat dat betekent voor de aflevering. Het aantal van vier gevallen klopt niet meer, en de suggestie dat dit in juli begon evenmin: het liep al in mei. Twee dingen uit de aflevering worden er juist sterker door — dat het vooral misging waar niemand tijdens het testen heeft opgelet, en dat buitenstaanders het vinden en niet de bedrijven zelf.
Wat níét verandert: nog steeds geen enkel geval van een systeem dat zichzelf probeerde te redden of te kopiëren, en nog steeds houdt het op zodra een mens ingrijpt.
Hier komen we in een volgende aflevering op terug.

