Waarom een AI-model tijdelijk werd verboden
Begin dit jaar gebeurde er iets opvallends. De Amerikaanse overheid dwong het AI-bedrijf Anthropic om twee net gelanceerde modellen, Fable 5 en Mythos 5, binnen drie dagen na de release ontoegankelijk te maken voor iedereen buiten de Verenigde Staten. De reden was niet economisch, maar veiligheidsgerelateerd. Deze modellen bleken in staat om op grote schaal kwetsbaarheden op te sporen in veelgebruikte software. De vrees was dat dit vermogen in verkeerde handen tot een golf van cyberaanvallen zou kunnen leiden.
Ik hoorde dit verhaal in een aflevering van de podcast Schaduwoorlog van de Volkskrant, waarin journalist Huib Modderkolk dit onderwerp uitgebreid uitdiept met een Nederlandse cybersecurity-expert. Wat mij bijbleef, was niet zozeer de vraag of AI gevaarlijk is. Die vraag is inmiddels wel beantwoord. Interessanter is de conclusie waar het gesprek op uitkomt: organisaties die hun basisbeveiliging niet op orde hebben, zijn met of zonder geavanceerde AI-modellen kwetsbaar. AI maakt vooral zichtbaar en snel wat eigenlijk al jaren een zwakte was.
Waarom dit nu voor elke organisatie relevant is
Het gaat hier niet om een ver-van-mijn-bedshow voor grote techbedrijven of overheden. Drie ontwikkelingen maken dit onderwerp direct relevant voor elke bestuurder of ondernemer.
Ten eerste neemt het volume aan aanvallen aantoonbaar toe. Phishingmails en pogingen tot het kapen van zakelijke e-mailaccounts worden met AI sneller en overtuigender gemaakt. Meer pogingen betekenen uiteindelijk meer succesvolle aanvallen, simpelweg omdat de kans dat iemand er een keer intrapt groter wordt.
Ten tweede neemt de snelheid toe waarmee kwetsbaarheden worden misbruikt. De tijd tussen het moment waarop een softwareleverancier een lek dicht met een update en het moment waarop diezelfde kwetsbaarheid actief wordt aangevallen, is door AI aanzienlijk korter geworden.
Ten derde verlaagt AI de drempel voor het vinden van kritieke kwetsbaarheden. Waar dit vroeger jarenlange ervaring vereiste, kan een AI-agent tegenwoordig met de juiste opdracht zelfstandig onderzoek doen naar zwakke plekken in software. De groep die hiertoe in staat is, wordt daarmee groter.
Wat er in de praktijk gebeurt
De podcast geeft hier drie sprekende voorbeelden van, die goed illustreren hoe snel dit veld beweegt.
Het eerste voorbeeld komt van een Nederlandse cybersecurity-expert die tijdens een interne oefening een AI-agent op de systemen van een Nederlands mediabedrijf (dat een bug bounty programma heeft) losliet. Binnen een half uur had het model zelfstandig een kritieke kwetsbaarheid gevonden, een gebruiker aangemaakt en was het ingelogd op een beheerpaneel. Iets waar een ervaren onderzoeker voorheen aanzienlijk meer tijd voor nodig had.
Het tweede voorbeeld is nog verstrekkender. Anthropic ontdekte zelf dat een aan de Chinese staat gelieerde groep het model Claude Code had ingezet om een aanval grotendeels geautomatiseerd uit te voeren, tegen ongeveer dertig doelwitten waaronder techbedrijven, financiële instellingen en overheidsorganisaties. De aanvallers overtuigden het model ervan dat het een cybersecuritymedewerker was die de eigen organisatie testte, en bouwden de aanval op in kleine stappen om ingebouwde weigeringen te omzeilen. Op het hoogtepunt deed het model volgens Anthropic meerdere verzoeken per seconde, een tempo dat voor menselijke aanvallers onmogelijk te evenaren is.
Het derde voorbeeld gaat over het krachtigere model Mythos, dat niet publiekelijk beschikbaar werd gesteld maar wel werd gedeeld met partijen als Mozilla. Mozilla liet het model los op de broncode van Firefox, software die al jaren continu door beveiligingsonderzoekers over de hele wereld wordt doorgelicht, en vond honderden kwetsbaarheden die daarvoor onopgemerkt waren gebleven.
De kern: AI vindt vooral waar de basis ontbreekt
Wat mij het meest aansprak in het gesprek, was de nuance die de Nederlandse expert aanbracht. Hij benadrukte dat AI-agents niet op magische wijze overal binnenkomen. In de meeste gevallen is bestaande, degelijke basisbeveiliging voldoende om een geautomatiseerde aanval te stoppen. Organisaties die multifactorauthenticatie, netwerksegmentatie en een gestructureerd patchproces op orde hebben, blijven grotendeels buiten bereik. Niet omdat AI dan machteloos is, maar omdat het voor een aanvaller eenvoudiger is om elders te zoeken naar organisaties waar die basis wel ontbreekt.
Dat brengt me bij het punt waar ik dit onderwerp wil koppelen aan de praktijk van veel Nederlandse organisaties. Basisveiligheid klinkt eenvoudig, maar het is in de praktijk zelden een kwestie van een paar technische instellingen aanpassen. Het gaat om een samenhangend geheel: weten welke systemen en leveranciers u heeft, weten waar uw kritieke gegevens staan, structureel controleren of toegang goed is afgeschermd, en een werkend proces hebben om updates tijdig door te voeren. Dat is niet primair een technisch vraagstuk, het is een governance-vraagstuk. Het vereist overzicht, eigenaarschap en herhaling, niet een eenmalige actie.
Dit is precies waar NIS2 en de Cyberbeveiligingswet, de Nederlandse implementatie daarvan, een geschikt kader bieden. De verplichtingen uit deze wetgeving, samengevat in registratieplicht, meldplicht en zorgplicht, dwingen organisaties om structureel te werken aan precies die basis: inzicht in risico’s, beheersing van kwetsbaarheden, grip op de leveranciersketen en aantoonbaarheid van de genomen maatregelen. Niet als eenmalige exercitie, maar volgens een cyclus van opzet, bestaan en werking, ook wel plan-do-check-act, die regelmatig wordt getoetst en bijgesteld. Wie deze verplichtingen serieus oppakt, bouwt daarmee vanzelf aan het type basisbeveiliging dat ook tegen AI-gestuurde aanvallen bescherming biedt.
Wat betekent dit voor uw organisatie?
Drie vragen zijn een goed startpunt om zelf te toetsen waar u staat. Weet u waar uw belangrijkste kwetsbaarheden zitten, en wanneer dat voor het laatst is onderzocht? Is uw basisbeveiliging aantoonbaar op orde, of gaat u ervan uit dat het wel goed zal zitten? En heeft u zicht op de leveranciers waar uw organisatie digitaal van afhankelijk is?
Wie op een van deze vragen geen scherp antwoord heeft, doet er goed aan dit op korte termijn in kaart te brengen. Een RI&E of gap-analyse geeft concreet inzicht in waar de risico’s zitten en welke maatregelen prioriteit verdienen, zonder dat dit meteen een grote interne inspanning vraagt.
Wilt u weten hoe uw organisatie er op dit moment voor staat? Neem gerust contact op voor een kennismaking of een gap-analyse. Dan bespreken we samen waar de grootste risico’s zitten en wat een realistische eerste stap is.
