In mijn socialemediabubbel beschrijven we afgelopen maand als 'Black October', de maand waarin een ongekende hoeveelheid cyberaanvallen de fysieke wereld inrolden. Wie oplijst wat er de voorbije weken gebeurde, ziet al snel dat er veel meer aan de hand is dan enkele geïsoleerde, Europese incidenten.
Drie weken na de aanvallen op Franse supermarkten werden bij ons en in andere Europese landen in de nacht van zondag op maandag de vriezers van vele supermarkten op 50 graden gezet.
Dezelfde nacht zette iemand via een hack langs de onderhoudsfirma de vriezers van de Franse bloeddienst van min 30 naar 110 graden, met daarin diepgevroren plasma. Een technicus van wacht zag de temperatuur stijgen en voorkwam daarmee veel erger.
Hoe zijn we hier beland? Precies volgens het voorspelde schema.
Op 7 april kondigde Anthropic aan dat het zijn nieuwste model, Mythos, niet zou vrijgeven. Het model bleek, als bijproduct van zijn algemene redeneervaardigheid, zo goed in het vinden van softwarelekken dat het bedrijf het enkel toevertrouwde aan een kring van geverifieerde verdedigers.
Veel mensen liet dat nieuws blauwblauw, met een opmerking over het oppompen van een nakende beurswaardering. Maar Dario Amodei, leider van Anthropic, gaf er wel meteen een voorspelling bij: open modellen, wellicht Chinese, zouden dezelfde capaciteit binnen zes tot twaalf maanden evenaren.
Eind augustus ging die wekker af. Het Chinese Zhipu bracht GLM-5.3 online. Anthropic testte het model: GLM-5.3 bouwde werkende cyberaanvallen met een succesrate vergelijkbaar met Mythos uit.
Belangrijk detail: GLM-5.3 is een zogenaamd open weights model. Alle modelparameters zijn vrij beschikbaar. En zo botsen we op een van de meest snijdende debatten van de moderne AI-ontwikkeling, waar ook veel onderzoekers mee worstelen.
“Ze democratiseren de intelligentie, maar brengen ook nieuwe risico's met zich mee”
Open AI-modellen
Bij gesloten AI-systemen, zoals die van OpenAI, Anthropic en Google, zien de makers er actief op toe dat de modellen niet voor criminele doeleinden worden gebruikt. Wie enkele keren aan Claude vraagt om kritieke infrastructuur aan te vallen, verliest de toegang tot het model. Dat systeem werkt goed, maar ook daar glippen hier en daar een paar gevallen door de mazen van het net.
De open modellen daarentegen hebben helemaal geen controle op het gebruik. Ze democratiseren de intelligentie, en dat juichen we toe, maar door het ontbreken van de controlemechanismen brengen ze ook de ravage waar we nu mee geconfronteerd worden.
Was er dan zeker een open model mee gemoeid? Ik zou er gif op innemen. Maar voorlopig weet niemand het zeker. Je had voor veel aanvallen zelfs geen sterke AI nodig. Duizenden toestellen staan gewoon open op het internet, waarvan vele ook bijzonder slechte wachtwoorden hebben.
Maar die redenering mist het hele punt. Die AI was misschien niet strikt noodzakelijk, maar maakt de aanvallen wel veel toegankelijker.
Waar slaat de volgende aanval dan toe? Ik ga hier geen bedrijven of infrastructuur opsommen en ze zo in de etalage zetten. Maar beeld u in dat alles wat kan verwarmen, koelen, pompen, doseren, openen, sluiten, versnellen, overschrijven, en daarbij een webinterface heeft, ook achter een firewall, voortaan ongevraagd bezoek kan krijgen.
Beschermen
Hoe beschermen we ons op korte termijn? Drie dingen helpen.
Ten eerste: verdedig u met de sterkste AI die in omloop is. Anthropic bouwde daarvoor Project Glasswing, OpenAI een maand later Daybreak, met een eigen cybermodel voor geverifieerde verdedigers. De meeste bedrijven krijgen hiertoe heel snel toegang.
Ook in België hebben we lokale expertise, zoals Aikido Security uit Gent. Bedrijven en overheden moeten dringend een cultuur van red teaming invoeren: intern op zoek gaan naar eigen kwetsbaarheden, alsof ze zichzelf zouden aanvallen. Ik vraag me af wie er in ons land al GLM-5.3 heeft gebruikt.
Ten tweede: een of meer fysieke veiligheidsmechanismen of 'failsafes'. Technologiebedrijf Westinghouse bouwde bijvoorbeeld een treinrem die vanzelf aanslaat als de luchtdruk wegvalt. Een vriezer hoort mechanisch geen 110 graden te kunnen halen, een mechanische temperatuursbegrenzer, valt niet te hacken. En de online tunnel van de onderhoudsfirma, die hoort enkel open te staan wanneer iemand hem bewust openzet.
Tegen een aanvaller met moderne AI moet de onderste laag van de verdediging van kritieke infrastructuur uit iets zonder software bestaan.
Ten derde: neem de mensen die Black October hadden voorspeld ook ernstig om wat ze daarnaast nog hebben gezegd. Amodei gaf ons zes maanden en die zijn nu voorbij, maar over het vervolg was en is hij even duidelijk: de wereld is niet voorbereid op de huidige wedloop om steeds krachtigere AI-modellen.
Je hoeft hem niet over heel de lijn te geloven, maar wie in april de vriezers van november voorspelde, verdient wat mij betreft meer aandacht dan wie dat als een beursgangvoorbereiding wegwuifde.
BIO
Vincent Ginis is professor wiskunde, natuurkunde en artificiële intelligentie (Vrije Universiteit Brussel en Harvard University)