“Je zult ook mensen nodig blijven hebben die AI-agenten aansturen”

De VUB is nauw betrokken bij het Vlaams Cybersecurityplan. Wat is jullie rol in dat programma? 
Coen De Roover, professor aan het Software Languages Lab (SOFT) van de VUB: “Het doel is om strategisch basisonderzoek op het vlak van cybersecurity te ondersteunen en de resultaten daarvan ook naar bedrijven te brengen. Daarbij focussen we vooral op application security: de veiligheid van software zelf. Hiervoor doen we bijvoorbeeld aan security testing: bestaande software analyseren met tools die mogelijke kwetsbaarheden proberen te ontdekken. Daarnaast proberen we zoveel mogelijk het principe security by design te promoten: software van bij het ontwerp veiliger maken. Dat kan bijvoorbeeld door programmeertalen en ontwikkelingsmethodes zo te ontwerpen en in te zetten dat bepaalde veiligheidsrisico’s worden vermeden.” 

“Naast dat onderzoek is er een implementatieluik, waarin we kennis naar de Vlaamse industrie brengen. We organiseren bijvoorbeeld industriedagen met demonstraties en workshops, en aan de VUB vindt jaarlijks de internationale Summer School on Security Testing and Verification plaats.”

AI-modellen worden razendsnel beter. Worden controles daardoor niet overbodig?
Coen: “De modellen zijn inderdaad veel beter geworden. Maar je mag de code die ze voorstellen niet zomaar blindelings aanvaarden. Je moet kritisch analyseren of die doet wat je verwacht, of ze niets anders doet, en of de software op langere termijn onderhoudbaar blijft. Een stuk code kan namelijk vandaag perfect doen wat je gevraagd hebt, maar wat als je er volgend jaar nieuwe functionaliteiten aan wilt toevoegen? Als je snel code genereert en implementeert zonder voldoende aandacht voor de kwaliteit, betaal je daar later ooit wel de prijs voor. Dat noemen we technical debt of technische schuld. In ons onderzoek hebben we die technische schuld gemeten bij bijdragen van AI-agenten aan opensourcesoftware. Onze boodschap aan Vlaamse bedrijven is daarom duidelijk: vergeet de softwarekwaliteit niet. Productiviteit is maar één deel van het verhaal. Om kwaliteit te garanderen, heb je goede tools en processen nodig en moet je ontwikkelaars opleiden.” 

Jullie spreken daarnaast ook geregeld over ‘cognitive debt’. Wat bedoelen jullie daarmee? 
Coen: “Een softwareontwikkelingsteam bestaat stilaan niet meer alleen uit menselijke ontwikkelaars. Ook AI-agenten leveren bijdragen en dat is prima. Maar hoe meer je aan die agenten delegeert, hoe groter het gevaar dat het team zelf het overzicht verliest. Mensen weten dan niet meer precies hoe de architectuur van hun software in elkaar zit of waar belangrijke onderdelen zijn geïmplementeerd. Dat noemen we dan cognitve debt. Voor wegwerpsoftware hoeft dat niet noodzakelijk een groot probleem te zijn. Met AI kun je snel een eenvoudige toepassing maken die je één keer nodig hebt. Maar zodra je die software later wilt aanpassen, uitbreiden of onderhouden, moet iemand de code begrijpen. Dat verliest men helaas vaak uit het oog” 

Er is ook de vraag wat er met bedrijfsinformatie en code gebeurt wanneer die naar commerciële AI-modellen wordt gestuurd. 
Wolfgang: “Dat is een gigantisch probleem. Al je innovaties, al je know-how: in principe hebben de producenten van die tools daar allemaal toegang toe. Ze zeggen uiteraard dat ze daar discreet mee omgaan, maar wie gaat of kan dat zelfs controleren? Intellectuele eigendom is echt een belangrijk aandachtspunt. Daardoor zien we bij steeds meer bedrijven belangstelling ontstaan voor AI-modellen die ze zelf kunnen hosten, modellen die je op eigen hardware kunt draaien. Je ziet ook een evolutie naar meerdere, maar kleinere en meer gespecialiseerde AI-modellen. In plaats van elke vraag naar één standaardmodel te sturen, kun je best eerst nagaan welk gespecialiseerd model het meest geschikt is. Dat kan veel goedkoper zijn.” 

Want ook de kostprijs van AI wordt een factor?
Wolfgang: “Zeker. Bij professioneel gebruik wordt men afgerekend op basis van de gebruikte tokens. Want alles wat je naar een model stuurt kost tokens, maar ook alles wat het model terugstuurt. Dat kan een hoop troep zijn waar je niets mee kunt aanvangen – betalen zul je. Vraag aan een AI-tool bijvoorbeeld om tegen morgen een alternatief voor Tax-on-Web te schrijven en je zult iets krijgen. Het zal niet werken omdat zo’n taak gewoonweg een mission impossible is, maar dat zal een AI-tool je nooit vertellen, want dat levert geen inkomsten op. En zo worden er veel tokens verspild. Bedrijven moeten zich echt leren bezinnen over hoe ze AI inzetten. Het idee dat het gebruik van AI vrijwel gratis is, klopt niet. In sommige firma’s snapt men dat al intussen; hier en daar wordt het loon van programmeurs afhankelijk gemaakt van het aantal tokens dat ze uitgespaard hebben.” 

"Het zelf schrijven van code zal wellicht minder belangrijk worden, maar andere aspecten worden juist belangrijker"

Als AI steeds beter wordt in programmeren, hebben we straks dan eigenlijk nog wel programmeurs nodig? 
Wolfgang: “Je moet een onderscheid maken tussen een programmeur en een softwareontwikkelaar of software-ingenieur. Eenvoudige programmeertaken kan AI vandaag zeer goed uitvoeren. Een kleine functie schrijven, een eenvoudige webpagina maken of een databank aan een toepassing koppelen: dat soort microtaken kun je gerust aan AI overlaten. Maar softwareontwikkeling is iets anders. In onze universitaire opleiding leren studenten vanaf het eerste jaar programmeren, maar tegelijk leren ze omgaan met de schaalbaarheid en complexiteit van grote softwareprojecten. Ze leren code structureren en later ook in teams aan grote projecten werken. Precies met die schaal en complexiteit heeft AI het moeilijk.” 

Verandert daardoor ook wat jullie studenten computerwetenschappen leren? 
Wolfgang: “De jobinhoud zal evolueren. Het zelf schrijven van code zal wellicht minder belangrijk worden, maar andere aspecten worden juist belangrijker: begrijpen wat een systeem moet doen, requirements analyseren, een goede architectuur ontwerpen, rekening houden met toekomstige gebruikers, veiligheid en testen.
Daarom moeten ook onze opleidingen mee evolueren. We moeten studenten niet alleen leren programmeren, maar hen voorbereiden op een wereld waarin AI een belangrijk instrument wordt bij softwareontwikkeling. De essentie blijft dat ze de complexiteit van software moeten kunnen begrijpen en beheersen.” 

“Je zult ook mensen nodig blijven hebben die AI-agenten aansturen, de omgeving errond bouwen en de verschillende onderdelen samenbrengen. Het beste bewijs: zelfs bij Anthropic, de producent van Claude, de populairste AI-tool van het moment bij programmeurs, hebben ze momenteel honderden vacatures. Bekijk die eens goed en wat zie je? Ze zoeken vooral – inderdaad – software-ingenieurs.”