Een test met een processor uit 1998 bewijst dat je 27 jaar later slechts 128 MB RAM nodig hebt om AI te draaien
In een tijd waarin kunstmatige intelligentie (AI) vaak wordt gelinkt aan dure, geavanceerde systemen, laat een onverwacht experiment zien dat AI ook met veel beperktere middelen kan werken. Uit een boeiend onderzoek van EXO Labs, opgericht door onderzoekers van de University of Oxford, blijkt dat het mogelijk is AI-software succesvol te laten draaien op hardware uit 1998.
Oude hardware, nieuwe kansen
Voor het experiment gebruikten de onderzoekers een Pentium II-processor van 350 MHz met slechts 128 MB RAM, draaiend op Windows 98. Die configuratie roept bij nostalgici ongetwijfeld een glimlach op. Door zo’n verouderde opstelling te kiezen wilden de onderzoekers aantonen dat slimme softwareoptimalisatie AI-toepassingen mogelijk maakt op hardware die tegenwoordig als oud wordt gezien. Natuurlijk kunnen de prestaties niet tippen aan moderne modellen zoals GPT-4, maar de oude machine haalde toch een functioneel niveau.
De uitkomst laat zien dat je met softwareoptimalisatie het benodigde middelenverbruik voor AI kunt terugdringen. Dat opent de deur naar goedkopere en meer toegankelijke AI-oplossingen — een richting waar EXO Labs actief naartoe werkt.
Modelprestaties en snelheid
De resultaten spreken voor zich. Het gebruikte model (gebaseerd op de “LLama2.c”-codebasis) had 260.000 parameters en haalde 39,31 tokens per seconde. Als je hetzelfde model naar één miljard parameters zou opschalen, zou de snelheid echter instorten tot slechts 0,0093 tokens per seconde, wat praktisch onbruikbaar is. De kern is dat kleinere modellen prima kunnen draaien op oude systemen, maar dat de omvang van een model sterk bepaalt of het op zulke hardware uitvoerbaar blijft.
Dat zet de vraag op tafel hoeveel verder software nog geoptimaliseerd kan worden om AI toegankelijker te maken zonder te moeten leunen op dure hardware zoals de Nvidia Blackwell B200 (geprijsd tussen €27.600 en €36.800 per stuk).
Geldzaken en toekomstdenken
De vondst werpt een ander licht op de huidige markt, waar “de giganten van Silicon Valley” strijden om steeds krachtigere en duurdere chips. EXO Labs stelt dat door software zó te optimaliseren dat die op goedkoopere hardware draait, de drempels voor AI lager kunnen worden. Dat zou niet alleen technologie meer democratisch maken, maar ook voordelen kunnen geven op het gebied van energieverbruik en kostenbeheer.
Hun tweesporenaanpak richt zich enerzijds op beter geoptimaliseerde modellen die minder zwaar zijn om te trainen en anderzijds op de mogelijkheid om AI lokaal op apparaten te draaien zonder afhankelijkheid van externe servers. De langetermijnvisie is om slimme functies in alledaagse voorwerpen te stoppen zonder dat de prijs of het energieverbruik flink omhoog gaat.
Taalkundige verrassingen en technische waardering
Een ander opvallend punt in het experiment was de tekst die de machine genereerde. Hoewel niet literair hoogstaand, toonde de output “een zekere coherentie” en werd ze als “technisch fascinerend” bestempeld, gezien de beperkte middelen. Voorbeelden van de absurdistische stijl zitten in dialogen tussen fictieve personages zoals Sleepy Joe, Spot en Spoon. Die vreemde mix van tekst laat zien hoe een beperkte verwerkingscapaciteit toch een betekenisvolle interactie kan produceren, zij het met grammaticale eigenaardigheden zoals “Ik heb mijn gebroken gebroken verloren”.
Die technische prestatie — met hobbels en eigenaardigheden — zet aan het denken over wat AI kan doen. Als we vooruitkijken naar een toekomst waarin technologie nog meer deel uitmaakt van ons dagelijks leven, herinnert dit onderzoek eraan dat innovatie niet altijd draait om high-end hardware. Soms volstaat creatief denken en technische vindingrijkheid om oude technologie nieuw leven in te blazen.