LLM
Draai krachtige AI-modellen op je eigen hardware: wat lokale AI is, wanneer het zin heeft en hoe je begint. Inclusief gratis stap-voor-stap handleiding.
Lokale AI betekent dat een AI-model niet draait op de servers van een groot techbedrijf, maar op een computer die van jou is. Je eigen laptop, een werkstation op kantoor of een server in je eigen netwerk. Je vraag verlaat je omgeving niet, je data blijft binnen je eigen muren, en niemand anders bepaalt of je er morgen nog bij kunt. Sinds de open modellen razendsnel beter worden, is dit niet langer iets voor techneuten, maar een serieuze optie voor elk bedrijf dat met AI werkt. Onderaan deze pagina download je de gratis handleiding die stap voor stap laat zien hoe je begint.
Wat is lokale AI precies?
Als je ChatGPT of Claude gebruikt, reist je vraag naar de servers van het bedrijf, denkt het model daar na, en komt het antwoord terug op je scherm. Het model staat dus niet bij jou, maar in een datacenter ergens ver weg. Dat noemen we cloud-AI: handig en altijd up-to-date, maar je bent afhankelijk van hun servers, hun prijzen, hun voorwaarden en hun beslissing om je toegang wel of niet te geven.
Lokale AI draait dat om. Hier staat het model op jouw eigen hardware. Dat kan doordat sommige makers hun model vrijgeven als bestand dat je mag downloaden, de zogeheten open modellen. Je haalt zo’n model één keer binnen, installeert een gratis programma dat het kan draaien, en vanaf dat moment heb je je eigen AI. Geen account, geen abonnement, en zelfs geen internetverbinding nodig. De bekende open families komen van grote partijen zoals Alibaba (Qwen), Meta (Llama), Google (Gemma), Mistral, DeepSeek en Microsoft (Phi), en ze worden elke paar maanden een stuk sterker.
Belangrijk om eerlijk te zijn: lokaal draaien is geen wondermiddel. Je zit niet altijd op het allernieuwste, allerkrachtigste topmodel van de week, want de grote gesloten modellen zoals Claude en ChatGPT kun je niet downloaden. Voor het overgrote deel van het zakelijke werk heb je dat zwaarste model echter niet nodig, en het verschil wordt elke maand kleiner. Daarnaast word je zelf verantwoordelijk voor de opzet en het onderhoud.
Wat kun je met lokale AI doen?
De vraag is niet of lokale AI iets kan, maar waar het juist beter past dan cloud-AI. Dat is overal waar je data gevoelig is, waar je veel volume draait, of waar je niet afhankelijk wilt zijn van één externe partij. Je krijgt de kracht van AI, terwijl de controle en de gegevens binnen je eigen muren blijven.
Concreet zet je lokale AI onder andere in om:
Gevoelige documenten zoals contracten, dossiers of financiële stukken te analyseren zonder dat ze je omgeving ooit verlaten
Een interne kennis-assistent te bouwen op je eigen handleidingen, procedures en bedrijfskennis, zodat collega’s sneller antwoorden vinden
Klantdata netjes binnen de AVG te verwerken, ook bij grote hoeveelheden, omdat de gegevens nergens naartoe gaan
Offertes, e-mails en teksten op te stellen voor je hele team, zonder dat iedereen een eigen abonnement nodig heeft
Code te laten schrijven en nakijken zonder dat je broncode langs de server van een ander gaat
Wat staat er in de gratis handleiding?
De handleiding is geschreven voor ondernemers, niet voor techneuten. Als je ChatGPT of Claude kunt gebruiken, kun je hem volgen. In acht korte hoofdstukken brengt hij je van nul naar een werkende lokale opzet, zonder vakjargon. Je leest precies wat je nodig hebt, hoe je begint en waar je op moet letten.
Wat lokale AI is en waarom de controle bij jou hoort
Welke open modellen je kunt draaien en hoe snel ze beter worden
Welke hardware je nodig hebt, uitgelegd in drie heldere niveaus van laptop tot server
Welke gratis tools je gebruikt, zoals LM Studio en Ollama, plus een stappenplan voor je eerste model
Concrete toepassingen die je direct in je eigen bedrijf herkent
De eerlijke afweging tussen lokaal en cloud, zodat je weet wanneer je wat inzet
Hoe ga je aan de slag?
Je begint vandaag nog. Download de gratis handleiding onderaan deze pagina, installeer een gratis programma als LM Studio via lmstudio.ai, en haal een klein model binnen uit de Qwen-, Gemma- of Phi-familie. Binnen enkele minuten stel je je eerste vraag aan een AI die volledig van jou is. Test hem meteen op een echte taak waar je deze week toch al mee zit, en je merkt direct wat het verschil is.
Wil je weten waar AI, lokaal of in de cloud, het meeste oplevert binnen jouw organisatie? Met een AI audit brengen we dat concreet in kaart.
Werk je nu met klantdata in cloud-AI zoals ChatGPT? Lees dan ook wanneer ChatGPT wel en niet AVG-proof is voor bedrijven.
Win 10 uur per week terug met je eerste AI-medewerker.
De GenAI Academy is de AI-opleiding van Het AI Lokaal voor ondernemers en professionals die hun werk willen automatiseren met AI.
Geen cursus over AI, maar een systeem dat je bouwt.
#1 in Nederland & België
CIC Rotterdam, maandelijkse co-build sessie
Door
Mede-oprichter van Het AI Lokaal. Traint dagelijks teams in AI en creative AI, van eerste prompt tot werkende workflow.
Deel artikel
Veelgestelde vragen
Wat is lokale AI?
Lokale AI betekent dat een taalmodel volledig op je eigen hardware draait, zonder dat je data naar de cloud van een externe partij gaat. Je bent daarmee niet afhankelijk van een aanbieder die zijn model kan wijzigen of stopzetten.
Wat kun je met lokale AI doen?
Vrijwel alles wat je met cloud-AI doet: teksten schrijven, samenvatten, analyseren en programmeren, maar dan met volledige controle over je data. Dat maakt het interessant voor organisaties met strenge privacy-eisen.
Hoe ga je aan de slag met lokale AI?
Je installeert een tool waarmee je open modellen op je eigen computer draait en kiest een model dat past bij je hardware. Begin klein met een compact model en schaal op naarmate je use case en hardware het toelaten.