Steeds meer bedrijven experimenteren met AI voor teksten en samenvattingen. Maar zodra je technische rapporten of contracten in een externe AI-tool plakt, ontstaat er een nieuw risico. Je data verlaat je organisatie en je hebt minder grip op waar het terechtkomt en hoe het wordt verwerkt.
Daarom kijken privacy-bewuste ondernemers naar lokale AI: je draait een taalmodel op je eigen hardware of op een VPS, zodat prompts en antwoorden binnen je eigen omgeving blijven. In de context van het draaien van eigen software op een eigen server is een vps een logisch startpunt, omdat je daar zelf bepaalt wat er draait en hoe data wordt opgeslagen.
Wat lokale AI concreet betekent
Lokale AI betekent: je installeert een model en een runtime op je server en laat gebruikers daartegen chatten of taken uitvoeren. Nul datadeling met externe partijen is de belangrijkste winst, omdat je geen prompts naar een SaaS-dienst hoeft te sturen. Dat is vooral relevant in sectoren waar je met vertrouwelijke klantgegevens, technische documentatie en bedrijfsspecifieke kennis werkt.
Deze modellen en tools maken het haalbaar
Je hoeft geen AI-lab te zijn om dit werkend te krijgen. Er zijn ondertussen sterke ‘open’ modellen beschikbaar, zoals Llama 3, Mistral en DeepSeek. Voor de installatie op een server worden tools als Ollama vaak gebruikt, omdat je daarmee modellen relatief eenvoudig kunt downloaden en draaien. LM Studio wordt vooral gebruikt voor desktops. Voor een VPS is een servergerichte aanpak normaal gesproken praktischer.
Minimale VPS-specificaties die werken
Voor een klein model waarmee je samenvattingen en Q&A doet, kom je vaak al ver met:
- 8 GB RAM
- 4 vCPU
- ± 50 GB SSD
Grotere modellen vragen meestal 16-32 GB RAM. Dit sluit aan bij wat je in de praktijk ziet bij het draaien van modellen zoals Mistral/Llama-varianten: geheugen is vaak de eerste bottleneck. Bij Hostnet kun je VSP-en samenstellen met o.a. SSD en opschaalopties.
Use cases in de installatiebranche
Lokale AI wordt interessant zodra je AI wil inzetten op je eigen documenten en processen, zonder dat gevoelige informatie de deur uit gaat. Denk aan:
- Rapporten samenvatten: werkbonnen of onderhoudsrapporten terugbrengen tot korte samenvattingen.
- Offertes opstellen op basis van eigen sjablonen: AI laten schrijven in jouw tone of voice zonder dat je interne prijslogica of klantdata extern deelt.
- Interne kennisbank doorzoekbaar maken: ‘Waar staat de werkwijze voor brandkleppen?’ of ‘Welke instellingen gebruikten we bij project X?’, op basis van je eigen documentatie.
AVG-argument: minder datarisico
Bij externe AI-tools is het datavraagstuk complex. Met een lokale oplossing verklein je dat risico grotendeels, omdat de werking binnen je eigen omgeving plaatsvindt. Dat maakt de discussie simpeler: je hoeft minder uit te leggen over datadoorgifte en opslag buiten de EU en je kunt je logging en bewaartermijnen zelf bepalen.
Wanneer een VPS goedkoper is dan ‘AI per seat’
Een VPS met voldoende specs zit grofweg in de orde van tientjes per maand, afhankelijk van configuratie en provider. Hostnet toont VPS-opties vanaf een instapprijs en heeft zwaardere configuraties voor o.a. 8 GB RAM/4 cores. Daartegenover staan team-abonnementen van AI-tools die per gebruiker per maand rekenen. Rekenvoorbeeld: heb je 5 collega’s die AI dagelijks gebruiken, dan kan ‘per seat’ al snel duurder uitpakken dan één VPS.
