AI & Analytics

5 Docker-containers voor een thuis AI-lab

KDnuggets
5 Docker-containers voor een thuis AI-lab

Samenvatting

Docker-containers voor een thuis-AI-lab krijgen duidelijke rollen met Ollama, Open WebUI, Qdrant, n8n en Portainer CE.

Docker-containers voor een thuis-AI-lab: vijf afzonderlijke lagen

KDnuggets beschrijft een lokale AI-stack met vijf containers, elk met een eigen taak. Ollama draait lokale modellen en stelt die beschikbaar via poort 11434. Open WebUI levert de browserinterface voor chats, gebruikers, bestanden en koppelingen met modelproviders.

Qdrant voegt vectorzoekopdrachten toe voor eigen documenten. n8n verzorgt geplande importen, webhooks en andere verbindingsstappen. Portainer CE beheert onder meer herstarts, logs, volumes, updates en opruimwerk.

Ollama, Qdrant en n8n vragen om beheer

De opzet splitst modelserver, interface, documentgeheugen, automatisering en containerbeheer van elkaar. Daardoor kun je een laag vervangen zonder de andere containers aan te raken. Twee onderdelen bevatten zelf geen AI: n8n en Portainer CE.

De eerste fout zit vaak niet in het model. Ollama verliest modellen wanneer je ze in de container opslaat en die container opnieuw aanmaakt. Een named volume voor `/root/.ollama` voorkomt opnieuw downloaden. Open WebUI logt alle gebruikers uit wanneer een opnieuw gegenereerde `WEBUI_SECRET_KEY` verandert.

Qdrant hoort pas in de stack wanneer zoeken in eigen documenten nodig is. n8n bevat toegangsgegevens en vraagt daarom om een back-up van zijn volume en een afgeschermde poort. Portainer CE gebruikt toegang tot de Docker-socket; beperk die toegang tot een vertrouwd netwerk.

Concrete takeaway voor je Docker-stack

Leg vóór de eerste installatie per container het doel, de poort, het volume en de eerste fout vast. Geef Ollama een named volume, zet de sleutel van Open WebUI eenmalig vast, beveilig n8n en Portainer CE, en voeg Qdrant alleen toe wanneer documentretrieval werkelijk nodig is.

Lees het volledige artikel
Meer over AI & Analytics →