5 AI-GPT’s (chatbots) die je op je eigen laptop kunt installeren
Bij het gebruik van de allerbeste online chatbots, zoals ChatGPT – en nu ook het Chinese DeepSeek, is het lastig om in te schatten wat er met de info gebeurt die je invoert. De Autoriteit Persoonsgegevens (AP) geeft hierover een duidelijk advies: wees voorzichtig met de invoer van persoonlijke info, van jezelf maar ook anderen.
In het onderwijs werken we met jonge mensen en moeten we bijzonder voorzichtig zijn met persoonlijke informatie. Het invoeren van privacygevoelige gegevens is daarom nooit een optie.
Een oplossing is het lokaal (lees: op eigen laptop, zonder internetverbinding) laten draaien van een taalmodel (zoals ChatGPT).
Hieronder vijf taalmodellen die je kunt downloaden en die op je eigen computer kunt draaien.
AnythingLLM van Mintplex Labs is gratis te downloaden en draait op Windows (64bit). Het hele programma werkt op je laptop (dus ook zonder internet) en alle ingevoerde data wordt alleen op je computer opgeslagen.
Jan.ai is net als de andere taalmodellen gratis te downloaden. Vervolgens kun je de chatbot openen met een icoontje op je desktop. Jan.ai werkt onder andere met het Llama-taalmodel, afkomstig van Meta (moederbedrijf Facebook), maar het is ook mogelijk om tal van andere taalmodellen te downloaden en te installeren. De app geeft het aan als je computer mogelijk niet snel genoeg is om het taalmodel goed uit te voeren. Net als de andere lokale modellen werkt de chatbot ook offline en slaat het data ook offline op.
GPT4all zegt het al: chatbots voor iedereen. Ook deze is eenvoudig te downloaden en te installeren. Interessant bij GPT4all is dat het open source DeepSeek R1 is te draaien. Oftewel, het taalmodel waar door velen wegens privacyproblematiek voor wordt gewaarschuwd, is dus privé te draaien op je laptop.
Deze lokale chatbot werkt eenvoudig en snel. Althans ‘snel’ is relatief. Wat fijn is is dat je met LMStudio een aantal voorkeuren eenvoudigweg instelt. Zo kun je instellen hoe veel tokens de chatbot kan verwerken. Minder tokens betekent een snellere reactie, maar minder tekst die je kunt typen. Meer tokens betekent meer input, maar een langere reactietijd.
Ollama is een heel fijne lokale GPT. Ook gemakkelijke te downloaden en te installeren.