Ollama · LM Studio · Jan · GPT4All
K čemu slouží Software pro spuštění modelu AI přímo na vašem vlastním počítači.
Proč na tom záleží
Vaše otázky nikdy neopustí zařízení: žádný server, žádný účet, žádná telemetrie a funguje i offline. Kvalita závisí na vašem hardwaru, ale nic neuniká. Ollama a LM Studio jsou nejsnazší; Jan a GPT4All míří na maximální soukromí.
Pro koho a kdy
Každý, kdo používá AI i pro trochu osobní témata a nechce je předávat americkému serveru.
Instalace a použití
Pro pozvolný začátek nainstalujte LM Studio nebo Jan (grafické rozhraní jako u běžné aplikace).
Stáhněte si model nabízený v aplikaci (například Llama nebo Mistral), který odpovídá výkonu vašeho zařízení.
Pusťte se do chatování: vše se děje lokálně. Ollama je verze pro příkazový řádek pro techničtěji zaměřené uživatele.