Jan

Jan ist ein kostenloses, quelloffenes Desktop‑KI Tool zur lokalen Ausführung von Sprachmodellen. Im Gegensatz zu cloudbasierten Chatdiensten laufen Verarbeitung und Speicherung standardmäßig auf dem eigenen Gerät, sodass keine kontinuierliche Verbindung zu externen Servern notwendig ist. Das erhöht die Kontrolle über Daten, kann aber je nach Modell höhere lokale Hardwareanforderungen mit sich bringen.

Jan unterstützt verschiedene Open‑Source‑Modelle im GGUF-Format und kann mit Modellen wie LLaMA‑Ablegern, Mistral oder anderen kompatiblen LLMs betrieben werden. Zusätzlich lässt sich Jan so konfigurieren, dass es über API‑Zugänge mit externen Cloud‑Anbietern verbunden werden kann; das ist optional und nicht erforderlich für den lokalen Betrieb.

Jan läuft auf CPU und kann von GPU‑Beschleunigung profitieren, inklusive Unterstützung für NVIDIA‑GPUs und Apple‑M‑Serie. Kleinere Modelle (z. B. ~4B Parameter) sind auf vielen modernen PCs nutzbar; größere Modelle benötigen mehr Arbeitsspeicher und GPU‑VRAM. Die genaue Performance hängt vom gewählten Modell und der Hardware ab.

Jan ist quelloffen und kostenlos verfügbar. Installationsdateien und Quellcode sind üblicherweise über das Projekt‑Repository (z. B. GitHub) abrufbar. Die Desktop‑Apps für macOS, Windows und Linux lassen sich herunterladen und lokal installieren; genaue Anleitungen finden sich im jeweiligen Repository oder in der mitgelieferten Dokumentation.

Standardmäßig werden Eingaben lokal verarbeitet, wodurch Daten nicht automatisch an externe Server gesendet werden. Wer Jan jedoch mit externen APIs verbindet, sollte berücksichtigen, dass dann Daten an die jeweiligen Dienste übermittelt werden. Für höchste Datensicherheit empfiehlt sich der rein lokale Betrieb ohne Cloud‑Verbindungen.

Die Benutzeroberfläche von Jan ist derzeit überwiegend in Englisch, aber viele der unterstützten Modelle beherrschen mehrere Sprachen, darunter Deutsch und Chinesisch. Nutzer können Modelle auswählen, die für die gewünschte Sprachqualität optimiert sind.