> Markdown twin of https://conduitllm.com/de/use-cases/local-llm.html > Desktop-Chat-App für dein Modell in Ollama, LM Studio oder vLLM. Kein Schlüssel, keine Rechnung — Dokumente und Tools wie bei einem Cloud-Modell. --- 1. [Conduit](https://conduitllm.com/de/) 2. [Anwendungsfälle](https://conduitllm.com/de/use-cases.html) 3. Lokale Modelle Für Nutzer lokaler Modelle # Lokale Modelle, mit *einer echten App* drumherum Conduit betreibt, lädt oder verwaltet keine Modelle — es ist eine Desktop-App, die sich mit dem lokalen Server verbindet, den du schon betreibst: direkt mit Ollama oder LM Studio, oder mit jedem OpenAI-kompatiblen Endpunkt wie einem selbst gehosteten vLLM- oder SGLang-Server. Kein Schlüssel, keine Rechnung, und der Rest der App — Dokumente, MCP-Tools, Artefakte, Skills, Gedächtnis — funktioniert genau wie bei einem Cloud-Modell. [Conduit herunterladen](https://conduitllm.com/de/#get) Sieh, welche Laufzeitumgebung passt - Kein Schlüssel, keine Rechnung für lokale Modelle - Kann völlig ohne Internet laufen - Ollama, LM Studio oder jeder OpenAI-kompatible Endpunkt Dein Server betreibt das Modell; Conduit ist die App drumherum. Mit eingeschaltetem Local-only-Modus sind Websuche und Cloud-Dokumentindexierung abgeschaltet. Das Problem Du hast schon ein Modell laufen — heruntergeladen in Ollama, geladen in LM Studio, oder ausgeliefert von deiner eigenen vLLM-Instanz. Was fehlt, ist kein Modell. Es ist alles drumherum: ein Ort, um alte Unterhaltungen zu durchsuchen, eine Datei anzuhängen, ein Tool aufzurufen oder ein Cloud-Modell zu erreichen, ohne komplett das Fenster zu wechseln. Was du bekommst ## Die Engine, die du schon betreibst, mit einer echten App drumherum Conduit fasst deine Modelldateien nicht an. Es ist der Client, und dein lokaler Server bleibt zuständig für die Inferenz. ### Kein Schlüssel, keine Rechnung, nichts zu laden Conduit lädt keine Modelle herunter und verwaltet keine — es verbindet sich mit dem Server, den du schon betreibst, also gibt es keine Zugangsdaten einzufügen und nichts zu messen. Lokale Modelle stehen im Kostendiagramm bei 0 €, weil sie dich nichts kosten. ### Die ganze App, nicht nur eine Chat-Box Dokumente mit Ollama-Embeddings, MCP-Tools, Artefakte, Skills, gespeicherte Prompts, Volltextsuche, Apps und Workflows — alles funktioniert gleich, egal ob das Modell dahinter auf deinem Rechner oder in der Cloud läuft. ### Ein Cloud-Modell, einen Tastendruck entfernt Wenn eine Frage ein Frontier-Modell braucht, wechsle den Provider, ohne die Unterhaltung zu verlassen. Bleibst du beim lokalen Provider, wird diese Option einfach nie genutzt. [Jede Funktion, mit ihren Grenzen](https://conduitllm.com/features.html) So funktioniert's ## Richte Conduit auf den Server, den du schon hast Drei Schritte. An keiner Stelle lädst du ein Modell durch Conduit selbst herunter. ### Starte deinen lokalen Server Starte Ollama, LM Studio oder deinen eigenen vLLM- oder SGLang-Server wie gewohnt, mit dem Modell, das geladen oder heruntergeladen sein soll. ### Richte Conduit darauf Wähle unter **Einstellungen → Provider & Schlüssel** direkt Ollama oder LM Studio, oder wähle den OpenAI-kompatiblen Provider und füge die Basis-URL deines Servers ein. Keiner der beiden lokalen Provider braucht einen Schlüssel. ### Wähle das Modell und leg los Wähle es aus der Liste, die Conduit von deinem Server abruft. Dokumente, MCP-Tools, Artefakte und alles andere in der App funktionieren genau wie mit einem gehosteten Modell. Wähle deine Laufzeitumgebung ## Drei Wege, ein Einstellungsbildschirm Die genauen Bildschirme und alle vorausgefüllten Standardwerte stehen in [der Dokumentation](https://conduitllm.com/de/docs.html#first-run) — hier steht, was jede Variante von dir braucht. | Laufzeitumgebung | Was du einfügst | Zugangsdaten | | --- | --- | --- | | Ollama | Seine Basis-URL — editierbar, falls du den Port geändert hast oder es anderswo betreibst | Keine — lokal | | LM Studio | Die Basis-URL seines lokalen Servers | Keine — lokal | | Jeder OpenAI-kompatible Server — vLLM, SGLang, ein Proxy wie LiteLLM | Die Basis-URL dieses Endpunkts | Optional, nur wenn der Endpunkt eine verlangt | Alle drei sind Provider mit editierbarer Basis-URL, sodass Conduit auf einen abweichenden Port oder einen anderen Rechner in deinem Netzwerk zu richten eine Einstellungsänderung ist, kein Neubau. [Conduit im Vergleich zu Ollamas eigener App](https://conduitllm.com/compare/ollama.html) geht genauer darauf ein, was ein eigener Client speziell zu Ollama hinzufügt. Grenzen ## Was es tut, und was nicht Die vollständige Netzwerkaufschlüsselung, für jede Funktion, steht auf [der Datenschutzseite](https://conduitllm.com/de/privacy.html). ### Was es tut - Verbindet sich direkt mit Ollama, LM Studio oder jedem OpenAI-kompatiblen Server — vLLM, SGLang, ein Proxy — über dessen eigene API - Der Local-only-Modus schaltet Websuche und Cloud-Dokumentindexierung mit einem Schalter ab - Mit einem lokalen Provider und Update-Prüfungen auf manuell stellt es überhaupt keine Internetanfrage - Dokumente lassen sich mit Ollama vollständig on-device einbetten, sodass eine Sammlung mit einem lokalen Chat-Modell nie den Rechner verlässt - MCP-Tools, Artefakte, Skills, Gedächtnis und Volltextsuche funktionieren gleich wie mit einem Cloud-Modell - Ein Cloud-Provider ist einen Tastendruck entfernt, wenn du einen willst — der Provider, den du wählst, ist der, der antwortet ### Was es nicht tut - Lädt, installiert, aktualisiert oder verwaltet keine Modelle — das bleibt Sache von Ollama, LM Studio oder deinem eigenen Server - Täuscht bei einem reinen Textmodell keine Vision vor — ein angehängtes Bild wird stattdessen mit einem genannten Grund verworfen - Erzeugt keine Bilder lokal — Bilderzeugung läuft nur bei OpenAI, Gemini oder OpenRouter - Lässt ein kleines Modell nicht wie ein großes denken — Geschwindigkeit und Qualität hängen von deiner Hardware und dem geladenen Modell ab - Garantiert keine Tool-Aufrufe — das hängt davon ab, ob das gewählte Modell überhaupt für Tool-Aufrufe trainiert wurde - Liefert noch keine code-signierten Installer — rechne beim ersten Start mit einer SmartScreen- oder Gatekeeper-Warnung ## Fragen zu lokalen Modellen **Betreibt Conduit Modelle lokal?** Nein — Conduit betreibt, lädt oder verwaltet selbst nie Modellgewichte. Es ist eine Desktop-Chat-App, die sich mit einem lokalen Server verbindet, den du schon betreibst — direkt mit Ollama oder LM Studio, oder mit jedem OpenAI-kompatiblen Endpunkt wie einer selbst gehosteten vLLM- oder SGLang-Instanz. Modelle herunterladen, löschen und aktualisieren bleibt Sache dieses Servers, nicht von Conduit. **Ist Conduit eine Ollama-Oberfläche?** Es ist ein Client, der auf Ollama aufsetzt, keine Oberfläche, die vom Ollama-Projekt selbst gebaut wurde. Ollama muss installiert bleiben und laufen — Conduit ruft dessen API auf, um die heruntergeladenen Modelle aufzulisten und den Chat gegen sie zu streamen, ohne separaten Schlüssel oder Konto. [Conduit im Vergleich zu Ollamas eigener App](https://conduitllm.com/compare/ollama.html) zeigt, wann welches der bessere tägliche Begleiter ist. **Kann ich Conduit mit LM Studio nutzen?** Ja. Wähle LM Studio aus der Providerliste in den Einstellungen, genau wie Ollama — keine Zugangsdaten nötig, und Conduit ruft ab, welche Modelle es gerade bereitstellt. Richte das Basis-URL-Feld auf die lokale Serveradresse von LM Studio, falls du nicht die Standardadresse nutzt. **Funktioniert Conduit mit vLLM oder SGLang?** Ja, über den OpenAI-kompatiblen Provider — den siebzehnten Provider, den Conduit mitbringt und der genau dafür gebaut ist. Richte ihn auf die Basis-URL deines Servers und füge nur dann einen Schlüssel hinzu, wenn dein Setup einen verlangt; derselbe Weg deckt jeden selbst gehosteten Proxy ab, der die OpenAI-Chat-Completions-API spricht. **Ist der Local-only-Modus wirklich offline?** Mit einem gewählten lokalen Provider und Update-Prüfungen, die auf ihrer Standardeinstellung manuell bleiben, ja — das Modell läuft auf deinem Rechner, und der Local-only-Modus schaltet zusätzlich Websuche und Cloud-Dokumentindexierung ab, sodass nichts sonst in der App von sich aus nach außen greift. Das ändert sich erst, wenn du die Hintergrundprüfung einschaltest oder einen Cloud-Provider wählst. **Kann ein lokales Modell Tools nutzen, Bilder sehen oder Bilder erzeugen?** Toolnutzung und Vision hängen vom Modell ab, nicht von Conduit — MCP- und integrierte Tools funktionieren mit jedem Modell, dessen Adapter Tool-Aufrufe unterstützt, und Bildanhänge gehen an Modelle, die sie akzeptieren; ein reines Textmodell wie DeepSeek bekommt ein angehängtes Bild mit einem genannten Grund verworfen statt einer vorgetäuschten Antwort. Bilderzeugung selbst läuft heute nur bei OpenAI, Gemini oder OpenRouter, nie auf einem lokalen Modell. Verwandtes ## Weitere Arten, Conduit zu nutzen Für Vielnutzer von KI ### Pro Token zahlen, nicht pro Sitzplatz Deine eigenen API-Schlüssel für jeden gehosteten Provider, für die Tage, an denen ein lokales Modell nicht ganz reicht. [Eigenen Schlüssel mitbringen](https://conduitllm.com/de/use-cases/bring-your-own-key.html) Für Entwickler ### Ein MCP-Client, der zuerst fragt Lokale und entfernte Server, OAuth, und Zustimmung, abgestuft danach, was ein Tool kann — für ein lokales Modell mit etwas zu tun. Conduit als dein MCP-Client Für Recherche und Analyse ### Frag deine eigenen Dateien Indexiere eine Sammlung mit Ollama-Embeddings, und die Suche bleibt so lokal wie das Chat-Modell. Mit deinen Dokumenten chatten ## Richte es auf das Modell, das du schon betreibst Kostenlos und Open Source. Kein Konto, kein Schlüssel nötig für Ollama oder LM Studio. [Conduit herunterladen](https://conduitllm.com/de/#get) [Lies die Einrichtungsdokumentation](https://conduitllm.com/de/docs.html) Ein Release Candidate: Die Installer sind noch nicht vom Betriebssystem code-signiert, rechne beim ersten Start also mit einer SmartScreen- oder Gatekeeper-Warnung.