> Markdown twin of https://conduitllm.com/zh-CN/use-cases/local-llm.html > 为 Ollama、LM Studio 或 vLLM 中运行的模型打造的桌面聊天应用。不需要密钥，不产生费用——文档、工具和工件都和搭配云端模型时一样好用。 --- 1. [Conduit](https://conduitllm.com/zh-CN/) 2. [用例](https://conduitllm.com/zh-CN/use-cases.html) 3. 本地模型 面向本地模型用户 # 本地模型，配上 *一个真正的应用* Conduit 不会运行、下载或管理模型——它是一个桌面应用，连接到你已经在运行的本地 服务器：直接支持 Ollama 或 LM Studio，也支持任何兼容 OpenAI 的端点，比如自托管的 vLLM 或 SGLang 服务器。不需要密钥，不产生费用，应用的其余部分——文档、MCP 工具、 工件、技能、记忆——和搭配云端模型时完全一样好用。 [下载 Conduit](https://conduitllm.com/zh-CN/#get) 查看哪种运行方式适合你 - 本地模型不需要密钥，也不产生费用 - 可以完全不联网运行 - 支持 Ollama、LM Studio，或任何兼容 OpenAI 的端点 你的服务器负责运行模型；Conduit 是围绕它的应用。开启仅本地模式后，网页搜索和云端 文档索引都会被关闭。 问题 你已经有一个模型在跑了——拉进了 Ollama，加载进了 LM Studio，或者跑在你自己的 vLLM 服务器上。缺的从来不是模型，而是围绕它的一切：一个能搜索历史对话、 附加文件、调用工具，或者不用切换到另一个完全不同的窗口就能用上云端模型的地方。 你能获得什么 ## 你已经在用的引擎，配上一个真正的应用 Conduit 不会碰你的模型文件。它是客户端，你的本地服务器仍然负责真正的推理。 ### 不需要密钥，不产生费用，也不用下载任何东西 Conduit 不会下载或管理模型——它连接到你已经在运行的服务器，所以没有凭据要粘贴，也没有用量要计量。本地模型在成本图表里价格是 $0，因为它们确实不花你一分钱。 ### 是完整的应用，不只是一个聊天框 配合 Ollama 嵌入的文档功能、MCP 工具、工件、技能、保存的提示词、全文搜索、应用和工作流——无论背后的模型跑在你的机器上还是云端，全部一样好用。 ### 按一下键，就能用上云端模型 当某个问题需要前沿模型时，不用离开当前对话就能切换提供商。如果你一直用本地提供商，这个选项就干脆用不上。 [查看完整功能列表及其限制](https://conduitllm.com/features.html) 工作原理 ## 把 Conduit 指向你已经拥有的服务器 三个步骤。全程都不需要通过 Conduit 拉取任何模型。 ### 启动你的本地服务器 按你平时的方式启动 Ollama、LM Studio，或者你自己的 vLLM、SGLang 服务器，加载或拉取你想用的模型。 ### 把 Conduit 指向它 在 **Settings → Providers & Keys** 中，直接选择 Ollama 或 LM Studio，或者选择兼容 OpenAI 的提供商并粘贴你服务器的 base URL。这两种本地提供商都不需要密钥。 ### 选择模型，开始对话 从 Conduit 抓取自你服务器的列表中选择它。文档、MCP 工具、工件，以及应用里的其他一切，都和搭配托管模型时完全一样好用。 选择你的运行方式 ## 三种接入方式，一个设置界面 具体界面截图，以及各自预填的默认值，都在[文档](https://conduitllm.com/zh-CN/docs.html#first-run)里——这里说明的是每一种方式需要你提供什么。 | 运行方式 | 你需要粘贴什么 | 凭据 | | --- | --- | --- | | Ollama | 它的 base URL——如果你改过端口或在别处运行，可以编辑 | 不需要——本地 | | LM Studio | 它本地服务器的 base URL | 不需要——本地 | | 任何兼容 OpenAI 的服务器——vLLM、SGLang，或者像 LiteLLM 这样的代理 | 该端点的 base URL | 可选，仅当该端点需要时 | 三者都支持编辑 base URL，所以把 Conduit 指向一个非默认端口，或者网络上的另一台机器，只是一次设置修改，不需要重新构建。[Conduit 对比 Ollama 自带应用](https://conduitllm.com/compare/ollama.html)进一步讲了一个独立客户端到底在 Ollama 之上多带来了什么。 限制 ## 它能做什么，不能做什么 每个功能完整的网络流量说明都在[隐私页面](https://conduitllm.com/zh-CN/privacy.html)。 ### 它能做什么 - 通过各自的 API，直接连接 Ollama、LM Studio，或任何兼容 OpenAI 的服务器——vLLM、SGLang，或代理 - 仅本地模式一个开关就能关闭网页搜索和云端文档索引 - 使用本地提供商、并把更新检查保留在手动设置时，完全不发出任何互联网请求 - 文档可以通过 Ollama 完全在本机完成嵌入，因此搭配本地聊天模型时，一个集合永远不会离开机器 - MCP 工具、工件、技能、记忆和全文搜索，与搭配云端模型时表现一致 - 需要时按一下键就能用上云端提供商——你选择的提供商才是负责回答的那一个 ### 它不能做什么 - 不会下载、安装、更新或管理模型——这些始终由 Ollama、LM Studio 或你自己的服务器负责 - 不会在纯文本模型上伪造视觉能力——附加的图片会被丢弃，并给出明确原因 - 不能在本地生成图片——图片生成只能在 OpenAI、Gemini 或 OpenRouter 上运行 - 不能让小模型拥有大模型的推理能力——速度和质量取决于你的硬件和加载的模型 - 不能保证一定支持工具调用——这取决于你选择的模型是否经过训练支持调用工具，而不是 Conduit - 目前还没有代码签名的安装包——首次启动时预计会看到 SmartScreen 或 Gatekeeper 的提示 ## 关于本地模型的常见问题 **Conduit 会在本地运行模型吗？** 不会——Conduit 从不自己运行、下载或管理模型权重。它是一个桌面聊天应用，连接到你已经在运行的本地服务器——直接支持 Ollama 或 LM Studio，也支持任何兼容 OpenAI 的端点，比如自托管的 vLLM 或 SGLang。拉取、删除和升级模型都由那个服务器负责，与 Conduit 无关。 **Conduit 是一个 Ollama 图形界面吗？** 它是运行在 Ollama 之上的客户端，而不是 Ollama 项目自己开发的图形界面。Ollama 仍然需要保持安装并运行——Conduit 调用它的 API 来列出你已拉取的模型，并对它们进行流式对话，不需要额外的密钥或账号。想了解两者各自更适合日常使用的场景，请看[Conduit 对比 Ollama 自带应用](https://conduitllm.com/compare/ollama.html)。 **我可以用 Conduit 搭配 LM Studio 吗？** 可以。在 Settings 的提供商列表中选择 LM Studio，方式和选择 Ollama 一样——不需要凭据，Conduit 会自动抓取它正在提供的模型。如果没有使用默认设置，把 base URL 字段指向 LM Studio 本地服务器的地址即可。 **Conduit 能配合 vLLM 或 SGLang 使用吗？** 可以，通过兼容 OpenAI 的提供商——这是 Conduit 提供的第十七家提供商，正是为这种情况设计的。把它指向你服务器的 base URL，只有在你的设置需要时才添加密钥；同样的方式也适用于任何兼容 OpenAI chat completions API 的自托管代理。 **仅本地模式真的是离线的吗？** 只要选择了本地提供商，并把更新检查保留在默认的手动设置上，就是的——模型运行在你的机器上，仅本地模式还会额外关闭网页搜索和云端文档索引，因此应用里没有其他东西会自行联网。开启后台更新检查，或者选择云端提供商，才会改变这一点。 **本地模型能使用工具、识别图片或生成图片吗？** 工具调用和视觉能力取决于模型本身，而不是 Conduit——MCP 和内置工具适用于任何其适配器支持工具调用的模型，图片附件也会发给能接受它的模型；像 DeepSeek 这样的纯文本模型，附加的图片会被丢弃并给出明确原因，而不是伪造一个答案。图片生成本身目前只能在 OpenAI、Gemini 或 OpenRouter 上运行，本地模型无法生成图片。 相关内容 ## 大家使用 Conduit 的其他方式 面向重度 AI 用户 ### 按 token 付费，而不是按坐席付费 为每一家托管提供商使用你自己的 API 密钥，用于本地模型不够用的那些日子。 [自带密钥](https://conduitllm.com/zh-CN/use-cases/bring-your-own-key.html) 面向开发者 ### 一个先征求同意的 MCP 客户端 本地和远程服务器、OAuth，以及按工具能力分级的同意机制——为有事可做的本地模型准备。 把 Conduit 用作你的 MCP 客户端 面向调研与分析 ### 向你自己的文件提问 用 Ollama 嵌入建立集合索引，检索就能和聊天模型一样完全留在本地。 和你的文档对话 ## 把它指向你已经在运行的模型 免费且开源。无需账号，Ollama 或 LM Studio 都不需要密钥。 [下载 Conduit](https://conduitllm.com/zh-CN/#get) [阅读设置文档](https://conduitllm.com/zh-CN/docs.html) 这是一个发布候选版本：安装包尚未通过操作系统级代码签名，首次启动时可能会看到 SmartScreen 或 Gatekeeper 的提示。