1. Conduit
  2. 用例
  3. 本地模型

面向本地模型用户

本地模型,配上 一个真正的应用

Conduit 不会运行、下载或管理模型——它是一个桌面应用,连接到你已经在运行的本地 服务器:直接支持 Ollama 或 LM Studio,也支持任何兼容 OpenAI 的端点,比如自托管的 vLLM 或 SGLang 服务器。不需要密钥,不产生费用,应用的其余部分——文档、MCP 工具、 工件、技能、记忆——和搭配云端模型时完全一样好用。

  • 本地模型不需要密钥,也不产生费用
  • 可以完全不联网运行
  • 支持 Ollama、LM Studio,或任何兼容 OpenAI 的端点
Conduit 与本地模型服务器对话 你机器上的 Conduit 通过本机或局域网连接到 Ollama、LM Studio,或者像 vLLM、SGLang 这样兼容 OpenAI 的服务器。仅本地模式下,网页搜索和云端索引都会被关闭。 云端提供商 仅本地模式下关闭 Conduit 文档 · 工具 工件 · 搜索 base URL 无需密钥 Ollama LM Studio vLLM · SGLang · 你自己的服务器 你的机器或你的网络
你的服务器负责运行模型;Conduit 是围绕它的应用。开启仅本地模式后,网页搜索和云端 文档索引都会被关闭。

问题

你已经有一个模型在跑了——拉进了 Ollama,加载进了 LM Studio,或者跑在你自己的 vLLM 服务器上。缺的从来不是模型,而是围绕它的一切:一个能搜索历史对话、 附加文件、调用工具,或者不用切换到另一个完全不同的窗口就能用上云端模型的地方。

你能获得什么

你已经在用的引擎,配上一个真正的应用

Conduit 不会碰你的模型文件。它是客户端,你的本地服务器仍然负责真正的推理。

不需要密钥,不产生费用,也不用下载任何东西

Conduit 不会下载或管理模型——它连接到你已经在运行的服务器,所以没有凭据要粘贴,也没有用量要计量。本地模型在成本图表里价格是 $0,因为它们确实不花你一分钱。

是完整的应用,不只是一个聊天框

配合 Ollama 嵌入的文档功能、MCP 工具、工件、技能、保存的提示词、全文搜索、应用和工作流——无论背后的模型跑在你的机器上还是云端,全部一样好用。

按一下键,就能用上云端模型

当某个问题需要前沿模型时,不用离开当前对话就能切换提供商。如果你一直用本地提供商,这个选项就干脆用不上。

查看完整功能列表及其限制

工作原理

把 Conduit 指向你已经拥有的服务器

三个步骤。全程都不需要通过 Conduit 拉取任何模型。

  1. 启动你的本地服务器

    按你平时的方式启动 Ollama、LM Studio,或者你自己的 vLLM、SGLang 服务器,加载或拉取你想用的模型。

  2. 把 Conduit 指向它

    在 Settings → Providers & Keys 中,直接选择 Ollama 或 LM Studio,或者选择兼容 OpenAI 的提供商并粘贴你服务器的 base URL。这两种本地提供商都不需要密钥。

  3. 选择模型,开始对话

    从 Conduit 抓取自你服务器的列表中选择它。文档、MCP 工具、工件,以及应用里的其他一切,都和搭配托管模型时完全一样好用。

选择你的运行方式

三种接入方式,一个设置界面

具体界面截图,以及各自预填的默认值,都在文档里——这里说明的是每一种方式需要你提供什么。

运行方式你需要粘贴什么凭据
Ollama它的 base URL——如果你改过端口或在别处运行,可以编辑不需要——本地
LM Studio它本地服务器的 base URL不需要——本地
任何兼容 OpenAI 的服务器——vLLM、SGLang,或者像 LiteLLM 这样的代理该端点的 base URL可选,仅当该端点需要时

三者都支持编辑 base URL,所以把 Conduit 指向一个非默认端口,或者网络上的另一台机器,只是一次设置修改,不需要重新构建。Conduit 对比 Ollama 自带应用进一步讲了一个独立客户端到底在 Ollama 之上多带来了什么。

限制

它能做什么,不能做什么

每个功能完整的网络流量说明都在隐私页面。

它能做什么

  • 通过各自的 API,直接连接 Ollama、LM Studio,或任何兼容 OpenAI 的服务器——vLLM、SGLang,或代理
  • 仅本地模式一个开关就能关闭网页搜索和云端文档索引
  • 使用本地提供商、并把更新检查保留在手动设置时,完全不发出任何互联网请求
  • 文档可以通过 Ollama 完全在本机完成嵌入,因此搭配本地聊天模型时,一个集合永远不会离开机器
  • MCP 工具、工件、技能、记忆和全文搜索,与搭配云端模型时表现一致
  • 需要时按一下键就能用上云端提供商——你选择的提供商才是负责回答的那一个

它不能做什么

  • 不会下载、安装、更新或管理模型——这些始终由 Ollama、LM Studio 或你自己的服务器负责
  • 不会在纯文本模型上伪造视觉能力——附加的图片会被丢弃,并给出明确原因
  • 不能在本地生成图片——图片生成只能在 OpenAI、Gemini 或 OpenRouter 上运行
  • 不能让小模型拥有大模型的推理能力——速度和质量取决于你的硬件和加载的模型
  • 不能保证一定支持工具调用——这取决于你选择的模型是否经过训练支持调用工具,而不是 Conduit
  • 目前还没有代码签名的安装包——首次启动时预计会看到 SmartScreen 或 Gatekeeper 的提示

关于本地模型的常见问题

Conduit 会在本地运行模型吗?

不会——Conduit 从不自己运行、下载或管理模型权重。它是一个桌面聊天应用,连接到你已经在运行的本地服务器——直接支持 Ollama 或 LM Studio,也支持任何兼容 OpenAI 的端点,比如自托管的 vLLM 或 SGLang。拉取、删除和升级模型都由那个服务器负责,与 Conduit 无关。

Conduit 是一个 Ollama 图形界面吗?

它是运行在 Ollama 之上的客户端,而不是 Ollama 项目自己开发的图形界面。Ollama 仍然需要保持安装并运行——Conduit 调用它的 API 来列出你已拉取的模型,并对它们进行流式对话,不需要额外的密钥或账号。想了解两者各自更适合日常使用的场景,请看Conduit 对比 Ollama 自带应用。

我可以用 Conduit 搭配 LM Studio 吗?

可以。在 Settings 的提供商列表中选择 LM Studio,方式和选择 Ollama 一样——不需要凭据,Conduit 会自动抓取它正在提供的模型。如果没有使用默认设置,把 base URL 字段指向 LM Studio 本地服务器的地址即可。

Conduit 能配合 vLLM 或 SGLang 使用吗?

可以,通过兼容 OpenAI 的提供商——这是 Conduit 提供的第十七家提供商,正是为这种情况设计的。把它指向你服务器的 base URL,只有在你的设置需要时才添加密钥;同样的方式也适用于任何兼容 OpenAI chat completions API 的自托管代理。

仅本地模式真的是离线的吗?

只要选择了本地提供商,并把更新检查保留在默认的手动设置上,就是的——模型运行在你的机器上,仅本地模式还会额外关闭网页搜索和云端文档索引,因此应用里没有其他东西会自行联网。开启后台更新检查,或者选择云端提供商,才会改变这一点。

本地模型能使用工具、识别图片或生成图片吗?

工具调用和视觉能力取决于模型本身,而不是 Conduit——MCP 和内置工具适用于任何其适配器支持工具调用的模型,图片附件也会发给能接受它的模型;像 DeepSeek 这样的纯文本模型,附加的图片会被丢弃并给出明确原因,而不是伪造一个答案。图片生成本身目前只能在 OpenAI、Gemini 或 OpenRouter 上运行,本地模型无法生成图片。

把它指向你已经在运行的模型

免费且开源。无需账号,Ollama 或 LM Studio 都不需要密钥。

这是一个发布候选版本:安装包尚未通过操作系统级代码签名,首次启动时可能会看到 SmartScreen 或 Gatekeeper 的提示。