1. Conduit
  2. 사용 사례
  3. 로컬 모델

로컬 모델 사용자를 위해

로컬 모델에, 제대로 된 앱을 더하다

Conduit는 모델을 실행하거나, 내려받거나, 관리하지 않습니다 — 이미 실행 중인 로컬 서버에 연결하는 데스크톱 앱입니다: Ollama나 LM Studio에 직접, 또는 자체 호스팅한 vLLM이나 SGLang 서버 같은 모든 OpenAI 호환 엔드포인트에요. 키도, 청구서도 없고, 앱의 나머지 부분 — 문서, MCP 도구, 아티팩트, 스킬, 메모리 — 은 클라우드 모델과 똑같이 작동합니다.

  • 로컬 모델은 키도 청구서도 없음
  • 인터넷 없이도 실행 가능
  • Ollama, LM Studio, 모든 OpenAI 호환 엔드포인트
Conduit가 로컬 모델 서버와 통신하는 방식 사용자의 컴퓨터에 있는 Conduit는 자신의 컴퓨터나 네트워크를 통해 Ollama, LM Studio, 또는 vLLM이나 SGLang 같은 OpenAI 호환 서버에 연결됩니다. 웹 검색과 클라우드 색인은 로컬 전용 모드에서 꺼집니다. 클라우드 제공업체 로컬 전용 모드에서 꺼짐 Conduit 문서 · 도구 아티팩트 · 검색 base URL 키 없음 Ollama LM Studio vLLM · SGLang · 나만의 서버 내 컴퓨터 또는 내 네트워크
내 서버가 모델을 실행하고, Conduit는 그 주변의 앱입니다. 로컬 전용 모드를 켜면 웹 검색과 클라우드 문서 색인이 꺼집니다.

문제

이미 모델이 실행 중입니다 — Ollama에 받아 두었거나, LM Studio에 올려 두었거나, 자체 vLLM 서버에서 서빙 중입니다. 빠진 것은 모델이 아닙니다. 그 주변의 모든 것입니다 — 예전 대화를 검색하고, 파일을 첨부하고, 도구를 호출하고, 전혀 다른 창으로 옮기지 않고도 클라우드 모델에 닿을 곳입니다.

얻는 것

이미 실행 중인 엔진에, 진짜 앱을 더하다

Conduit는 모델 파일을 건드리지 않습니다. Conduit는 클라이언트이고, 로컬 서버는 여전히 추론을 담당합니다.

키도, 청구서도, 받을 것도 없음

Conduit는 모델을 내려받거나 관리하지 않습니다 — 이미 실행 중인 서버에 연결할 뿐이라 붙여넣을 자격 증명도, 계량할 사용량도 없습니다. 로컬 모델은 비용 차트에서 $0으로 표시됩니다. 실제로 비용이 들지 않기 때문입니다.

단순한 채팅창이 아니라 앱 전체

Ollama 임베딩을 쓰는 문서, MCP 도구, 아티팩트, 스킬, 저장된 프롬프트, 전체 텍스트 검색, 앱, 워크플로 — 뒤에 있는 모델이 내 컴퓨터든 클라우드든 모두 똑같이 작동합니다.

키 입력 한 번이면 클라우드 모델

프론티어 모델이 필요한 질문이 나오면 대화를 떠나지 않고 제공업체를 전환하세요. 로컬 제공업체에 머문다면 그 옵션은 그냥 쓰이지 않을 뿐입니다.

제한 사항까지 포함한 모든 기능

작동 방식

이미 가진 서버를 Conduit가 가리키게 하세요

세 단계입니다. Conduit 자체를 거쳐 모델을 내려받는 과정은 어디에도 없습니다.

  1. 로컬 서버 시작하기

    평소처럼 Ollama, LM Studio, 또는 자체 vLLM이나 SGLang 서버를 원하는 모델을 로드하거나 받은 상태로 실행하세요.

  2. Conduit가 그것을 가리키게 하기

    Settings → Providers & Keys에서 Ollama나 LM Studio를 직접 고르거나, OpenAI 호환 제공업체를 골라 서버의 base URL을 붙여넣으세요. 두 로컬 제공업체 모두 키가 필요 없습니다.

  3. 모델을 고르고 대화 시작하기

    Conduit가 서버에서 가져온 목록에서 고르세요. 문서, MCP 도구, 아티팩트를 비롯한 앱의 나머지 모든 것이 호스팅형 모델과 똑같이 작동합니다.

런타임 고르기

세 가지 진입 경로, 하나의 설정 화면

정확한 화면과 미리 채워진 기본값은 문서에 있습니다 — 여기서는 각 경로에 무엇이 필요한지만 정리했습니다.

런타임붙여넣을 것자격 증명
Ollamabase URL — 포트를 바꿨거나 다른 곳에서 실행 중이면 수정 가능없음 — 로컬
LM Studio로컬 서버의 base URL없음 — 로컬
모든 OpenAI 호환 서버 — vLLM, SGLang, LiteLLM 같은 프록시해당 엔드포인트의 base URL선택 사항, 엔드포인트가 요구할 때만

세 가지 모두 base URL을 수정할 수 있는 제공업체이므로, Conduit를 기본이 아닌 포트나 네트워크의 다른 컴퓨터로 가리키는 것은 재빌드가 아니라 설정 변경입니다. Conduit 대 Ollama 자체 앱에서 별도 클라이언트가 Ollama 위에 구체적으로 무엇을 더하는지 더 자세히 다룹니다.

제한 사항

할 수 있는 것과 할 수 없는 것

모든 기능에 대한 전체 네트워크 분석은 개인정보 페이지에 있습니다.

할 수 있는 것

  • Ollama, LM Studio, 또는 vLLM·SGLang·프록시 같은 모든 OpenAI 호환 서버에 각자의 API로 직접 연결
  • 로컬 전용 모드 토글 하나로 웹 검색과 클라우드 문서 색인을 함께 끔
  • 로컬 제공업체를 쓰고 업데이트 확인을 수동으로 두면 인터넷 요청을 전혀 만들지 않음
  • Ollama로 문서를 완전히 온디바이스로 임베딩 가능 — 로컬 채팅 모델과 함께라면 컬렉션이 컴퓨터 밖으로 절대 나가지 않음
  • MCP 도구, 아티팩트, 스킬, 메모리, 전체 텍스트 검색이 클라우드 모델과 똑같이 작동
  • 원할 때는 키 입력 한 번으로 클라우드 제공업체 사용 가능 — 답하는 것은 선택한 제공업체입니다

할 수 없는 것

  • 모델을 내려받거나, 설치하거나, 업데이트하거나, 관리하지 않습니다 — 이는 Ollama, LM Studio, 또는 자체 서버의 몫입니다
  • 텍스트 전용 모델에서 vision을 가짜로 만들지 않습니다 — 첨부된 이미지는 이유와 함께 버려집니다
  • 로컬에서 이미지를 생성하지 않습니다 — 이미지 생성은 OpenAI, Gemini, OpenRouter에서만 실행됩니다
  • 작은 모델을 큰 모델처럼 추론하게 만들지 않습니다 — 속도와 품질은 하드웨어와 로드한 모델에 달려 있습니다
  • 도구 호출을 보장하지 않습니다 — 이는 고른 모델이 애초에 도구 호출을 학습했는지에 달려 있습니다
  • 아직 코드 서명된 설치 프로그램을 제공하지 않습니다 — 첫 실행 시 SmartScreen이나 Gatekeeper 경고를 예상하세요

로컬 모델 관련 질문

Conduit는 모델을 로컬에서 실행하나요?
아니요 — Conduit는 모델 가중치를 직접 실행하거나 내려받거나 관리하지 않습니다. 이미 실행 중인 로컬 서버에 연결하는 데스크톱 채팅 앱입니다 — Ollama나 LM Studio에 직접, 또는 자체 호스팅한 vLLM이나 SGLang 서버 같은 모든 OpenAI 호환 엔드포인트에요. 모델을 받고, 지우고, 업그레이드하는 일은 Conduit가 아니라 그 서버의 몫입니다.
Conduit는 Ollama용 GUI인가요?
Ollama 프로젝트 자체가 만든 GUI가 아니라, Ollama 위에 올라가는 클라이언트입니다. Ollama는 설치되고 실행 중이어야 하며 — Conduit는 그 API를 호출해 내려받은 모델 목록을 가져오고 별도의 키나 계정 없이 스트리밍 채팅을 합니다. 어느 쪽이 매일 쓰기에 더 나은지는 Conduit 대 Ollama 자체 앱을 참고하세요.
LM Studio와 함께 Conduit를 쓸 수 있나요?
네. Settings의 제공업체 목록에서 Ollama와 같은 방식으로 LM Studio를 고르세요 — 자격 증명이 필요 없고, Conduit는 서빙 중인 모델을 그대로 가져옵니다. 기본값을 쓰지 않는다면 base URL 필드를 LM Studio의 로컬 서버 주소로 맞추세요.
Conduit는 vLLM이나 SGLang과도 작동하나요?
네, OpenAI 호환 제공업체를 통해서요 — 바로 이런 경우를 위해 만들어진, Conduit가 제공하는 17번째 제공업체입니다. 서버의 base URL을 입력하고 필요한 경우에만 키를 추가하세요. 같은 경로가 OpenAI chat completions API를 따르는 모든 자체 호스팅 프록시를 지원합니다.
로컬 전용 모드는 정말로 오프라인인가요?
로컬 제공업체를 선택하고 업데이트 확인을 기본값인 수동으로 둔다면 그렇습니다 — 모델은 사용자의 컴퓨터에서 실행되고, 로컬 전용 모드는 추가로 웹 검색과 클라우드 문서 색인을 끄므로 앱의 다른 어떤 부분도 스스로 밖으로 나가지 않습니다. 백그라운드 업데이트 확인을 켜거나 클라우드 제공업체를 고르면 그 상태가 바뀝니다.
로컬 모델도 도구를 쓰거나, 이미지를 보거나, 그림을 생성할 수 있나요?
도구 사용과 vision은 Conduit가 아니라 모델에 달려 있습니다 — MCP와 기본 내장 도구는 도구 호출을 지원하는 어댑터를 가진 모델이라면 어디서나 작동하고, 첨부된 이미지는 이를 받아들이는 모델로 전달됩니다. DeepSeek 같은 텍스트 전용 모델에서는 첨부 이미지가 이유와 함께 버려질 뿐 가짜 답이 나오지 않습니다. 이미지 생성 자체는 오늘은 OpenAI, Gemini, OpenRouter에서만 실행되며 로컬 모델에서는 실행되지 않습니다.

이미 실행 중인 모델을 가리키세요

무료 오픈소스입니다. 계정도, Ollama나 LM Studio용 키도 필요 없습니다.

Release candidate입니다. 설치 프로그램은 아직 OS 코드 서명이 되어 있지 않아 첫 실행 시 SmartScreen이나 Gatekeeper 경고가 뜰 수 있습니다.