키도, 청구서도, 받을 것도 없음
Conduit는 모델을 내려받거나 관리하지 않습니다 — 이미 실행 중인 서버에 연결할 뿐이라 붙여넣을 자격 증명도, 계량할 사용량도 없습니다. 로컬 모델은 비용 차트에서 $0으로 표시됩니다. 실제로 비용이 들지 않기 때문입니다.
로컬 모델 사용자를 위해
Conduit는 모델을 실행하거나, 내려받거나, 관리하지 않습니다 — 이미 실행 중인 로컬 서버에 연결하는 데스크톱 앱입니다: Ollama나 LM Studio에 직접, 또는 자체 호스팅한 vLLM이나 SGLang 서버 같은 모든 OpenAI 호환 엔드포인트에요. 키도, 청구서도 없고, 앱의 나머지 부분 — 문서, MCP 도구, 아티팩트, 스킬, 메모리 — 은 클라우드 모델과 똑같이 작동합니다.
문제
이미 모델이 실행 중입니다 — Ollama에 받아 두었거나, LM Studio에 올려 두었거나, 자체 vLLM 서버에서 서빙 중입니다. 빠진 것은 모델이 아닙니다. 그 주변의 모든 것입니다 — 예전 대화를 검색하고, 파일을 첨부하고, 도구를 호출하고, 전혀 다른 창으로 옮기지 않고도 클라우드 모델에 닿을 곳입니다.
얻는 것
Conduit는 모델 파일을 건드리지 않습니다. Conduit는 클라이언트이고, 로컬 서버는 여전히 추론을 담당합니다.
Conduit는 모델을 내려받거나 관리하지 않습니다 — 이미 실행 중인 서버에 연결할 뿐이라 붙여넣을 자격 증명도, 계량할 사용량도 없습니다. 로컬 모델은 비용 차트에서 $0으로 표시됩니다. 실제로 비용이 들지 않기 때문입니다.
Ollama 임베딩을 쓰는 문서, MCP 도구, 아티팩트, 스킬, 저장된 프롬프트, 전체 텍스트 검색, 앱, 워크플로 — 뒤에 있는 모델이 내 컴퓨터든 클라우드든 모두 똑같이 작동합니다.
프론티어 모델이 필요한 질문이 나오면 대화를 떠나지 않고 제공업체를 전환하세요. 로컬 제공업체에 머문다면 그 옵션은 그냥 쓰이지 않을 뿐입니다.
작동 방식
세 단계입니다. Conduit 자체를 거쳐 모델을 내려받는 과정은 어디에도 없습니다.
평소처럼 Ollama, LM Studio, 또는 자체 vLLM이나 SGLang 서버를 원하는 모델을 로드하거나 받은 상태로 실행하세요.
Settings → Providers & Keys에서 Ollama나 LM Studio를 직접 고르거나, OpenAI 호환 제공업체를 골라 서버의 base URL을 붙여넣으세요. 두 로컬 제공업체 모두 키가 필요 없습니다.
Conduit가 서버에서 가져온 목록에서 고르세요. 문서, MCP 도구, 아티팩트를 비롯한 앱의 나머지 모든 것이 호스팅형 모델과 똑같이 작동합니다.
| 런타임 | 붙여넣을 것 | 자격 증명 |
|---|---|---|
| Ollama | base URL — 포트를 바꿨거나 다른 곳에서 실행 중이면 수정 가능 | 없음 — 로컬 |
| LM Studio | 로컬 서버의 base URL | 없음 — 로컬 |
| 모든 OpenAI 호환 서버 — vLLM, SGLang, LiteLLM 같은 프록시 | 해당 엔드포인트의 base URL | 선택 사항, 엔드포인트가 요구할 때만 |
세 가지 모두 base URL을 수정할 수 있는 제공업체이므로, Conduit를 기본이 아닌 포트나 네트워크의 다른 컴퓨터로 가리키는 것은 재빌드가 아니라 설정 변경입니다. Conduit 대 Ollama 자체 앱에서 별도 클라이언트가 Ollama 위에 구체적으로 무엇을 더하는지 더 자세히 다룹니다.
관련 콘텐츠
무료 오픈소스입니다. 계정도, Ollama나 LM Studio용 키도 필요 없습니다.
Release candidate입니다. 설치 프로그램은 아직 OS 코드 서명이 되어 있지 않아 첫 실행 시 SmartScreen이나 Gatekeeper 경고가 뜰 수 있습니다.