> Markdown twin of https://conduitllm.com/ko/use-cases/local-llm.html > Ollama, LM Studio, vLLM 모델을 위한 데스크톱 채팅 앱. 키도 청구서도 없이 클라우드 모델과 똑같이 작동합니다. --- 1. [Conduit](https://conduitllm.com/ko/) 2. [사용 사례](https://conduitllm.com/ko/use-cases.html) 3. 로컬 모델 로컬 모델 사용자를 위해 # 로컬 모델에, *제대로 된 앱*을 더하다 Conduit는 모델을 실행하거나, 내려받거나, 관리하지 않습니다 — 이미 실행 중인 로컬 서버에 연결하는 데스크톱 앱입니다: Ollama나 LM Studio에 직접, 또는 자체 호스팅한 vLLM이나 SGLang 서버 같은 모든 OpenAI 호환 엔드포인트에요. 키도, 청구서도 없고, 앱의 나머지 부분 — 문서, MCP 도구, 아티팩트, 스킬, 메모리 — 은 클라우드 모델과 똑같이 작동합니다. [Conduit 다운로드](https://conduitllm.com/ko/#get) 어떤 런타임이 맞는지 보기 - 로컬 모델은 키도 청구서도 없음 - 인터넷 없이도 실행 가능 - Ollama, LM Studio, 모든 OpenAI 호환 엔드포인트 내 서버가 모델을 실행하고, Conduit는 그 주변의 앱입니다. 로컬 전용 모드를 켜면 웹 검색과 클라우드 문서 색인이 꺼집니다. 문제 이미 모델이 실행 중입니다 — Ollama에 받아 두었거나, LM Studio에 올려 두었거나, 자체 vLLM 서버에서 서빙 중입니다. 빠진 것은 모델이 아닙니다. 그 주변의 모든 것입니다 — 예전 대화를 검색하고, 파일을 첨부하고, 도구를 호출하고, 전혀 다른 창으로 옮기지 않고도 클라우드 모델에 닿을 곳입니다. 얻는 것 ## 이미 실행 중인 엔진에, 진짜 앱을 더하다 Conduit는 모델 파일을 건드리지 않습니다. Conduit는 클라이언트이고, 로컬 서버는 여전히 추론을 담당합니다. ### 키도, 청구서도, 받을 것도 없음 Conduit는 모델을 내려받거나 관리하지 않습니다 — 이미 실행 중인 서버에 연결할 뿐이라 붙여넣을 자격 증명도, 계량할 사용량도 없습니다. 로컬 모델은 비용 차트에서 $0으로 표시됩니다. 실제로 비용이 들지 않기 때문입니다. ### 단순한 채팅창이 아니라 앱 전체 Ollama 임베딩을 쓰는 문서, MCP 도구, 아티팩트, 스킬, 저장된 프롬프트, 전체 텍스트 검색, 앱, 워크플로 — 뒤에 있는 모델이 내 컴퓨터든 클라우드든 모두 똑같이 작동합니다. ### 키 입력 한 번이면 클라우드 모델 프론티어 모델이 필요한 질문이 나오면 대화를 떠나지 않고 제공업체를 전환하세요. 로컬 제공업체에 머문다면 그 옵션은 그냥 쓰이지 않을 뿐입니다. [제한 사항까지 포함한 모든 기능](https://conduitllm.com/features.html) 작동 방식 ## 이미 가진 서버를 Conduit가 가리키게 하세요 세 단계입니다. Conduit 자체를 거쳐 모델을 내려받는 과정은 어디에도 없습니다. ### 로컬 서버 시작하기 평소처럼 Ollama, LM Studio, 또는 자체 vLLM이나 SGLang 서버를 원하는 모델을 로드하거나 받은 상태로 실행하세요. ### Conduit가 그것을 가리키게 하기 **Settings → Providers & Keys**에서 Ollama나 LM Studio를 직접 고르거나, OpenAI 호환 제공업체를 골라 서버의 base URL을 붙여넣으세요. 두 로컬 제공업체 모두 키가 필요 없습니다. ### 모델을 고르고 대화 시작하기 Conduit가 서버에서 가져온 목록에서 고르세요. 문서, MCP 도구, 아티팩트를 비롯한 앱의 나머지 모든 것이 호스팅형 모델과 똑같이 작동합니다. 런타임 고르기 ## 세 가지 진입 경로, 하나의 설정 화면 정확한 화면과 미리 채워진 기본값은 [문서](https://conduitllm.com/ko/docs.html#first-run)에 있습니다 — 여기서는 각 경로에 무엇이 필요한지만 정리했습니다. | 런타임 | 붙여넣을 것 | 자격 증명 | | --- | --- | --- | | Ollama | base URL — 포트를 바꿨거나 다른 곳에서 실행 중이면 수정 가능 | 없음 — 로컬 | | LM Studio | 로컬 서버의 base URL | 없음 — 로컬 | | 모든 OpenAI 호환 서버 — vLLM, SGLang, LiteLLM 같은 프록시 | 해당 엔드포인트의 base URL | 선택 사항, 엔드포인트가 요구할 때만 | 세 가지 모두 base URL을 수정할 수 있는 제공업체이므로, Conduit를 기본이 아닌 포트나 네트워크의 다른 컴퓨터로 가리키는 것은 재빌드가 아니라 설정 변경입니다. [Conduit 대 Ollama 자체 앱](https://conduitllm.com/compare/ollama.html)에서 별도 클라이언트가 Ollama 위에 구체적으로 무엇을 더하는지 더 자세히 다룹니다. 제한 사항 ## 할 수 있는 것과 할 수 없는 것 모든 기능에 대한 전체 네트워크 분석은 [개인정보 페이지](https://conduitllm.com/ko/privacy.html)에 있습니다. ### 할 수 있는 것 - Ollama, LM Studio, 또는 vLLM·SGLang·프록시 같은 모든 OpenAI 호환 서버에 각자의 API로 직접 연결 - 로컬 전용 모드 토글 하나로 웹 검색과 클라우드 문서 색인을 함께 끔 - 로컬 제공업체를 쓰고 업데이트 확인을 수동으로 두면 인터넷 요청을 전혀 만들지 않음 - Ollama로 문서를 완전히 온디바이스로 임베딩 가능 — 로컬 채팅 모델과 함께라면 컬렉션이 컴퓨터 밖으로 절대 나가지 않음 - MCP 도구, 아티팩트, 스킬, 메모리, 전체 텍스트 검색이 클라우드 모델과 똑같이 작동 - 원할 때는 키 입력 한 번으로 클라우드 제공업체 사용 가능 — 답하는 것은 선택한 제공업체입니다 ### 할 수 없는 것 - 모델을 내려받거나, 설치하거나, 업데이트하거나, 관리하지 않습니다 — 이는 Ollama, LM Studio, 또는 자체 서버의 몫입니다 - 텍스트 전용 모델에서 vision을 가짜로 만들지 않습니다 — 첨부된 이미지는 이유와 함께 버려집니다 - 로컬에서 이미지를 생성하지 않습니다 — 이미지 생성은 OpenAI, Gemini, OpenRouter에서만 실행됩니다 - 작은 모델을 큰 모델처럼 추론하게 만들지 않습니다 — 속도와 품질은 하드웨어와 로드한 모델에 달려 있습니다 - 도구 호출을 보장하지 않습니다 — 이는 고른 모델이 애초에 도구 호출을 학습했는지에 달려 있습니다 - 아직 코드 서명된 설치 프로그램을 제공하지 않습니다 — 첫 실행 시 SmartScreen이나 Gatekeeper 경고를 예상하세요 ## 로컬 모델 관련 질문 **Conduit는 모델을 로컬에서 실행하나요?** 아니요 — Conduit는 모델 가중치를 직접 실행하거나 내려받거나 관리하지 않습니다. 이미 실행 중인 로컬 서버에 연결하는 데스크톱 채팅 앱입니다 — Ollama나 LM Studio에 직접, 또는 자체 호스팅한 vLLM이나 SGLang 서버 같은 모든 OpenAI 호환 엔드포인트에요. 모델을 받고, 지우고, 업그레이드하는 일은 Conduit가 아니라 그 서버의 몫입니다. **Conduit는 Ollama용 GUI인가요?** Ollama 프로젝트 자체가 만든 GUI가 아니라, Ollama 위에 올라가는 클라이언트입니다. Ollama는 설치되고 실행 중이어야 하며 — Conduit는 그 API를 호출해 내려받은 모델 목록을 가져오고 별도의 키나 계정 없이 스트리밍 채팅을 합니다. 어느 쪽이 매일 쓰기에 더 나은지는 [Conduit 대 Ollama 자체 앱](https://conduitllm.com/compare/ollama.html)을 참고하세요. **LM Studio와 함께 Conduit를 쓸 수 있나요?** 네. Settings의 제공업체 목록에서 Ollama와 같은 방식으로 LM Studio를 고르세요 — 자격 증명이 필요 없고, Conduit는 서빙 중인 모델을 그대로 가져옵니다. 기본값을 쓰지 않는다면 base URL 필드를 LM Studio의 로컬 서버 주소로 맞추세요. **Conduit는 vLLM이나 SGLang과도 작동하나요?** 네, OpenAI 호환 제공업체를 통해서요 — 바로 이런 경우를 위해 만들어진, Conduit가 제공하는 17번째 제공업체입니다. 서버의 base URL을 입력하고 필요한 경우에만 키를 추가하세요. 같은 경로가 OpenAI chat completions API를 따르는 모든 자체 호스팅 프록시를 지원합니다. **로컬 전용 모드는 정말로 오프라인인가요?** 로컬 제공업체를 선택하고 업데이트 확인을 기본값인 수동으로 둔다면 그렇습니다 — 모델은 사용자의 컴퓨터에서 실행되고, 로컬 전용 모드는 추가로 웹 검색과 클라우드 문서 색인을 끄므로 앱의 다른 어떤 부분도 스스로 밖으로 나가지 않습니다. 백그라운드 업데이트 확인을 켜거나 클라우드 제공업체를 고르면 그 상태가 바뀝니다. **로컬 모델도 도구를 쓰거나, 이미지를 보거나, 그림을 생성할 수 있나요?** 도구 사용과 vision은 Conduit가 아니라 모델에 달려 있습니다 — MCP와 기본 내장 도구는 도구 호출을 지원하는 어댑터를 가진 모델이라면 어디서나 작동하고, 첨부된 이미지는 이를 받아들이는 모델로 전달됩니다. DeepSeek 같은 텍스트 전용 모델에서는 첨부 이미지가 이유와 함께 버려질 뿐 가짜 답이 나오지 않습니다. 이미지 생성 자체는 오늘은 OpenAI, Gemini, OpenRouter에서만 실행되며 로컬 모델에서는 실행되지 않습니다. 관련 콘텐츠 ## Conduit를 쓰는 또 다른 방식 AI를 많이 쓰는 사람을 위해 ### 좌석이 아니라 토큰 단위로 지불하세요 로컬 모델만으로 부족한 날을 위한, 모든 호스팅형 제공업체용 나만의 API 키. [BYOK 알아보기](https://conduitllm.com/ko/use-cases/bring-your-own-key.html) 개발자를 위해 ### 먼저 물어보는 MCP 클라이언트 로컬 및 원격 서버, OAuth, 도구가 할 수 있는 일에 따라 등급이 나뉘는 동의 — 할 일이 있는 로컬 모델을 위해. MCP 클라이언트로서의 Conduit 리서치와 분석을 위해 ### 내 파일에 물어보세요 Ollama 임베딩으로 컬렉션을 색인하면 검색도 채팅 모델만큼 로컬로 유지됩니다. 문서와 대화하기 알아보기 ## 이미 실행 중인 모델을 가리키세요 무료 오픈소스입니다. 계정도, Ollama나 LM Studio용 키도 필요 없습니다. [Conduit 다운로드](https://conduitllm.com/ko/#get) [설정 문서 읽기](https://conduitllm.com/ko/docs.html) Release candidate입니다. 설치 프로그램은 아직 OS 코드 서명이 되어 있지 않아 첫 실행 시 SmartScreen이나 Gatekeeper 경고가 뜰 수 있습니다.