기술
Ollama로 로컬 LLM 서빙 — deepseek-r1 14B를 실제 프로덕션에 쓰는 법
3-tier fallback(Oracle→Old Mac→New Mac) 구조로 Ollama를 프로덕션에서 운영하는 실제 구성. nomic-embed-text 임베딩과 HTTP 11434 포트 운영 팁.
#Ollama#LLM#deepseek#임베딩#Fallback
Loading...
블로그 태그
#deepseek 태그가 붙은 GRAXEL 글 1개를 모았습니다. 관련 주제를 이어서 살펴보세요.
3-tier fallback(Oracle→Old Mac→New Mac) 구조로 Ollama를 프로덕션에서 운영하는 실제 구성. nomic-embed-text 임베딩과 HTTP 11434 포트 운영 팁.