로컬에서 LLM을 쉽게 다운로드하고 실행할 수 있는 GUI 도구. llama.cpp 기반으로 동작하며, 초보자도 쉽게 로컬 추론을 시작할 수 있다.

주요 특징

  • 원클릭 모델 다운로드: Hugging Face 모델을 GUI에서 검색·다운로드
  • 로컬 API 서버: OpenAI 호환 HTTP API로 에이전트 연결
  • Hermes Agent 연동: Hermes에서 직접 연결 가능

사용 사례

“누구나 시도해봐야 한다” — @vmiss33은 로컬 추론의 진입 장벽을 낮추는 도구로 LM Studio를 추천.

크로스 레퍼런스