출처: https://x.com/tamanekokoro/status/2108150933368779014 (@tamanekokoro, 일본어 반응) — 인용한 @underdogdotai 발표 기준 모델: ConwayResearch/Underdog-Saluki-27B-1.0 · Apache-2.0 · 2비트 GGUF(llama.cpp) · 2026-10-08 공개

개요

Underdog이 qwen 3.8 27B를 바탕으로 만든 경량 모델이다. 발표 내용은 다음과 같다.

  • 원래 정밀도 모델보다 약 7배 작다(8GB 미만).
  • 벤치마크 성능의 96%를 유지한다.
  • 도구 호출에서는 원본 Qwen을 앞선다고 주장한다.
  • Underdog 앱에서 돌아가는 8GB 미만 모델 가운데 가장 좋다고 한다.

Hugging Face 태그로 보면 2비트 GGUF이고, 기반은 ISTA-DASLab의 Qwen3.8-27B GSQ-RCO 양자화 GGUF다. 도구 호출·에이전트 용도를 내세운다. 공개 직후 MTP(추측 디코딩용) GGUF 파생본도 나왔다.

게시자는 “VRAM 8GB 미만에서 원래 성능 96%, 도구 호출은 순정 이상?”이라며 놀라움을 나타냈다.

메모

  • 96%·도구 호출 우위는 제작사 측정이다. 어떤 벤치마크의 평균인지는 캡처에 나오지 않는다.
  • 같은 Qwen 3.8 27B를 로컬에서 돌린 사례는 2026-09-10-threads-qwen3-8-27b-local-pi, 로컬 모델 전반은 moc-ai-models 참고.