2026-04-15에 Telegram에 저장해 둔 AI 챗봇 답변 3건과 링크 1건을 정리했다. 답변 속 수치는 2026-04 시점 주장이고, 저장소·모델 존재와 핵심 스펙은 2026-10-04에 GitHub API와 Hugging Face·Ollama 페이지로 다시 확인했다. 답변과 실제가 다른 곳은 따로 표시했다.

질문

한국어 문서로 로컬(Ollama 등) GraphRAG를 만들려면 어떤 오픈소스 프로젝트에서 시작하고, 어떤 임베딩 모델을 써야 하나?

한 줄 결론

  • 프로젝트: 처음부터 쓸 거라면 활발히 관리되는 LightRAG나 microsoft/graphrag를 쓰고, 코드를 뜯어고칠 생각이면 nano-graphrag가 낫다. 답변이 “제일 먼저 클론하라”고 한 GraphRAG-Local-UI는 2024-11 이후 갱신이 없다.
  • 임베딩: 한국어 비중이 높으면 BGE-m3 계열(원본 또는 한국어 파인튜닝), 긴 문서·다국어 혼합이면 Qwen3-Embedding-0.6B를 먼저 시험해 볼 만하다. 순위는 한국어 리더보드(2026-07-26-pytorchkr-topic-11416-ko-embedding-leaderboard)와 자기 데이터로 직접 확인한다.

로컬 GraphRAG 프로젝트 (2026-10-04 확인)

프로젝트Stars (답변 → 실제)마지막 push메모
microsoft/graphrag32.2k+ → 36.2k2026-09-28원조 구현. 엔티티·관계 추출 → 커뮤니티 계층 → global/local search. 기본은 OpenAI라 Ollama·vLLM로 쓰려면 설정 수정 필요
HKUDS/LightRAG(미기재) → 약 40.0k2026-10-03지금은 microsoft/graphrag보다 별이 많다. 그래프+임베딩 하이브리드, 증분 업데이트, Ollama 예제. 논문 arXiv 2410.05779. 답변의 “EMNLP 2025”는 README에서 확인하지 못함
gusye1234/nano-graphrag3.8k+ → 4.0k2026-01-27공식 구현보다 훨씬 작고 읽기 쉬움. NetworkX/Neo4j, Faiss/Milvus, Ollama 지원
circlemind-ai/fast-graphrag3.8k+ → 4.0k2025-11-01에이전트 주도 검색, 해석 가능·프롬프트 조정 가능. 1년 가까이 push 없음
severian42/GraphRAG-Local-UI2.3k+ → 2.3k2024-11-09Gradio UI(인덱싱·프롬프트 튜닝·채팅·시각화). 사실상 관리 중단
DEEP-PolyU/Awesome-GraphRAG— → 2.7k2026-06-02논문·벤치마크·오픈소스 큐레이션 목록

모두 MIT 라이선스다. 답변이 권한 순서는 “GraphRAG-Local-UI로 UI부터 → nano-graphrag나 LightRAG로 이전 → Claude에게 Neo4j·Ollama·Gradio 하이브리드로 확장 요청”이었다. 지금 다시 고른다면 첫 단계는 관리되지 않는 UI 포크보다 LightRAG(자체 Web UI·API 서버 포함) 쪽이 안전하다. GraphRAG 원리와 다른 구현 비교는 2026-03-29-graphrag-overview에 있다.

한국어 임베딩 후보

모델파라미터 (HF 확인)답변의 주장확인·정정
BAAI/bge-m3약 568M1024차원, 최대 8192토큰, Dense·Sparse·Multi-vector 동시 지원. 1순위 추천MIT. 기본 선택지로 무난
dragonkue/BGE-m3-ko약 568Mbge-m3 한국어 파인튜닝, “가벼워서 빠름”Apache-2.0. 원본과 크기가 같다. 가볍지 않다
upskyy/bge-m3-korean약 568M(링크 메모) Ollama bona/bge-m3-koreanOllama 패키지는 1.2GB, 8K 컨텍스트, 약 1년 전 갱신. dragonkue와 다른 한국어 파인튜닝이다
intfloat/multilingual-e5-large-instruct약 560Minstruction-tuned, 한·영 혼합에 강함질의에 지시문(prefix)을 붙여야 성능이 난다
jhgan/ko-sroberta-multitask약 111M768차원, “약 1.0GB”fp32로도 약 0.44GB. CPU만으로 충분한 한국어 전용 SBERT
dragonkue/multilingual-e5-small-ko약 118M초경량Apache-2.0. 저사양 인덱싱용
Qwen/Qwen3-Embedding-0.6B / 4B / 8B0.6B / 4B / 8B119개 언어, 32K 컨텍스트, 8B가 MTEB 다국어 1위(70.58), “prefix 없이도 잘 작동”2025-06 공개, Apache-2.0. 모델 카드는 “100+ languages”, 32K 맞음. 70.58·1위는 2025-06-05 기준이다. 카드는 질의 쪽 instruct를 빼면 검색 성능이 1~5% 떨어진다고 적어 “prefix 불필요”와 반대다. 0.6B는 출력 차원 최대 1024(32~1024 조절)

Ollama에서는 qwen3-embedding:0.6b/4b/8b와 bona/bge-m3-korean을 바로 받을 수 있다(ollama). Qwen 계열 전반은 qwen 참고.

확인하지 못한 주장

  • Qwen3-0.6B가 BGE-m3보다 MMTEB +8.0%, MTEB English +18.7% 앞선다는 수치
  • “4B는 bge보다 NDCG@10이 2~3포인트 좋다”는 Reddit/LocalLLaMA 후기
  • 모델별 VRAM 추정치(8B ~16GB+, 0.6B 46GB, Q4 ~2GB 등)
  • 답변 스스로도 “0.6B는 실제 데이터셋에서 bge-m3와 비슷하거나 약간 뒤지는 사례가 있다”고 단서를 달았다

고르는 기준

상황후보
한국어 문서가 대부분BGE-m3 한국어 파인튜닝(dragonkue 또는 upskyy) → 원본 bge-m3와 자기 데이터로 비교
한·영 혼합, 긴 문서Qwen3-Embedding-0.6B(질의에 instruct 붙이기) 또는 multilingual-e5-large-instruct
CPU뿐이거나 빠른 프로토타입ko-sroberta-multitask, multilingual-e5-small-ko
GPU 여유, 최고 성능Qwen3-Embedding-4B/8B

GraphRAG에서 임베딩은 청크 검색과 엔티티 설명 매칭에 쓰이고, 엔티티·관계 추출 품질은 LLM 쪽이 좌우한다. 임베딩만 바꿔서는 그래프 품질이 크게 달라지지 않을 수 있으니, 한국어 추출 성능이 괜찮은 로컬 LLM도 함께 골라야 한다.

출처 메모

  • 원자료는 Telegram 저장 메시지 4건(message_id 42499833856, 42516611072, 42517659648, 42528145408)이다. 앞의 3건은 작성 모델을 알 수 없는 AI 챗봇 답변이고, 42517659648은 원문 자체가 문장 중간에서 끊겨 있다.
  • Stars·push 날짜는 2026-10-04 GitHub API, 파라미터·라이선스·공개일은 Hugging Face API·모델 카드, Ollama 정보는 ollama.com 페이지 기준이다.