2026-04-15에 Telegram에 저장해 둔 AI 챗봇 답변 3건과 링크 1건을 정리했다. 답변 속 수치는 2026-04 시점 주장이고, 저장소·모델 존재와 핵심 스펙은 2026-10-04에 GitHub API와 Hugging Face·Ollama 페이지로 다시 확인했다. 답변과 실제가 다른 곳은 따로 표시했다.
질문
한국어 문서로 로컬(Ollama 등) GraphRAG를 만들려면 어떤 오픈소스 프로젝트에서 시작하고, 어떤 임베딩 모델을 써야 하나?
한 줄 결론
- 프로젝트: 처음부터 쓸 거라면 활발히 관리되는 LightRAG나 microsoft/graphrag를 쓰고, 코드를 뜯어고칠 생각이면 nano-graphrag가 낫다. 답변이 “제일 먼저 클론하라”고 한 GraphRAG-Local-UI는 2024-11 이후 갱신이 없다.
- 임베딩: 한국어 비중이 높으면 BGE-m3 계열(원본 또는 한국어 파인튜닝), 긴 문서·다국어 혼합이면 Qwen3-Embedding-0.6B를 먼저 시험해 볼 만하다. 순위는 한국어 리더보드(2026-07-26-pytorchkr-topic-11416-ko-embedding-leaderboard)와 자기 데이터로 직접 확인한다.
로컬 GraphRAG 프로젝트 (2026-10-04 확인)
| 프로젝트 | Stars (답변 → 실제) | 마지막 push | 메모 |
|---|---|---|---|
| microsoft/graphrag | 32.2k+ → 36.2k | 2026-09-28 | 원조 구현. 엔티티·관계 추출 → 커뮤니티 계층 → global/local search. 기본은 OpenAI라 Ollama·vLLM로 쓰려면 설정 수정 필요 |
| HKUDS/LightRAG | (미기재) → 약 40.0k | 2026-10-03 | 지금은 microsoft/graphrag보다 별이 많다. 그래프+임베딩 하이브리드, 증분 업데이트, Ollama 예제. 논문 arXiv 2410.05779. 답변의 “EMNLP 2025”는 README에서 확인하지 못함 |
| gusye1234/nano-graphrag | 3.8k+ → 4.0k | 2026-01-27 | 공식 구현보다 훨씬 작고 읽기 쉬움. NetworkX/Neo4j, Faiss/Milvus, Ollama 지원 |
| circlemind-ai/fast-graphrag | 3.8k+ → 4.0k | 2025-11-01 | 에이전트 주도 검색, 해석 가능·프롬프트 조정 가능. 1년 가까이 push 없음 |
| severian42/GraphRAG-Local-UI | 2.3k+ → 2.3k | 2024-11-09 | Gradio UI(인덱싱·프롬프트 튜닝·채팅·시각화). 사실상 관리 중단 |
| DEEP-PolyU/Awesome-GraphRAG | — → 2.7k | 2026-06-02 | 논문·벤치마크·오픈소스 큐레이션 목록 |
모두 MIT 라이선스다. 답변이 권한 순서는 “GraphRAG-Local-UI로 UI부터 → nano-graphrag나 LightRAG로 이전 → Claude에게 Neo4j·Ollama·Gradio 하이브리드로 확장 요청”이었다. 지금 다시 고른다면 첫 단계는 관리되지 않는 UI 포크보다 LightRAG(자체 Web UI·API 서버 포함) 쪽이 안전하다. GraphRAG 원리와 다른 구현 비교는 2026-03-29-graphrag-overview에 있다.
한국어 임베딩 후보
| 모델 | 파라미터 (HF 확인) | 답변의 주장 | 확인·정정 |
|---|---|---|---|
| BAAI/bge-m3 | 약 568M | 1024차원, 최대 8192토큰, Dense·Sparse·Multi-vector 동시 지원. 1순위 추천 | MIT. 기본 선택지로 무난 |
| dragonkue/BGE-m3-ko | 약 568M | bge-m3 한국어 파인튜닝, “가벼워서 빠름” | Apache-2.0. 원본과 크기가 같다. 가볍지 않다 |
| upskyy/bge-m3-korean | 약 568M | (링크 메모) Ollama bona/bge-m3-korean | Ollama 패키지는 1.2GB, 8K 컨텍스트, 약 1년 전 갱신. dragonkue와 다른 한국어 파인튜닝이다 |
| intfloat/multilingual-e5-large-instruct | 약 560M | instruction-tuned, 한·영 혼합에 강함 | 질의에 지시문(prefix)을 붙여야 성능이 난다 |
| jhgan/ko-sroberta-multitask | 약 111M | 768차원, “약 1.0GB” | fp32로도 약 0.44GB. CPU만으로 충분한 한국어 전용 SBERT |
| dragonkue/multilingual-e5-small-ko | 약 118M | 초경량 | Apache-2.0. 저사양 인덱싱용 |
| Qwen/Qwen3-Embedding-0.6B / 4B / 8B | 0.6B / 4B / 8B | 119개 언어, 32K 컨텍스트, 8B가 MTEB 다국어 1위(70.58), “prefix 없이도 잘 작동” | 2025-06 공개, Apache-2.0. 모델 카드는 “100+ languages”, 32K 맞음. 70.58·1위는 2025-06-05 기준이다. 카드는 질의 쪽 instruct를 빼면 검색 성능이 1~5% 떨어진다고 적어 “prefix 불필요”와 반대다. 0.6B는 출력 차원 최대 1024(32~1024 조절) |
Ollama에서는 qwen3-embedding:0.6b/4b/8b와 bona/bge-m3-korean을 바로 받을 수 있다(ollama). Qwen 계열 전반은 qwen 참고.
확인하지 못한 주장
- Qwen3-0.6B가 BGE-m3보다 MMTEB +8.0%, MTEB English +18.7% 앞선다는 수치
- “4B는 bge보다 NDCG@10이 2~3포인트 좋다”는 Reddit/LocalLLaMA 후기
- 모델별 VRAM 추정치(8B ~16GB+, 0.6B
46GB, Q4 ~2GB 등) - 답변 스스로도 “0.6B는 실제 데이터셋에서 bge-m3와 비슷하거나 약간 뒤지는 사례가 있다”고 단서를 달았다
고르는 기준
| 상황 | 후보 |
|---|---|
| 한국어 문서가 대부분 | BGE-m3 한국어 파인튜닝(dragonkue 또는 upskyy) → 원본 bge-m3와 자기 데이터로 비교 |
| 한·영 혼합, 긴 문서 | Qwen3-Embedding-0.6B(질의에 instruct 붙이기) 또는 multilingual-e5-large-instruct |
| CPU뿐이거나 빠른 프로토타입 | ko-sroberta-multitask, multilingual-e5-small-ko |
| GPU 여유, 최고 성능 | Qwen3-Embedding-4B/8B |
GraphRAG에서 임베딩은 청크 검색과 엔티티 설명 매칭에 쓰이고, 엔티티·관계 추출 품질은 LLM 쪽이 좌우한다. 임베딩만 바꿔서는 그래프 품질이 크게 달라지지 않을 수 있으니, 한국어 추출 성능이 괜찮은 로컬 LLM도 함께 골라야 한다.
출처 메모
- 원자료는 Telegram 저장 메시지 4건(message_id 42499833856, 42516611072, 42517659648, 42528145408)이다. 앞의 3건은 작성 모델을 알 수 없는 AI 챗봇 답변이고, 42517659648은 원문 자체가 문장 중간에서 끊겨 있다.
- Stars·push 날짜는 2026-10-04 GitHub API, 파라미터·라이선스·공개일은 Hugging Face API·모델 카드, Ollama 정보는 ollama.com 페이지 기준이다.