LLM Wiki

Kimi K3, Moonshot AI가 공개한 세계 첫 3T급 오픈 웨이트 모델

Properties2
descriptionMoonshot AI가 2.8T 매개변수·1M 컨텍스트·네이티브 비전을 내세운 Kimi K3를 발표했으며, 전체 가중치는 2026년 7월 27일까지 공개 예정이라고 밝혔다.
tagsai-models, kimi, moonshot-ai, open-weights

4 min read

개요

Moonshot AI는 2.8조 개 매개변수의 Kimi K3를 “오픈 3T급 모델”로 소개하며, 코딩·지식 노동·추론을 겨냥한 모델이라고 밝혔다. K3는 Kimi Delta Attention(KDA), Attention Residuals(AttnRes), 희소 MoE, 네이티브 비전, 100만 토큰 컨텍스트를 주요 특징으로 내세운다. 제품과 API는 발표 시점에 사용 가능하지만, 전체 모델 가중치는 2026년 7월 27일까지 공개 예정이므로 발표 즉시 다운로드 가능한 모델과는 구분해야 한다. 원문은 Moonshot AI가 이전 세대 Kimi K2 대비 스케일링 효율을 약 2.5배 높였다고 설명하지만, 벤치마크와 사례는 문샷이 제시한 결과라는 점을 감안해야 한다.

핵심 포인트

  • 2.8T 매개변수 규모로, 문샷은 이를 세계 최초의 오픈 3T급 모델이라고 표현했다.
  • KDA와 AttnRes를 결합하고, 896개 전문가 중 16개만 활성화하는 Stable LatentMoE 구조를 사용한다고 설명한다.
  • 네이티브 멀티모달 입력과 1M 토큰 컨텍스트를 제공하며, 긴 저장소·스크린샷·영상이 포함된 작업을 겨냥한다.
  • 긴 호흡의 코딩 사례로 MiniTriton 컴파일러 제작, GPU 커널 최적화, 게임·칩 설계·과학 연구 작업을 제시한다. 이는 문샷이 소개한 사례이지 독립적으로 재현된 결과는 아니다.
  • Kimi API의 모델 ID는 kimi-k3이며, 원문에 제시된 가격은 100만 토큰당 캐시 적중 입력 3.00, 출력 $15.00이다.
  • 2.8T 규모 때문에 자체 호스팅은 소비자용 GPU 한 장보다 64개 이상의 가속기를 묶은 슈퍼노드급 인프라를 전제로 한다고 설명한다.
  • K3는 사고 이력과 호환되는 하네스 사용을 권장하며, 세션 중 다른 모델로 전환하거나 모호한 지시를 주면 품질이 불안정할 수 있다는 한계가 언급됐다.

왜 중요한가

Kimi K3는 오픈 웨이트 생태계가 모델 규모뿐 아니라 긴 컨텍스트, 멀티모달 입력, 희소 MoE, 에이전트형 코딩 실행을 함께 확장하려는 흐름을 보여준다. 다만 2.8T 규모와 권장 인프라를 고려하면, 가중치 공개 이후에도 개인 개발자가 직접 실행하기보다는 서빙 프레임워크·하드웨어 지원·라이선스를 확인한 뒤 활용 방식을 정해야 한다. 또한 “오픈”이라는 표현은 2026년 7월 27일까지의 가중치 공개 예정이라는 약속과, 현재 이용 가능한 상용 제품/API를 구분해 읽어야 한다.

후속으로 볼 링크와 키워드

백링크