원문 GeekNews — AI 경쟁이 난처해졌다 · 글 insufferable.dev. 핵심 주장(기술 도입)에 근거가 없는 의견 글이다.
개요
중국 연구소의 모델 증류를 비판하던 서구 AI 기업들이, 정작 중국이 공개한 추론 최적화 기술의 수혜자가 됐다는 역설을 다룬 글이다. 공개된 구현법을 쓰는 건 도둑질이 아니라 도입이라는 입장이다.
DeepSeek의 KV 캐시 압축
KV 캐시는 이미 처리한 토큰의 정보를 저장해 다음 토큰 계산을 반복하지 않게 하는 장치다. 코딩처럼 문맥이 긴 작업에서 GPU 메모리 비용을 키운다. DeepSeek는 MLA에 이어 Compressed Sparse Attention·Heavily Compressed Attention으로 캐시를 줄여 왔고, DeepSeek-V4.1-Flash에는 CSA2, 계층 간 캐시 재사용, 인과적 인코더-디코더 구조, FP4 캐싱을 적용했다고 글은 설명한다(2026-09-10-deepseek-v4-1-flash-release).
| 모델 | 100만 토큰 KV 캐시 |
|---|---|
| DeepSeek-V1 | 389.12GB |
| DeepSeek-V3.2 | 48.07GB |
| DeepSeek-V4-Flash | 3.51GB |
| DeepSeek-V4.1-Flash | 890MB (V1 대비 약 1/437, 99.77% 감소) |
KV 캐시만의 비교다. 가중치를 포함한 전체 메모리나 전체 추론 비용이 같은 비율로 줄었다는 뜻은 아니다.
서구 모델의 캐시 가격 (100만 토큰당, 글이 제시한 값)
| 항목 | Claude Opus 5 → 5.5 | GPT-5.6 Sol → GPT-6.1 Sol |
|---|---|---|
| 입력 | 4.00 | 2.00 |
| 캐시 쓰기 | 5.00 | 2.50 |
| 캐시 읽기 | 0.20 (−60%) | 0.10 (−80%) |
주장과 근거를 구분해야 한다
- 글은 이 가격 인하를 DeepSeek 기술을 도입한 흔적으로 해석한다. 하지만 두 회사의 도입을 확인하는 발표나 구현 자료는 제시하지 않는다. GeekNews 요약도 이 점을 짚는다.
- Opus 5.5와 GPT-6.1 Sol이 큰 사전 홍보 없이 나온 이유를 기술 복제 부담과 연결하는 부분도 확인된 배경이 아니다.
- 확인된 것은 두 가지다. DeepSeek가 효율 기술을 계속 공개해 왔다는 것, 그리고 서구 모델의 캐시 읽기 가격이 크게 내렸다는 것. 둘 사이의 인과는 추측이다.
위키 맥락
첨단 GPU 접근이 막힌 중국 연구소가 메모리 효율에 집중할 유인이 컸다는 구도는 moc-chinese-llm-models의 흐름과 맞다. KV 캐시가 왜 서빙 비용을 좌우하는지는 2026-09-03-ai-frontier-ep112-kv-cache-roofline에 정리돼 있다.