출처

개요

pxpipe는 Claude Code가 Anthropic API로 보내는 큰 텍스트 컨텍스트를 PNG 이미지로 렌더링해 입력 토큰 사용량을 줄이는 로컬 프록시입니다. 시스템 프롬프트, 도구 문서, 오래된 대화 이력, 대형 tool_result처럼 반복되거나 큰 블록을 이미지 페이지로 바꿔 전송하되, 최근 턴과 사용자 메시지 등은 텍스트로 유지합니다. 핵심 전제는 이미지 입력의 비용이 텍스트 길이가 아니라 픽셀 크기에 따라 책정되므로, 밀도 높은 코드·JSON·로그·도구 출력에서는 토큰 대비 더 많은 문자를 담을 수 있다는 점입니다. 다만 이미지 기반 변환은 무손실이 아니며, ID·해시·시크릿처럼 바이트 단위 정확성이 필요한 값은 오독될 수 있습니다. 원문은 절감 가능성과 함께 모델별 판독 실패, 조용한 허구 생성, CJK 처리 한계 등도 함께 제시합니다.

핵심 포인트

  • pxpipe는 /v1/messages 요청을 가로채 큰 텍스트 블록을 PNG 이미지 블록으로 변환한 뒤 원래 API로 전달하는 로컬 프록시입니다.
  • 주요 변환 대상은 약 6,000자 이상의 밀도 높은 tool_result, 오래된 대화 이력, 정적인 시스템 프롬프트와 도구 문서입니다.
  • 사용자 메시지, 최근 대화 턴, 모델 출력, 작은 블록, 성긴 산문, 수익성이 낮은 블록은 그대로 텍스트로 통과합니다.
  • 원문에 따르면 1928×1928 이미지 한 장은 약 4,761 비전 토큰으로 약 92,000자를 담을 수 있으며, Claude Code 트래픽 실측은 토큰당 약 1.91자로 이미지 변환에 유리한 편입니다.
  • 저자는 Fable 5 기준으로 실제 사용 비용이 낮아지는 사례를 제시하지만, 가격과 워크로드가 변하므로 ~/.pxpipe/events.jsonl에 기록되는 요청 단위 절감량을 더 오래 유효한 지표로 봅니다.
  • 이미지 변환은 손실 압축에 가깝기 때문에 12자 16진수 문자열 회상 테스트에서 Fable 5는 15개 중 13개, Opus 4.8은 15개 중 0개를 맞히는 등 모델별 차이가 큽니다.
  • Opus 4.7/4.8, GPT 5.5처럼 렌더 오독률이 높은 모델은 기본 활성화 대상에서 제외되며, 사용자가 환경 변수나 대시보드에서 직접 켜야 합니다.

왜 중요한지

pxpipe는 LLM 에이전트의 장기 작업에서 반복 전송되는 대형 컨텍스트가 비용과 컨텍스트 창을 빠르게 소모한다는 문제를 다른 방식으로 다룹니다. 기존의 텍스트 압축이나 요약이 아니라, 모델의 비전 입력 채널을 활용해 “읽을 수 있는 이미지”로 컨텍스트를 전달한다는 점이 특징입니다. 특히 Claude Code처럼 시스템 프롬프트, 도구 설명, 파일 내용, 로그가 반복적으로 포함되는 워크플로에서는 입력 토큰 절감 효과가 클 수 있습니다. 반면 원문이 강조하듯 이 방식은 정확한 문자열 회상에는 취약할 수 있으므로, 비용 절감용 최적화와 바이트 정확성이 필요한 작업을 구분해 적용해야 합니다.

설치 및 사용

npx pxpipe-proxy
ANTHROPIC_BASE_URL=http://127.0.0.1:47821 claude

프록시 실행 후 http://127.0.0.1:47821/에서 대시보드를 열 수 있으며, 토큰 절감량, 변환 내역 비교, 킬 스위치, 모델별 활성화 상태를 확인할 수 있습니다.

한계와 주의점

  • 이미지로 렌더링된 텍스트는 OCR처럼 완전히 정확히 복원되는 것이 아니라 모델의 비전 채널을 통해 해석됩니다.
  • ID, 해시, 시크릿, 짧은 식별자처럼 한 글자라도 틀리면 안 되는 값은 텍스트로 유지하는 것이 안전합니다.
  • 실패가 명시적 오류가 아니라 그럴듯한 오독이나 허구 생성으로 나타날 수 있습니다.
  • PNG 인코딩 시간이 추가되므로 큰 요청이 머신을 떠나기 전에 지연이 생길 수 있습니다.
  • ASCII/라틴 문자권이 가장 충분히 검증되었고, CJK는 동작하지만 보수적으로 처리된다고 설명합니다.
  • 실제 코딩 벤치마크 결과는 유망하지만 표본이 작다는 점을 원문이 명시합니다.

후속으로 볼 링크 / 키워드

원문 보존 위치

원문 전체는 raw source: web-2026-07-08-pytorchkr-topic-11114-pxpipe-claude-code-token-saving-proxysource_url 및 HTML 원문과 함께 저장되어 있습니다.