LLM Wiki

Tokenmaxxing은 죽었다, Tokenmaxxing 만세

Properties2
description기업 AI 도입 초기에 토큰 사용량을 성과 평가와 연결한 tokenmaxxing은 형식적 사용과 무의미한 비용을 낳았지만, AI 도구를 조직 전반에 강제로 확산시키는 역할도 했다.
tagsmisc, tokenmaxxing, ai-adoption, compounding-correctness, security-audit

6 min read

개요

기업 AI 도입 초기에 토큰 사용량을 성과 평가와 연결한 tokenmaxxing은 형식적 사용과 무의미한 비용을 낳았지만, AI 도구를 조직 전반에 강제로 확산시키는 역할도 했다. 최근에는 더 많은 토큰이 더 나은 결과를 만드는 누적 정확성(compounding correctness) 흐름이 부상하며, tokenmaxxing의 성격이 바뀌고 있다. 보안 분야에서는 Mythos 같은 모델에 막대한 토큰 예산을 투입해 취약점을 찾는 방식이 등장했고, 방어자가 공격자보다 더 많은 계산을 써야 하는 구조가 만들어지고 있다. 앞으로는 비싼 최상위 모델보다 저렴한 오픈 모델을 루프로 더 많이 돌리는 방식이 tokenmaxxing의 실용적 중심이 될 가능성이 제기된다.

핵심 포인트

  1. 무의미한 지표로서의 tokenmaxxing — Meta에서는 개인별 토큰 사용량이 평가와 연결되자, 두 에이전트를 하루 종일 대화시켜 수치를 부풀리는 형식적 사용이 나타났다. 겉으로는 비용 낭비로 보이지만 AI 도구 사용을 강제로 퍼뜨리는 경영진의 정책적 수단이었다는 해석도 있다.
  2. 첫 번째 무제한 사용 정책의 퇴조 — tokenmaxxing이 어느 정도 효과를 내어 거의 모든 팀이 최소한 Cursor 정도는 쓰는 상태가 되었지만, OpenAI/Anthropic이 구독 제공량을 제한하고 API 가격을 올리면서 무제한 토큰 사용 정책을 되돌리는 팀이 생겼다.
  3. 누적 오류에서 누적 정확성으로의 전환 — 과거에는 에이전트를 오래 실행할수록 작은 오류가 쌓여(compounding error) 실패했지만, 지금은 더 많은 토큰이 정답 가능성을 높이는(compounding correctness) 환경으로 바뀌고 있다.
  4. 보안 분야의 토큰 예산 경쟁 — AISI는 Mythos 시도 1회당 100M 토큰(약 $12,500) 예산을 잡았고, 테스트된 예산 범위에서 모델들이 예산 증가에 따라 계속 진전했다. 이 구조에서는 영리함보다 계산 작업량과 지불 가능한 예산이 더 중요해진다.
  5. 루프(loop)와 장시간 에이전트 실행의 부상 — Boris Cherny가 언급한 loops 개념(에이전트가 완료했다고 판단할 때까지 같은 프롬프트를 재실행)이 주목받고 있으며, 누적 정확성 덕분에 반복할수록 더 나아지는 근사적 결과를 기대하기 쉬워졌다.
  6. 오픈 모델의 비용 경쟁력 — GLM 5.2(입력 1M 토큰당 ~4)는 Haiku보다 강력하고 일부 벤치마크에서 GPT 5.5보다 나은 경우도 있으며, Claude 대비 1/5 비용으로 유사한 개선을 반복할 수 있다.
  7. 파이프라인용 지출의 한계 — 개발자용 tokenmaxxing이 생산성 향상에 기여할 수 있는 반면, 파이프라인용(일회성 에이전트)은 비결정적·취약한 동작으로 환각 비용이 3배까지 증폭되는 문제가 있다.

왜 중요한가

tokenmaxxing은 단순한 비용 낭비 사례가 아니라, 조직이 AI 도입 단계에서 겪는 강제적 확산 → 비용 통제 → 질적 전환의 순환을 보여준다. 누적 정확성 패러다임이 정착된다면 토큰 지출이 결과 품질과 직접 연결되는 방향으로 AI 사용 패턴이 재편될 수 있으며, 특히 저렴한 오픈 모델의 루프 실행이 frontier 모델의 대량 사용을 대체할 가능성이 현실화되고 있다. 사이버 보안처럼 계산 예산이 성과를 결정하는 영역이 확장될지 주목할 필요가 있다.

후속 자료

백링크