개요
Jev는 TypeSafe AI가 서비스하는 System One 모델이다. 텍스트를 생성하지 않고, 입력 state(텍스트나 named JSON)와 타입이 지정된 questions를 받아 타입 있는 답과 확률만 돌려준다. TypeSafe 문서의 표현으로는 “소프트웨어가 바로 쓸 수 있는 빠르고 구조화된 결정을 내리도록 만든 AI 모델”이고, LangChain 발표는 분류형 과제에서 LLM보다 “20200배 빠르고 40400배 싸다”고 소개한다.
2026-09-21(KST) TypeSafe는 대기자 명단(waitlist)을 없애고 Jev를 누구나 쓸 수 있게 열었다.
이름은 Kahneman의 System 1(빠르고 값싼 직관)·System 2(느리고 비싼 추론) 구분에서 왔다. Jev가 System 1, 단계별로 추론하는 기존 LLM이 System 2 역할이다. LLM을 대체하는 게 아니라, 지금 LLM에 시키는 분류·판정·라우팅 같은 좁은 결정을 훨씬 빠르고 싸게 맡는다.
// 요청
{"state": "Hi, I've been trying to connect my Stripe...",
"model": "jev-latest",
"questions": {"is_urgent": {"type": "noul",
"instructions": "The message conveys urgency or time-sensitivity"}}}
// 응답
{"model": "jev-1.13.0",
"answers": {"is_urgent": {"type": "noul", "noul": 0.999}}}질문 3유형
| 유형 | 언제 쓰나 | 반환값 |
|---|---|---|
| Choice | 정의된 후보 집합 중 하나가 이겨야 할 때 | 선택지별 확률 분포 |
| Score | 서술된 차원의 정도(순서형 척도)가 필요할 때 | 척도 위치 |
| Noul | 조건이 성립하는지(예/아니오형)를 볼 때 | 참일 확률(0~1), 별도 confidence 없음 |
한 state에 독립 질문 여러 개를 보내면 병렬로 답한다. TypeSafe 공식 스킬은 몇 가지 해석 주의를 둔다 — Choice/Score의 confidence는 분포의 집중도이지 정확도나 행동 허가가 아니고, Noul 0.5는 “중간 강도”가 아니라 판단 불확실을 뜻하며, typed output은 인터페이스 보장이지 진실 보장이 아니다.
설계 원칙 — 코드가 제어 흐름을 소유한다
TypeSafe 문서와 공식 스킬이 반복하는 원칙은 워크플로의 제어 흐름은 코드가 갖고, Jev는 의미·언어 이해 같은 좁고 형식화된 결정만 맡는다는 것이다. 그래서 인간 코파일럿 없이 백그라운드에서 대량으로 돌리는 자동화, 실시간 애플리케이션, 대규모 데이터 map-reduce, 다른 AI의 입출력 검증, 하네스 엔지니어링(모델 라우팅·가드레일·컨텍스트 선별)이 주 용도로 제시된다. → 2026-09-19-typesafe-use-case-map, 2026-09-20-typesafe-ai-skills
배경 이론은 TypeSafe의 Diogo Almeida(GPT-4·InstructGPT 공동 저자)가 설명한다. RLHF는 인간 선호를 최적화하므로 인간을 루프에 두는 “보조” 과제에 맞춰져 있고, 인간을 빼야 하는 “자동화” 과제에는 RLHF·RLVR과 다른 제3의 최적화인 **보정된 의사결정(calibrated decision-making)**이 필요하다는 것이다. → 2026-09-20-diogo-almeida-after-rlhf
에이전트 하네스에서의 활용
LangChain 발표(2026-09-26-langchain-building-a-harness-with-jev)는 langchain-typesafe 패키지로 세 가지 패턴을 보여 준다.
- 모델 라우팅 — 요청 난이도·도메인을 Jev로 판정해 싼 모델과 비싼 모델을 가른다.
- 오토 모드 — 위험한 도구 호출(DB·중요 파일 삭제 등)을 Jev가 판정해 런타임에 차단한다.
- Jev as a judge — 온라인 평가에서 LLM 심사위원 대신 Jev로 대량 채점한다.
생태계
전체 지도는 moc-jev에 있다. 대표 갈래만 추리면:
- 도구 래퍼: 2026-09-27-jev-mcp(MCP 판단 도구 11종), system-one-connector(Go MCP 커넥터), 2026-09-27-dzhng-jevgrep(코드 검색 CLI), fast-jev-compaction(Claude Code 압축 대체), 2026-09-30-github-hyunjunjeon-jev-context(Claude Code·Codex 컨텍스트 관리 훅, Jev 호출은 압축마다 최대 1회)
- 판단 위임 응용: jev-ultrafast(브라우저 DOM operation·target 결정), 2026-09-20-sac-y-jev-cu(Computer Use 다음 클릭 결정), 2026-09-20-github-shhivv-arc-cua(macOS 하위 작업 클릭 루프의 기본 결정 모델), 2026-09-27-hqman-jevscout(채용 페이지 스코어링)
- 호환·대안 모델: 2026-09-27-interfaze-ai-lev(Qwen3.5-4B LoRA), 2026-09-27-github-razorback16-openjev(DiffusionGemma 기반), 2026-09-27-ollaya-dev(로컬 런타임), 2026-09-27-laya-mlx(Laya MLX 이식) — 대부분
/v1/systemonewire 프로토콜을 따른다. - 대형 업체의 결정 모델 지원: 2026-09-30-ollama-jev-style-decision-models — Ollama 0.35가
/v1/systemone과 TypeSafe SDK를 그대로 받아 nimble 9B·tev1 4B/0.8B를 로컬에서 실행. 2026-10-02-huggingface-perplexity-ai-pplx-decider-v1-27b — Perplexity가 Qwen3.8-27B를 파인튜닝해 공개한 오픈 가중치 결정 모델(자체 표 기준 11개 벤치마크 평균 85.71%, Jev 84.51%). 2026-10-02-perplexity-decisions-api-quickstart — 같은 질문 구조를 자체 경로POST /v1/decisions로 호스팅(입력 $0.04/백만 토큰). - 데이터베이스 통합: 2026-10-04-github-realzachi-pg-jev —
jev(table, '조건')으로 Postgres 행을 필터·랭킹·분류하는 확장. 20행 배치·세션 캐시, 풀 스캔이라LIMIT·저렴한 선행 조건으로 비용 통제 - 학습 자료: 2026-10-03-github-teddylee777-fastcampus-jev — 고객지원 에이전트에 도구 선택·가드레일·위험 게이트를 붙이는 한국어 튜토리얼. LLM 대비 지연 약 4배·비용 14~17배 차이를 실측
- 프런티어 모델 비교: 2026-09-27-x-mnilax-typesafe-jev-adapter — 같은 질문 파일을 GPT·Claude·Gemini에 보내 스키마 검사로 typed 답을 받는 TypeSafe 어댑터. discrete 모드의 confidence는 항상 최대로 나온다.
- 경쟁 주장: 2026-09-27-respan-span-01 — Behavior Benchmark F1 84.3으로 Jev 1.13.0(71.5)을 앞선다고 주장하는 판정 전용 분류기.
- 비용 절감 응용: 2026-09-22-x-aj-agentrun-jev-harness(반복 단계를 LLM 호출에서 코드로 옮기는 하네스), 2026-09-21-x-tetsu-jev-seo-internal-links(TF-IDF로 좁힌 뒤 링크 판단만 Jev에), 2026-09-21-x-avichawla-beacon-jev-memory(세션 기록 중 배울 만한 것만 승격)
- 한계 사례: 2026-09-29-news-hada-34483-jev-llm-wiki-triage — LLM Wiki 불량 페이지 선별에 Jev를 쓴 사전등록 실험. 한국어에서 기대 보정 오차가 0.17~0.20이라 확률이 아닌 순위로만 썼고, 결함 기저율 때문에 선별 효과가 없었다.
관련
- moc-jev — Jev 생태계 노트 맵
- harness — 하네스 설계에서 판단 게이트의 위치
- 2026-09-27-ai-frontier-ep115-all-in-summit-2026 — “Jev와 작은 모델로 돌아온 System 1 지능” 논의
- 2026-10-12-ai-frontier-ep118-singularity-midst — 도메인 프런티어로의 승천 사례, SF에서 들은 제작자의 “사람이 빠져도 되는 자동화” 문제의식
- 2026-10-21-teddynote-autorag-agent-harness — AutoRAG Agent가 질문 라우팅(direct·local·config)과 인용 근거 기억 판정에 Jev를 쓰는 사례