개요

Jev는 TypeSafe AI가 서비스하는 System One 모델이다. 텍스트를 생성하지 않고, 입력 state(텍스트나 named JSON)와 타입이 지정된 questions를 받아 타입 있는 답과 확률만 돌려준다. TypeSafe 문서의 표현으로는 “소프트웨어가 바로 쓸 수 있는 빠르고 구조화된 결정을 내리도록 만든 AI 모델”이고, LangChain 발표는 분류형 과제에서 LLM보다 “20200배 빠르고 40400배 싸다”고 소개한다.

2026-09-21(KST) TypeSafe는 대기자 명단(waitlist)을 없애고 Jev를 누구나 쓸 수 있게 열었다.

이름은 Kahneman의 System 1(빠르고 값싼 직관)·System 2(느리고 비싼 추론) 구분에서 왔다. Jev가 System 1, 단계별로 추론하는 기존 LLM이 System 2 역할이다. LLM을 대체하는 게 아니라, 지금 LLM에 시키는 분류·판정·라우팅 같은 좁은 결정을 훨씬 빠르고 싸게 맡는다.

// 요청
{"state": "Hi, I've been trying to connect my Stripe...",
 "model": "jev-latest",
 "questions": {"is_urgent": {"type": "noul",
   "instructions": "The message conveys urgency or time-sensitivity"}}}
// 응답
{"model": "jev-1.13.0",
 "answers": {"is_urgent": {"type": "noul", "noul": 0.999}}}

질문 3유형

유형언제 쓰나반환값
Choice정의된 후보 집합 중 하나가 이겨야 할 때선택지별 확률 분포
Score서술된 차원의 정도(순서형 척도)가 필요할 때척도 위치
Noul조건이 성립하는지(예/아니오형)를 볼 때참일 확률(0~1), 별도 confidence 없음

한 state에 독립 질문 여러 개를 보내면 병렬로 답한다. TypeSafe 공식 스킬은 몇 가지 해석 주의를 둔다 — Choice/Score의 confidence는 분포의 집중도이지 정확도나 행동 허가가 아니고, Noul 0.5는 “중간 강도”가 아니라 판단 불확실을 뜻하며, typed output은 인터페이스 보장이지 진실 보장이 아니다.

설계 원칙 — 코드가 제어 흐름을 소유한다

TypeSafe 문서와 공식 스킬이 반복하는 원칙은 워크플로의 제어 흐름은 코드가 갖고, Jev는 의미·언어 이해 같은 좁고 형식화된 결정만 맡는다는 것이다. 그래서 인간 코파일럿 없이 백그라운드에서 대량으로 돌리는 자동화, 실시간 애플리케이션, 대규모 데이터 map-reduce, 다른 AI의 입출력 검증, 하네스 엔지니어링(모델 라우팅·가드레일·컨텍스트 선별)이 주 용도로 제시된다. → 2026-09-19-typesafe-use-case-map, 2026-09-20-typesafe-ai-skills

배경 이론은 TypeSafe의 Diogo Almeida(GPT-4·InstructGPT 공동 저자)가 설명한다. RLHF는 인간 선호를 최적화하므로 인간을 루프에 두는 “보조” 과제에 맞춰져 있고, 인간을 빼야 하는 “자동화” 과제에는 RLHF·RLVR과 다른 제3의 최적화인 **보정된 의사결정(calibrated decision-making)**이 필요하다는 것이다. → 2026-09-20-diogo-almeida-after-rlhf

에이전트 하네스에서의 활용

LangChain 발표(2026-09-26-langchain-building-a-harness-with-jev)는 langchain-typesafe 패키지로 세 가지 패턴을 보여 준다.

  • 모델 라우팅 — 요청 난이도·도메인을 Jev로 판정해 싼 모델과 비싼 모델을 가른다.
  • 오토 모드 — 위험한 도구 호출(DB·중요 파일 삭제 등)을 Jev가 판정해 런타임에 차단한다.
  • Jev as a judge — 온라인 평가에서 LLM 심사위원 대신 Jev로 대량 채점한다.

생태계

전체 지도는 moc-jev에 있다. 대표 갈래만 추리면:

관련