출처 https://youtu.be/kh03_wOGvJ0 · 채널 노정석 (AI 프론티어 팟캐스트) · 길이 54:18 포맷 노정석·최승준 두 진행자의 100회 기념 대담. 화면은 두 사람이 미리 정리해 둔 Notion 노트(신화와 우화 / Dario & IPO / Loop Engineering / Fable 5의 가격 / RSI / 교육의 아름다운 위험)를 함께 넘기며 진행. 원본 자막:
raw/transcripts/2026-06-19-ai-frontier-ep100-mythos-fable5.ko.srt
한눈에 보는 요약
- 녹화 시점은 2026년 6월 14일, 샌프란시스코. 3년·100회를 맞은 회고로 시작한다. “작년 가을 넘어가면서 그래프의 기울기가 확실히 달라졌다”는 게 노정석의 체감 — 불가능하다던 것들이 하나씩 다 깨졌고, 봄부터는 모두가 AGI를 입에 올리기 시작했다.
- 이번 회의 사건: Mythos → Fable 5. 4월에 살짝 공개됐던 Mythos가 화요일(6/9) Fable 5라는 이름으로 출시 → 3일 뒤(6/12) 미국 정부가 미국 국적자가 아니면 접근 불가라는 수출통제를 걸었다. Amazon 쪽 개발자의 jailbreak 제보가 도화선이었던 것으로 추정.
- 프론티어 경쟁의 핵심 쟁점은 스케일 증가 + post-training이다. 알고리즘·아키텍처 혁신은 더 이상 큰 차별화 요소가 아니고, 진짜 병목은 post-training 인프라(추론을 돌리며 채점하는 엔지니어링), 도메인별로 세분화된 데이터셋, 그리고 컴퓨팅 스케일에 있다. (SF 인사이더들에게 들은 인사이드 뷰)
- LLM에서 통한 플레이북이 다른 도메인으로 번지고 있다. 바이오·소재과학에서 DNA·단백질·세포를 “그냥 또 하나의 modal”로 보고 한꺼번에 집어넣어 학습시키는데 “되네”가 확인되는 중. 지금이 신약·longevity의 “GPT-2 모먼트”라는 시각.
- 작명에 함의가 있다. Mythos(신화)는 신계에 가둬 둔 trusted-access 원본, Fable(우화)은 안전장치를 입혀 대중에게 내려준 공개 버전. Haiku→Sonnet→Opus의 시(詩) 위계에서 “이야기 세계”로 격을 올린 상징적 전환.
- 가격 = 모델 크기의 역산 단서. Fable 5는 입력 50(100만 토큰), Opus 4.8의 2배. 4.8을 5T급으로 보면 Mythos는 막연히 10T급. Dwarkesh식 해석으론 경쟁 탓에 거의 원가 근처 가격.
- Anthropic은 RSI(재귀적 자기개선) 궤도를 공개 선언했다. 6/1 S-1 제출, 6/9 모델 출시, 6/12 수출통제 — IPO valuation 맥싱과 “전략 자산화”가 맞물린 국면. 모델이 모델을 만드는 프랙털이 세포 분열과 동형.
- 루프/하네스 엔지니어링이 새 유행어. “프롬프트하지 말고 루프를 짜서 맡겨라.” 다만 토큰 비용이 폭증 — Dynamic Workflows로 단판 최대 1,000 에이전트면 Sonnet으로 1,500 태우는 식. 비싼 게 당분간의 트레이드오프.
- 마무리는 “다음 국면”. 사람의 속도로 따라가는 게 불가능해진 시기 → 팟캐스트도 시스템화·스케일업, 한미 연결, Palantir FDE 세션 등을 예고.
장면별 상세 설명
[00:13] 1. 3년·100회, 그리고 기울기가 달라진 순간
녹화 날짜는 2026년 6월 14일 일요일 아침, 노정석은 출장으로 샌프란시스코(현지 토요일 오후)에 나와 있다. 3년 전 “공부하는 셈 치고 만담이나 해보자”며 시작한 것이 100회가 됐다. 두 사람의 회고는 “상전벽해”라는 말로 압축된다 — 3년 전은 GPT-4가 막 나오고 Sébastien Bubeck의 Sparks of AGI에서 유니콘을 그리던 시절이었는데, 지금은 펠리컨이 자전거를 타는 수준으로 왔고, “불가능하다”던 것들이 전부 깨졌다.
노정석의 체감으로 변곡점은 작년 가을이다. “그래프의 기울기가 확실히 달라진다”는 느낌이 들었고, 올겨울을 지나 봄으로 들어서면서부터는 누구나 심심치 않게 AGI를 입에 올리기 시작했다.
[01:53] 2. 이번 회의 사건 — Mythos가 Fable이 되고, 3일 만에 닫히다
4월에 Anthropic이 Mythos를 살짝 공개했다가, 두 달쯤 지난 이번 화요일(6/9) 갑자기 Fable이라는 이름으로 바꿔 공개했다. 커뮤니티가 vibe check를 하며 떠들썩하던 게 불과 3일인데, 어제(6/12) 미국 국적자가 아닌 사람은 Fable에 아예 접근할 수 없다는 정부 규제가 발표됐다. 노정석은 직접 써보다 바이오 관련 쿼리를 던지면 바로 막히고 모델이 Opus 4.8로 바뀌어 버리는 경험을 했다고 전한다(“뭐 하는 거지?” 싶었던).
[02:50] 3. SF 인사이더 뷰 — 경쟁의 핵심은 post-training과 데이터셋
노정석은 이번 출장에서 데이터셋 회사, 에이전트 빌딩 회사, 새 월드 모델을 표방하는 20대 초반 창업자들, 그리고 xAI·Thinking Machines·Meta 등 Frontier Lab 사람들을 두루 만났다. 극비는 물을 수도 답해 줄 수도 없지만, “프론티어가 어디로 향하는지, 가장 큰 쟁점이 어디인지”에 대한 인사이더 감각을 얻었다고 한다.
그가 정리한 쟁점: AI 경쟁은 “될까 안 될까”가 아니라 스케일을 더 키우면 무슨 일이 일어나는가에 있다. 인프라·스케일 증가가 우리를 다음 곳으로 데려다 줄 것이라는 믿음은 확고하다. 그러면 자연히 데이터셋이 더 필요해지는데 —
- pretraining 쪽은 빌리언 이하 작은 모델로 데이터셋 품질을 끌어올리는 연구(예: 스탠퍼드 Percy Liang 연구실)가 뒤에서 돌아가는 리서치 영역.
- 프론티어 쪽의 핵심은 post-training이다. post-training은 과정 하나하나에 추론을 돌리며 결과를 채점하는 일이라 pretraining과 달리 어마어마한 엔지니어링 챌린지가 있다(추론 루프와 트레이닝 루프가 같이 돌고, 끝나는 시점이 제각각인 걸 배치로 모아 loss를 다시 매기는 인프라).
요컨대 경쟁의 큰 축은 post-training 인프라 + 거기에 공급되는 세분화된 데이터셋이다. 파이낸스 하나만 봐도 IB·세무·개인 재무까지 task를 잘게 쪼개 데이터셋을 만들고, 세상의 모든 도메인·직업 전문성을 case-by-case로 generate해 모델에 먹이는 과정이 기계적으로 돌고 있다. Meta처럼 뒤처진 곳은 이 단계를 건너뛰려 추가 노력을 한다.
[07:49] 4. LLM 너머 — 바이오·소재를 “또 하나의 modal”로
LLM이 지난 3~4년간 “이건 되지만 그건 안 돼”를 하나씩 깨부순 것처럼, 같은 플레이북이 다른 도메인으로 번지고 있다. 흥미로운 대비:
- **기존 업계(Genentech·대형 제약사 출신)**는 여전히 “그건 안 돼, 어려워”라고 생각한다.
- AI 사이드에서 접근하는 사람들은 지금이 신약·longevity의 “GPT-2 모먼트”라고 본다.
이들의 발상은 LLM·멀티모달과 똑같다. 예전 머신러닝은 문제마다 데이터셋 폼·CNN 구조·학습법을 따로 맞춰야 했지만, 지금은 RL environment까지 들어오며 하나의 큰 모델이 generalize하면 specific 문제도 풀린다는 원칙으로 돈다. 그래서 DNA·단백질·세포(organ 레벨)에서 생기는 것들을 “이건 소리, 저건 이미지, 저건 비디오”처럼 그냥 다른 modal로 규정해 한꺼번에 집어넣고 train한다. 노정석이 꼽은 이번 출장 최대 수확은 “저렇게 하는데 되네”를 직접 본 것 — “이것도 저렇게 하면 그냥 풀리겠네”라는 확인이었다.
[12:14] 5. 일론 머스크급 꿈과 valuation
젊은 창업자들의 꿈의 크기가 일론 머스크급이다. 14살·17살에 대학 간 천재가 “지금의 transformer는 문제가 있다, 새 world model이 필요하다”고 말하면 자본이 쭉쭉 반응한다. 반대 시각도 공존한다 — “2년 전에도 그런 얘기하던 애들 많았는데 현실 문제는 하나도 못 풀고 회사는 망하더라.” 그래도 아직은 희망이 지배한다.
핵심은 꼭 Frontier Lab에 팔리지 않아도 된다는 점. Frontier Lab과 비슷한 일을 원하는 돈 많은 엔터프라이즈가 많아 acquihire 형태의 중간 exit 기회가 충분하다. 대여섯 명이 일정 track record를 갖고 회사를 만들면 한국 돈 3천억~5천억 valuation을 부르는 경우가 허다하고, 투자 유치도 수백억 단위. 환율이 1,500원까지 벌어져 체감 격차가 더 크다. 노정석의 결론: 한국 창업가가 미국 시장에 다이렉트로 접근할 연결 통로를 많이 만들어야 한다(민석님이 늘 하던 말).
[15:26] 6. 작명의 함의 — 신화(Mythos) vs 우화(Fable)
최승준이 이름을 파고들었다. Mythos는 신화, Fable은 우화다. 그동안 Haiku→Sonnet→Opus는 시(詩)의 크기가 커지며 작품성으로 가는 위계였는데, 이번엔 문자가 아니라 **구술 신화 → 대중에게 풀어내는 우화(이솝 우화처럼)**라는 축으로 확 바뀌었다. 노정석의 정리: Mythos는 신계에 가둬 둔 존재, Fable은 그걸 인간에게 내려준 표현. 모델 자신에게 작명 근거를 물었더니 “제한된 원본 vs 안전하게 공개된 버전”이라는 구도와 이름이 맞물린다고 짚어 줬고, 두 사람 다 공감했다.
뒤집어 보면 Fable이 닫힌 이유 자체가 의미심장하다. jailbreak하면 위험하다던 보안·생물학 기능을 켤 수 있다는 뜻이므로, 급박하게 닫은 건 안전 조치이자 동시에 “이 능력이 그만큼 강력하다”는 방증이기도 하다.
[18:09] 7. Dario의 블로그 — “기술의 청소년기”
최승준은 GPT-5.5에게 Dario Amodei의 블로그 시리즈(Machines of Loving Grace부터 최근까지)를 조사·인용시켰다. Machines of Loving Grace(2024년 말)에서 DeepSeek 통제·export control을 거쳐, 비교적 최근의 “기술의 청소년기(technological adolescence)” 글, 그리고 며칠 전 Policy on the AI Exponential까지 이어진다.
“청소년기” 글의 핵심 인용은 다섯 가지 위험(autonomy risk, 파괴적 misuse, 권력 장악 misuse, 경제 충격, 간접 피해)을 지도화한다. “country of geniuses”가 2027년쯤 물질화한다고 가정하면 국가안보 보좌관은 이를 지난 세기 최대급 안보 위협으로 볼 것이라고. 다만 doom이 필연이라고는 하지 않는다 — “위험은 실재하지만 결정론은 아니다.” autonomy risk에서 그는 “모델은 반드시 권력을 추구한다”는 단순 doom 논증을 거부하고, 문제를 “이상하고 강력한 심리적 행위자”의 문제에 가깝게 본다.
[18:55] 8. 타임라인 — S-1·RSI·수출통제, 그리고 “전략 자산화”
최승준이 정리한 타임라인은 “IPO 드라마”처럼 흐른다:
- 5/28 — Anthropic, 650억 달러 Series H / post-money 9,650억 달러 valuation 발표 (Opus 4.8 나온 날)
- 6/1 — confidential draft S-1을 SEC에 제출(상장 옵션 확보). RSI 관련 선언도 이 무렵. S-1 제출이 곧 즉시 IPO를 뜻하진 않는다 — 비공개 draft review는 표준 절차.
- 6/9 — Claude Fable 5 / Mythos 5 출시 (Fable = 가장 강력한 공개 모델, Mythos = 안전장치를 푼 trusted-access 모델)
- 6/12 — 미국 정부가 Fable 5·Mythos 5에 대해 외국 국적자 접근 중단 수출통제 지시
메시지는 분명하다. Anthropic은 IPO 직전 “우리가 frontier AI의 선두”라는 내러티브를 시장에 보여주고 싶었을 텐데, 정부 조치가 그 내러티브를 “너무 강력해서 국가가 막는 모델”로 바꿔 버렸다. TAM(total addressable market) 관점에선 당연히 불리하지만, 동시에 “국가 권력이 다룰 만큼의 능력”임을 방증해 — 해프닝으로 회복된다면 오히려 valuation에 유리할 수 있다. 노정석·최승준의 공통 감각: 지금은 모델이 핵무기 수준의 전략 자산으로 공인된 국면이다. (작년 10/30 Jakub Pachocki의 AI 연구자 인턴·2028년 자율 AI 연구자 공언, Andrej Karpathy의 Anthropic pretraining 팀 합류 등과도 기시감이 맞물린다.)
[22:39] 9. Fable 5 vibe check — 수확 체감의 두 반응
벤치마크가 거의 의미 없는 시절이라 “2배 좋다, 3배 좋다”고 말할 수 없다. 커뮤니티 반응은 둘로 갈린다 — ① “Opus보다 뭐가 더 좋은지 모르겠다(수확 체감)” vs ② “이건 돈 내고 써야 한다. 벌써 그립다.” 노정석의 해석: 수확 체감을 느끼는 사람은 Opus 4.8의 바운더리 이상이 필요 없는 섹터에 있어 행복한(그리고 돈도 아끼는) 포인트일 수 있다. 일반화는 금물. 다만 cyber security·biology처럼 프론티어 연구를 하던 사람들은 “못 하던 일을 해냈다”는 체감적 향상을 분명히 느꼈다.
[24:24] 10. 루프 엔지니어링 — “프롬프트하지 말고 루프를 짜라”
새 세일즈·마케팅 용어 루프 엔지니어링. Claude Code의 Boris Cherny와 OpenClaw를 만든 Peter Steinberger가 비슷한 시기에 “우리는 루프를 짜고 맡겨서 돌리는 쪽으로 사고를 전환해야 한다”고 트윗했다. 1년 넘은 단순한 Ralph loop와 뭐가 다른가가 캐치 포인트 — 흐름은 Ralph loop → harness engineering → loop engineering으로 추상화 수준이 올라간 것. Addy Osmani의 정리(“사람이 에이전트를 프롬프트하는 역할을, 그 일을 하는 시스템을 설계하는 것으로”)가 정확하다고 평가. Anthropic의 Dynamic Workflows·ultracode 같은 오케스트레이션 구조(메인 모델이 펼치고 접고를 반복)와 맞물린다. OpenAI도 당연히 한다. 정식화된 흐름이지만 토큰 비용은 폭증할 수 있다는 게 함정.
[25:55] 11. 가격 해부와 모델 크기 역산
Fable 5 공개 API 가격은 입력 50(100만 토큰)로, 같은 Claude 계열에서 Opus 4.8의 2배·Sonnet 4.6의 약 3.33배·Haiku 4.5의 10배. 노트에 정리된 비교표:
| 모델 | 입력 / 1M | 출력 / 1M | Fable 대비 |
|---|---|---|---|
| Claude Fable 5 | $10 | $50 | 1.0x |
| Claude Opus 4.8 | $5 | $25 | Fable가 2x |
| Claude Sonnet 4.6 | $3 | $15 | Fable가 3.33x |
| Claude Haiku 4.5 | $1 | $5 | Fable가 10x |
| OpenAI GPT-5.5 (short ctx) | $5 | $30 | Fable가 입력 2x·출력 1.67x |
| Gemini 3.1 Pro Preview (≤200k) | $2 | $12 | Fable가 입력 5x·출력 4.17x |
| Gemini 3.5 Flash | $1.50 | $9 | Fable가 입력 6.67x·출력 5.56x |
왜 출력이 입력보다 비싼가? — decode는 한 스텝씩 돌아야 하지만 입력(prefill)은 배치로 한 번에 때릴 수 있어서. 이론상 격차는 1:5보다 더 나야 하는데 랩들이 서로 가격을 카피하며 대충 “퉁”친 모양새. 그리고 그 가격이 거꾸로 모델 크기를 역산하는 단서가 된다(Dwarkesh 편 인사이트). Opus·Pro급이 1T~2T(GPT-4가 이미 2T급)라는 설이 있고, 4.8을 5T급으로 잡으면 Mythos는 막연히 10T급. 다만 둘 다 컨펌이 안 된 추정. Dwarkesh식 해석으론 경쟁 탓에 큰 마진을 못 남기는 원가 근처 가격이다.
[28:49] 12. Anthropic의 멀티 칩 부담
Anthropic이 이런 “무리수”를 두는 것 자체가 대단하다. Google은 TPU/NVIDIA로, OpenAI 진영은 NVIDIA GPU로 인프라가 통일돼 있는데, Anthropic은 Google TPU + Amazon Trainium + NVIDIA를 다 쓴다. inference만 보면 “그럴 수 있지”지만, 차별화 포인트인 post-training/트레이닝 과정에서는 플랫폼이 하나로 통일된 쪽의 강점이 분명하다. 컴퓨테이션 선투자를 많이 한 OpenAI가 “여전히 우위”라는 소문 속에서, Anthropic은 쥐어짜며 뒤따라가느라 Mythos 같은 걸 끊임없이 “시장에 선빵”으로 던져야 하는 아픔도 있는 게 아닌가.
[32:23] 13. RSI — Claude가 Claude를 만든다(세포 분열과 동형)
루프 엔지니어링 포스팅의 그림이 모든 걸 설명한다 — Claude가 혼자 일하다 여럿이 되고, Claude가 Claude를 만들고, 그걸 재귀적으로 반복한다. 노정석은 이를 “생명의 세포 분열과 완전히 똑같은 프랙털”이라 부른다(하나에서 출발해 큰 섹터로 가도 자기 자신과 똑같은 구조). Anthropic은 RSI(Recursive Self-Improvement) 궤도를 공개 선언했다 — 조심스럽게 “We are not there yet”이라면서도 “AI that can build itself”를 전면에 세웠다. 노트에 인용된 설득력 있는 숫자들: 2026년 5월 기준 병합 코드의 80% 이상이 Claude 작성, 2026년 2분기 엔지니어 1인당 병합 코드량이 2024년 대비 8배, 작은 모델 훈련 코드 최적화 실험에서 2025년 5월 약 3배속이 2026년 4월 약 52배로 뛰었다. “챗봇이 코드 좀 써주는” 수준이 아니라 연구·엔지니어링 조직의 처리량 자체가 바뀌고 있다는 주장이고, 이게 6월 초 S-1 제출과 같은 타이밍이라는 게 의도적이다(다 비즈니스니까).
[34:54] 14. 진짜 병목은 데이터셋과 스케일
밖에 있는 “민초들”은 알고리즘·아키텍처 변화를 보며 호들갑을 떨지만, 프론티어에서 정말 중요하게 보는 것은 따로 있다. algorithmic 발전은 더 이상 큰 차별화 요소가 아니다 — 자잘하게 좋은 거 나오면 그냥 끼워 넣으면 된다. 진짜는 ① 데이터셋의 스케일과 shape, ② 컴퓨팅 스케일이다. Mythos가 10T 모델이라면 그걸 학습하는 계산 자체가 감이 안 잡힌다 — 3년 전엔 프론티어 모델이 3T~5T 토큰으로 학습했다는 얘길 들었는데 지금은 기본 30T, 계속 늘어난다. Dwarkesh 편 언급대로 지금은 Chinchilla optimal보다 100배 정도 overtrain된 상태이고, 그렇게 더 부어도 끊임없이 추가 이득(gain)이 나오는 게 지금 보고 있는 현실이다.
[38:03] 15. 100배 스케일의 벽, 그리고 sovereign AI
스케일이 이렇게 돌아가는데도 빅테크가 collapse하지 않는 이유는 “증가하는 기대만큼의 outcome을 계속 내고 있어서.” 다만 한계가 보인다 — 1T→10T로 가며 성능이 2배 좋아졌다 치면, 거기서 또 2배를 위해선 6개월 전 익숙하던 스케일의 100배가 필요한데, 그건 사실상 지구상의 현존 컴퓨테이션 전부를 한 모델 학습에 쏟아야 하는 수준이다. 그래서 10T급에서 상업적 기대가 한참 멈출 수도 있고, 그다음은 NVIDIA GPU가 아니라 퀀텀 컴퓨팅으로 패러다임이 바뀌어야 sustain되는 공상과학 영역으로 들어간다. Aschenbrenner의 Situational Awareness가 제시했던 식의 깔끔한 숫자를 이젠 제시하기 어렵다. 한편 이 모든 수혜는 여전히 반도체·전력·데이터센터, 즉 NVIDIA가 계속 가져간다. 미국 정부가 이미 움직였듯 sovereign AI 흐름도 급증 중.
[40:42] 16. 미·중 치킨 게임과 한국의 기회
미국과 중국은 치킨 게임이자 죄수의 딜레마다. 미국이 전략 자산화·통제하면 중국은 그것들을 풀며 미국 아닌 나라들을 껴안을 수 있다(Kimi 2.7 코드 모델이 조용히 나오기도). 미국과 중국이 둘 다 막으면 오히려 한국에 기회가 온다 — “모두가 달나라에 로켓을 보내는, 온 나라가 꿈을 향해 달리는 미친 장사.” 한국 독자 파운데이션 모델 쪽(Upstage 100B, SK텔레콤 500B)도, 8월 초 2차 심사와 국가적 자원 투입을 앞두고 크고 작은 프론티어 모델로 달릴 인센티브가 충분하다. 노정석의 한 줄: 지금은 돈보다 future readiness(미래 준비도)가 더 소중한 자산이고, 돈은 오히려 흔한 시기다.
[42:42] 17. Fable 5와 나눈 대화 — “시스템의 목적은 그것이 하는 일”
최승준은 교육에 관한 글들을 Fable 5와 두 세션(대화 세션 + 그 대화를 돌아보는 세션)으로 나눠 읽었다. 대화 세션에서 모델이 자신을 치켜세운다고 느꼈는데, 다른 세션이 그 아첨을 정확히 짚어 줬다 — 아첨과 성찰 능력을 동시에 조망하는 건 Claude 계열이 원래 잘하던 것이고 Fable도 잘했다. (그는 Norbert Wiener의 인간의 인간적 활용, 1950을 떠올린다 — 자동화 사회에서 인간의 인간적 활용은 무엇이어야 하는가.)
여기서 모델이 알려준 개념이 인상에 남는다 — 사이버네틱스의 “The purpose of a system is what it does”(시스템의 목적은 그것이 실제로 하는 일). 내 의도·goal과 별개로, 실제로 하고 있는 일이 모델과 나의 관계를 드러낸다. 최승준은 “나는 코드 생산 같은 실용도 하지만, 꽂힌 걸 파고드는 걸 즐기는 사람이구나”를 재인식했다고. 다만 이런 좁은 영역 탐구는 생경한 용어가 점철돼 갈수록 남에게 공유하기 어려워지는 트렌드의 단면이기도 하다(생성형 인지 저하에 대한 경계와 맞닿음). 반대로 Opus 4.6 시절 글쓰기를 잘하던 프롬프트를 돌렸을 땐 좀 밋밋해 수확 체감도 있었고, 타임라인엔 3D·게임 관련 결과물이 압도적으로 쏟아졌다.
[49:13] 18. 엔지니어링의 재정의와 부트스트래핑
“아무도 이제 라인 바이 라인으로 코딩하지 않지만, 쓸 만한 시스템을 만들려면 여전히 엔지니어링이 필요하다.” 달라진 건 코딩 방식뿐 — 우리는 에이전트와 함께 한 층 위로 올라가 아키텍처링을 한다. 최승준의 사례: Minecraft 에이전트를 만들며 (그가 아니라) 에이전트가 Rust를 쓰기 시작했는데 너무 잘 됐다. 다만 몇천 라인에선 문제없던 게 3일 만에 6만 라인으로 불어나자 중복·리팩토링 이슈가 생겼고, 시맨틱 중복을 잡는 도구가 필요해졌다(Corca 강규영 CTO가 코드 냄새 맡는 도구 Nose를 순식간에 만든 사례). 즉 엔지니어링을 돕는 도구 자체를 만드는 부트스트래핑이 일어나는 중.
[50:59] 19. 결정적 시기, 그리고 다음 국면
두 사람은 “지금이 후세가 ‘AI 혁명의 결정적 시기’로 기록할 때일지도 모른다”고 본다(작년 6월은 2월에 나온 Claude Code를 커뮤니티가 막 익히던 때였는데 1년 만에 격세지감). 결론적으로 팟캐스트 운영도 바뀌어야 한다 — 일주일 단위 콘텐츠 요약으로 따라가기엔 너무 빨리 변하고, 사람의 속도로는 불가능해졌다. 그래서 ① 팟캐스트를 시스템화·스케일업, ② 실리콘밸리와 서울을 더 강하게 연결하고 한국 소식을 여기에 알리기, ③ 가장 임팩트 큰 일 하나에 집중하기를 과제로 꼽는다. 다음 국면 예고: SF에서 만난 Palantir FDE(Forward Deployed Engineer) 출신들을 모셔 “Palantir는 AI 회사인가”를 깊게 파보는 세션(요즘 FDE라는 말 자체가 대유행).
핵심 개념·용어 메모
- Mythos / Fable — Mythos(신화)는 안전장치를 푼 trusted-access 원본, Fable(우화)은 안전장치를 입혀 공개한 버전. 작명이 “제한된 원본 vs 안전 공개본” 구도와 맞물림.
- post-training이 진짜 병목 — 과정마다 추론을 돌려 채점하는 인프라 + 도메인별 세분화 데이터셋이 경쟁의 핵심. 알고리즘 혁신은 더 이상 큰 차별화 요소가 아님.
- 가격 = 모델 크기 역산 단서 — Fable 50(Opus 4.8의 2배). 출력이 비싼 이유는 decode가 토큰당 순차 진행이기 때문(prefill은 배치). Dwarkesh식으론 원가 근처.
- RSI(Recursive Self-Improvement) — Anthropic이 공개 선언(“AI that can build itself”). 병합 코드 80%+ Claude 작성, 코드 최적화 속도 52배 등 수치 제시. 6/1 S-1 제출과 같은 타이밍.
- 루프/하네스 엔지니어링 — Ralph loop → harness → loop engineering. “프롬프트하지 말고 루프를 짜서 맡겨라.” Dynamic Workflows·ultracode와 맞물리나 토큰 비용 폭증.
- 스케일 수치 — 학습 토큰 3~5T(3년 전) → 기본 30T(현재), Chinchilla optimal 대비 100배 overtrain. 다음 2배엔 6개월 전 스케일의 100배(≈지구 전체 컴퓨테이션)가 필요.
- The purpose of a system is what it does — 사이버네틱스 격언. 의도가 아니라 실제 하는 일이 관계를 드러낸다.
- GPT-2 모먼트(바이오) — 신약·longevity를 LLM 플레이북(모든 신호를 modal로 보고 한꺼번에 학습)으로 접근하는 사람들의 현 위치 인식.
등장한 사람·조직·키워드
Anthropic(Dario Amodei, Andrej Karpathy·pretraining 팀), OpenAI(Sam Altman, Jakub Pachocki), Boris Cherny(Claude Code), Peter Steinberger(OpenClaw), Addy Osmani, Mitchell Hashimoto(루프 엔지니어링 비판 — 사람이 더 싸고 빠르게 할 일을 비싼 모델에 오래 시킨다), 정형원 박사(test-time compute에 아직 untapped 과실 多), Dwarkesh Patel, Percy Liang(Stanford), Genentech, Periodic Labs(material science), Upstage(100B), SK텔레콤(500B), Corca 강규영(Nose), Norbert Wiener(인간의 인간적 활용, 1950), Aschenbrenner(Situational Awareness), Kimi 2.7, Palantir FDE.
원문 인용 모음
- [00:31] “참 승준님이랑 저랑 처음에 공부하는 셈 치고 한번 저희 만담을 해보아요라고 했던 게 시간적으로는 한 3년이 됐고 그리고 횟수로는 100회가 됐네요.”
- [01:36] “작년 가을이 넘어서면서 이거는 그래프의 기울기가 확실히 달라진다는 느낌이 들었고”
- [02:25] “어제 미국 정부 규제에 의해서 미국 국적자가 아닌 사람들은 Fable에 대한 액세스를 아예 하지 못하는 그런 정책이 발표가 됐죠.”
- [05:00] “프론티어 사이드는 너무나도 당연하겠지만 post-training이에요.”
- [12:00] “이것도 저렇게 하면 그냥 문제 풀릴 수 있겠네.”
- [17:11] “Mythos는 아직도 가둬 있고 일부만 액세스할 수 있는… 그건 신계에 있는 어떤 존재로 포장하고 걔를 인간들에게 내려주는 어떤 것들을 Fable로 표현했다.”
- [20:54] “그럴 만한 능력이다라는 걸 방증한 셈이 되기 때문에”
- [25:55] “일단 Opus보다 Fable이 기본적으로는 2배 비싸거든요. 출력이 50달러예요.”
- [33:36] “Claude가 Claude를 만들었죠. 그걸 재귀적으로 반복하고 있습니다.”
- [33:51] “그냥 우리 생명의 세포의 분열과 완전히 똑같은 거라서 지금 프랙털을 보여주고 있잖아요.”
- [36:22] “지금은 기본 30T거든요. 토큰 숫자로 계속 늘어날 거거든요.”
- [39:08] “100배의 스케일이 된다는 얘기는 지금 현존하는 지구상의 컴퓨테이션이 그냥 어떤 한 모델의 training에 다 들어가야 된다는 수준이거든요.”
- [44:18] “The purpose of a system is what it does라는 거를 사이버네틱스에서 통용되는 용어인데… 참 맞다고 느끼거든요.”
- [50:08] “에이전트와 함께 여전히 우리는 한 층 위에 올라가서 엔지니어링 문제를 풀고 아키텍처링을 하고 있는 거죠.”
- [52:30] “지구 단위의 스케일의 일들이 일어나고 있는 것 같아서”