출처
- source_url: https://discuss.pytorch.kr/t/agents-a1-1t-35b/11368
- author: 9bow
- published: Wed, 22 Jul 2026 05:30:12 +0000
- raw: raw source:
2026-07-22-pytorchkr-topic-11368-agents-a1-1t-35b
개요
Agents-A1은 InternScience가 공개한 35B 에이전트 모델이다. 파라미터를 키우는 대신 에이전트 호라이즌(한 과제를 푸는 데 거치는 단계와 상호작용 궤적의 길이)을 늘려, 1T급 초대형 모델에 필적하는 성능을 내는 것이 목표다. Qwen3.5-35B-A3B(토큰당 약 3B 활성 MoE)를 출발점으로 하며, 학습 궤적은 평균 45K 토큰에 이른다. 논문 제목은 「Scaling the Horizon, Not the Parameters」.
핵심 포인트
- 문제의식: 웹 말뭉치에는 정답은 많지만 정답에 이르는 과정(출처·행동·도구 로그·실행·검증 결과)이 거의 없다. 호라이즌 확장의 병목은 이 과정을 잇는 지식-행동 인프라의 부재와 이질적 도메인 능력의 통합이다.
- 지식-행동 그래프(KAG): 롱-호라이즌 역량을 정보 획득·도구 호출·실행 반복·증거 검증·제약 추적 5가지 원자적 능력으로 나누고, 도메인별로 말뭉치·행동·관찰·검증기를 일급 객체로 저장한다. 실패 궤적까지 보존해 단계별 공로 배분을 가능하게 한다. 제안자–해결자–검증자 자기 대국으로 그래프를 확장하고, 검증 가능성·지름길 위험 등 5개 기준을 통과한 신호만 남긴다.
- 도메인 파이프라인: 롱-호라이즌 검색(위키 그래프 무작위 보행, 고유명사 가림, 최대 256K 문맥), MLE(해답 탐색 트리, 실패 노드도 음성 증거, 압축에도 살아남는 영속 메모와
analyze하위 에이전트), 과학 추론(약 15K 문제), 지시 따르기(Nemotron-RL 13K + 자체 롱-컨텍스트 QA 10K), 도구 호출. - 3단계 학습: ① 약 100K 궤적 전 도메인 SFT(최대 131,072 토큰) → ② 도메인별 교사(검색은 GRPO + 효율·반복 페널티, 도구 호출은 성공 직전 샘플 64개로 RL 등) → ③ 다중 교사 온-정책 증류(OPD). OPD는 교사 상위 k 토큰에만 절단된 역방향 KL을 거는 핵심 어휘 정렬(SVA)과, 샘플을 해당 도메인 교사에게만 보내는 하드 라우팅 + 도메인 정규화 손실을 쓴다.
- 도메인 충돌: 전 도메인 SFT만으로는 HLE w/ tools(47.4→41.6)·IFBench(70.2→68.7)가 오히려 떨어졌다. 단일 턴 긴 사고 패턴과 다중 턴 짧은 사고 패턴이 충돌하기 때문이며, OPD가 이를 해소했다.
- 결과: SEAL-0 56.4, IFBench 80.6, HiPhO 46.4, FrontierScience-Olympiad 79.0, FS-Research 40.0(Kimi-K2.6 17.9, GPT-5.5 26.7)에서 1T급 모델을 앞섰다. BrowseComp 75.5·SciCode 44.3은 뒤진다. MLE-Bench-Lite 43.9는 동급 최고지만 GPT-5.5(72.7)에 크게 못 미친다.
- 12시간 자율 최적화 사례: 고래 울음 탐지 과제에서 CNN 베이스라인 AUC 0.58 → 증강·최근 데이터 학습(시간적 분포 이동을 스스로 발견)·앙상블을 거쳐 0.9935(금메달 수준).
- 사용: Apache-2.0, SGLang·vLLM으로 OpenAI 호환 서빙(262K 컨텍스트, qwen3 파서). 밀집 4B 버전 Agents-A1-4B(BrowseComp 66.8, GAIA 95.1)도 공개됐다.
왜 중요한가
최전선 에이전트 역량이 반드시 거대한 파라미터에서만 나오지 않고, 과정 데이터를 만드는 인프라와 학습 레시피로 호라이즌을 늘리는 것이 대안이 될 수 있다는 근거다. 다만 MLE처럼 긴 과정 내내 목표와 과거 결정을 유지해야 하는 과제에서는 아직 격차가 크다고 연구팀도 인정한다.
참고 링크
- 원문: https://discuss.pytorch.kr/t/agents-a1-1t-35b/11368
- 논문: Scaling the Horizon, Not the Parameters (arXiv) · GitHub: InternScience/Agents-A1 · Hugging Face: InternScience/Agents-A1
관련 위키
원문 보존 위치
원문 전체는 raw source: 2026-07-22-pytorchkr-topic-11368-agents-a1-1t-35b에 source_url 및 HTML 원문과 함께 저장되어 있습니다.