개요
Toolformer(Schick 외, arXiv:2302.04761)는 언어모델이 외부 API(계산기, 검색, 캘린더, 번역기 등)를 언제, 어떤 인자로 호출할지, 그 결과를 어떻게 다음 예측에 반영할지를 스스로 학습하도록 만든 방법이다. 사람이 도구 호출 예시를 일일이 라벨링하지 않고, 모델이 자기 지도(self-supervised) 방식으로 유용한 호출 패턴을 찾아 학습한다.
핵심 메커니즘
- 모델에 소수의 도구 호출 예시만 보여주면, 모델이 대량의 텍스트에 스스로 후보 API 호출을 삽입해본다.
- 호출 결과가 다음 토큰 예측 손실을 실제로 낮추는 경우만 학습 데이터로 채택한다(불필요한 호출은 걸러진다).
- 이렇게 필터링된 데이터로 파인튜닝하면, 별도 도구 사용 전용 아키텍처 없이도 모델이 호출 시점·인자·결과 반영을 스스로 익힌다.
왜 중요한지
도구 호출을 “언제, 어떤 스키마로, 어떤 부작용 경계 안에서” 할지는 오늘날 모든 코딩/에이전트 하네스가 설계해야 하는 문제다. Toolformer는 이 결정 자체를 모델이 학습할 수 있음을 보여준 초기 사례로, loop-engineering에서 다루는 “도구 권한·스키마 설계” 논의의 학술적 뿌리 중 하나다. 2026-07-18-react-reasoning-acting이 프롬프트 레벨에서 추론-행동을 교차시켰다면, Toolformer는 도구 호출 판단 자체를 학습 대상으로 삼았다는 점에서 상보적이다.