출처
- source_url: https://discuss.pytorch.kr/t/agentgateway-mcp-a2a-llm-ai/10957
- author: 9bow
- published: 2026-06-22
- raw: raw source:
web-2026-06-29-agentgateway-mcp-a2a-llm-traffic-gateway
요약
agentgateway는 AI 에이전트가 서로 통신하고(agent-to-agent), 도구를 호출하고(agent-to-tool), 외부 LLM에 추론을 요청하는(agent-to-LLM) 세 종류 트래픽에 보안·관측·거버넌스를 코드 수정 없이 더하는 오픈소스 프록시다. MCP(Model Context Protocol)와 A2A(Agent-to-Agent) 프로토콜 위에 구축됐으며 특정 에이전트 프레임워크나 실행 환경에 종속되지 않는다. Rust로 작성돼 롱리브드 연결과 팬아웃(fan-out) 패턴이 많은 에이전트 트래픽에서도 높은 처리량과 낮은 지연을 목표로 한다. Solo.io가 처음 개발했고 현재는 Linux Foundation 프로젝트로 호스팅된다.
핵심 문제의식은 Envoy 같은 전통적 API 게이트웨이가 짧은 HTTP 요청·응답에 최적화된 반면, MCP는 JSON-RPC 기반 상태 유지(stateful) 프로토콜이라 롱리브드 세션 전체를 추적하고 서버가 클라이언트에 비동기로 먼저 메시지를 보낼 수 있어야 한다는 점이다. 도구 목록 조회 하나가 여러 백엔드 MCP 서버 응답을 모아 합쳐야 하는 경우도 있어, 세션·메시지 인지가 없는 기존 게이트웨이는 이런 패턴에서 빠르게 자원 부담을 겪는다.
agentgateway는 트래픽 종류별로 기능을 나눈다. LLM 게이트웨이는 OpenAI·Anthropic·Gemini·Bedrock 등으로 가는 요청을 OpenAI 호환 API 하나로 라우팅하며 예산 제어, 프롬프트 보강, 로드 밸런싱, 페일오버를 지원하고 v1.3에서 추가된 가상 모델(Virtual Models)로 클라이언트에 노출할 모델명 하나를 정해 두고 뒤에서 여러 제공자로 분산할 수 있다. MCP 게이트웨이는 여러 백엔드 MCP 서버를 묶는 도구 페더레이션, stdio·HTTP·SSE·Streamable HTTP 전송, OpenAPI 통합, OAuth 인증을 지원한다. A2A 게이트웨이는 에이전트 간 기능 탐색·모달리티 협상·작업 협업을 보안이 적용된 상태로 중계한다. 이 밖에 GPU 사용률·KV 캐시·LoRA 어댑터·큐 길이를 보는 추론 라우팅, 정규식·OpenAI moderation·AWS Bedrock Guardrails·Google Model Armor·커스텀 웹훅을 조합하는 가드레일, JWT·API 키·OAuth·CEL 정책 엔진 기반 RBAC와 OpenTelemetry 관측을 갖춘 보안/관측 기능이 있으며, RBAC로 도구 포이즈닝 공격(tool poisoning attack)도 방어하도록 설계됐다.
운영 특징으로는 HTTP·gRPC·에이전트 트래픽을 한 프록시로 처리하는 통합 데이터 플레인, LangGraph·AutoGen·kagent·Claude Desktop·OpenAI SDK 등과 무관하게 동작하는 프레임워크 비종속성, 베어메탈부터 Kubernetes까지 실행 가능한 플랫폼 비종속성, 프로토콜 버전 차이를 무중단으로 협상하는 자동 업그레이드·폴백, 개발자 포털 UI, Kubernetes Gateway API 적합성, xDS 기반 무중단 동적 설정 갱신이 있다. 설치는 curl -sL https://agentgateway.dev/install | bash로 단독 바이너리를 받거나 Kubernetes 위에서 Gateway API로 배포하며, 설정 파일 없이 실행하면 ~/.config/agentgateway/config.yaml에 기본 설정을 자동 부트스트랩하고 localhost:15000/ui에서 관리 UI(리스너·라우트·백엔드·정책 확인, 내장 플레이그라운드)를 제공한다. Apache 2.0 라이선스로 공개되어 있다.
관련 위키
원문 보존 위치
원문 전체는 raw source: web-2026-06-29-agentgateway-mcp-a2a-llm-traffic-gateway에 source_url과 함께 저장되어 있다.