官方技术资料：NVIDIA（第 2 页）
官方技术资料 · NVIDIA：共 264 条，本页为第 16–30 条。
Session IDs
Identify agent sessions from supported coding agents and custom clients
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
ThunderAgent Program Scheduler
Program-level scheduling with tool-boundary pause/resume on top of KV-aware routing
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Diffusion
Deploy diffusion models for image, video, audio, and text generation
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：multimodal · inference-optimization · deployment
链接复核时间：2026-09-25
Streaming Tokens and Tools: Multi-Turn Agentic Harness Support in Dynamo
Streaming Tokens and Tools: Multi-Turn Agentic Harness Support in Dynamo
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Full-Stack Optimizations for Agentic Inference with Dynamo
How Dynamo optimizes for agentic workloads at three layers: frontend API, router, and KV cache management.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Discovery Plane
Dynamo's service discovery layer lets components find each other at runtime.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Event Plane
The event plane provides Dynamo with a pub/sub layer for near real-time event exchange between components.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Request Plane
Dynamo supports two transport mechanisms for its request plane (the communication layer between services):
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Fault Tolerance Testing
Pytest infrastructure for cancellation, migration, etcd high availability, and hardware fault injection.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · observability · inference-optimization
链接复核时间：2026-09-25
Request Cancellation Architecture
Cancel in-flight work across the Frontend and workers when a client disconnects.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · observability · inference-optimization
链接复核时间：2026-09-25
Request Migration Architecture
Preserve token state and reissue in-flight requests on healthy workers after a worker failure.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · observability · inference-optimization
链接复核时间：2026-09-25
Request Rejection Architecture
Worker-load event processing, busy-state aggregation, overload errors, and hard worker admission limits.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · observability · inference-optimization
链接复核时间：2026-09-25
Observability Architecture
Signal transport, request correlation, and active worker health checks
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：observability · deployment · model-evaluation
链接复核时间：2026-09-25
DynoSim Architecture
How the replay harness composes simulated engines, routing, and Planner behavior
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Architecture Flow
This diagram shows the NVIDIA Dynamo disaggregated inference system. Color-coded flows indicate different types of operations.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25