官方技术资料：NVIDIA（第 1 页）
官方技术资料 · NVIDIA。开发者文档、模型与硬件技术资料。本来源共收录 264 条已通过本类收录机制的资料，分 18 页列出，均可直接跳转到原始来源。
本类权威分层：A1–A2。
Memory Management
NVIDIA cuVS uses RAPIDS Memory Manager (RMM) through RAFT so GPU algorithms can allocate temporary buffers, output arrays, and staging memory through one…
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
Dynamic Batching
Dynamic batching wraps an existing ANN index and combines many concurrent small search requests into larger GPU batches.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
Product Quantization
Product Quantization, or PQ, is a GPU-accelerated preprocessing algorithm for compressing vectors.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
Spectral Embedding
Spectral Embedding is a GPU-accelerated preprocessing algorithm for graph-based dimensionality reduction.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
cuVS Bench Backends
This page explains how cuVS Bench separates benchmark orchestration from the system that actually builds and searches an index.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
cuVS Bench
cuVS Bench is a reproducible benchmarking tool for ANN search implementations.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
cuvs_bench.synthesize_dataset
Generates a synthetic dataset of arbitrary size from a small sample of a real dataset, for benchmarking vector indexes at scales (100M, 1B, 10B+) where the…
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
Methodologies
Vector search indexes should be compared by both search quality and performance.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：rag · embedding · inference-optimization
链接复核时间：2026-09-25
FastTokens Tokenizer
Reduce frontend tokenization latency for long-context BPE models
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Metrics Developer Guide
Reference for creating counters, gauges, and histograms with Dynamo's metrics API, surfaced on the local /metrics endpoint.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：observability · deployment · model-evaluation
链接复核时间：2026-09-25
Agent Harnesses
Point coding-agent CLIs at a Dynamo deployment
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Agent Hints
Per-request serving hints for agentic workloads
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Agent Trace Replay
Capture an agent workload once, then replay it on real or simulated infrastructure
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Agent Tracing
Export Dynamo request traces, tool-call metadata, and Perfetto timelines
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Priority Scheduling
Request priority across the Dynamo router and backend engines
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25