官方技术资料:NVIDIA(第 18 页)
官方技术资料 · NVIDIA:共 264 条,本页为第 256–264 条。
Prefix-Tokenization Cache #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Quantization #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Sparse Attention #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Sub-agent Routing #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:agent · tool-calling · inference-optimization
链接复核时间:2026-09-25
Torch Compile & Prefill CUDA Graph #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Integrating Custom Kernels in TensorRT-LLM #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Attention #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
KV Cache Manager #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25
Scheduler #
通过通用学习价值预筛,等待逐份重要性、时效性和替代关系审核。
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:deployment · inference-optimization · observability
链接复核时间:2026-09-25