官方技术资料：NVIDIA（第 16 页）
官方技术资料 · NVIDIA：共 264 条，本页为第 226–240 条。
N-Gram Speculative Decoding in TensorRT LLM #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Scaling Expert Parallelism in TensorRT LLM (Part 2: Performance Status and Optimization) #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Inference Time Compute Implementation in TensorRT LLM #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Accelerating Long-Context Inference with Skip Softmax Attention #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Sparse Attention in TensorRT LLM #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Tuning CUDA Graph Batch Sizes for Higher Output Throughput #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Helix Parallelism in TensorRT-LLM: Scaling Multi-Million-Token Decoding with KV Cache Sharding #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Joint Optimization of Agent Applications and TensorRT-LLM #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Evaluating Agentic Serving with Trace Replay and Job-Level Metrics #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Accelerating Video Generation with GEMM Quantization, Attention Quantization and Skip Softmax Attention in TensorRT-LLM #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：multimodal · inference-optimization · deployment
链接复核时间：2026-09-25
KVCacheManagerV2 Cold-Page Codec Design #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
KV Cache Compression Development Guide #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Introduction to KV Cache Transmission #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Architecture Overview #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Performance Analysis #
通过通用学习价值预筛，等待逐份重要性、时效性和替代关系审核。
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25