官方技术资料：NVIDIA（第 4 页）
官方技术资料 · NVIDIA：共 264 条，本页为第 46–60 条。
Encoder Disaggregation
Separate vision encoding into a dedicated worker for independent scaling
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Multimodal KV Routing
Include multimodal identity in the router's combined cache-and-load cost
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Parallel Media Decoding
Decode image inputs concurrently in the Rust frontend and transfer pixels to inference backends
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Tool Call Parsing (Dynamo)
Connect Dynamo to external tools and services using Dynamo's built-in tool call parsers
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
Troubleshooting Tool Calls
Capture raw model output with logprobs so issues can be localized
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：deployment · inference-optimization · observability
链接复核时间：2026-09-25
RL Implementation Guide
Connect RL orchestrators to Dynamo inference and engine administration interfaces
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Dataset Overview: LLM, VLM, and Retrieval Datasets in NeMo AutoModel
This page summarizes the datasets supported in NeMo AutoModel for LLM, VLM, and retrieval training and shows how to plug in your own datasets using Python…
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Checkpointing in NeMo AutoModel
During machine learning experiments, the model training routine regularly saves checkpoints.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Distributed Setup (Python API)
Configure tensor, pipeline, context, and expert parallelism for NeMoAutoModel* loaders with the typed DistributedSetup object.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
FP8 Training in NeMo AutoModel
NeMo AutoModel supports FP8 quantization using TorchAO and torch.compile to accelerate training on compatible hardware.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Use Gradient (Activation) Checkpointing
Gradient checkpointing, also called activation checkpointing, trades a little extra compute for a large reduction in GPU memory by recomputing intermediate…
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Mixed-Precision Training
Recommended dtype patterns for fp32 master weights and optimizer state, bf16 compute, and FSDP2 mixed precision in NeMo AutoModel.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Pipeline Parallelism with AutoPipeline
As large language models continue to grow in size, training and fine-tuning them efficiently across multiple GPUs has become increasingly challenging.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25
Multi-Turn Agent (Tool-Calling) SFT with NeMo AutoModel
End-to-end multi-turn, function-calling SFT on Qwen2.5-3B with the glaive_toolcall and SynthTraces datasets
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：agent · tool-calling · inference-optimization
链接复核时间：2026-09-25
Diffusion Model Fine-Tuning with NeMo AutoModel
Fine-tune text-to-image and text-to-video diffusion models with NeMo AutoModel using flow matching, from dataset prep through multi-node training and inference.
证据用途：用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界：只直接证明 NVIDIA 技术栈的实现与声明；版本化接口和实验能力使用前应复核
关联概念：fine-tuning · distributed-training · pretraining
链接复核时间：2026-09-25