官方技术资料:NVIDIA(第 12 页)
官方技术资料 · NVIDIA:共 264 条,本页为第 166–180 条。
Event-Based API
Use generate_events for low-level control over guardrails execution.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Generation Options Reference
Configure logging, LLM parameters, and rail selection for generation.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Streaming Responses
Stream LLM responses in real-time with the stream_async method.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Architecture
Understand how NeMo Gym implements environments as composable server components.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Environments
Environments decompose into dataset, agent harness, verifier, and state — unifying evaluation, agent optimization, and training.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Evaluation
What evaluation is, how to evaluate agents and models, and what makes a good eval.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Training
Post-training techniques and how environments are used for training.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Multi-Reward Verification
Score a rollout on multiple reward components for richer evaluation and multi-objective RL
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Verification Patterns
Patterns for evaluating agent behavior and computing scores.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Equivalence Match
Extract an agent's answer and compare it deterministically with a reference value, structure, or rule.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Execution and State Match
Run generated code, queries, actions, or proofs and score the observed output or resulting state.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
LLM-as-Judge
Prompt an LLM to evaluate the agent's output against rubrics, instructions, or reference answers.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Prompt Config
Apply YAML-based prompt templates at rollout time to build responsescreateparams.input on the fly. This enables prompt sweeps without re-preparing JSONL data.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Evaluate
Run repeatable model and agent evaluations with NeMo Gym environments.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25
Aggregate Metrics
Compute summary statistics, customize per-environment metrics, and merge shard outputs from gym eval aggregate.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:model-evaluation · inference-optimization · deployment
链接复核时间:2026-09-25