官方技术资料:NVIDIA(第 11 页)
官方技术资料 · NVIDIA:共 264 条,本页为第 151–165 条。
NeMo Guardrails Microservice for Production
Deploy guardrails as a production-ready microservice using the NeMo microservices platform.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Logging and Debugging Guardrails Generated Responses
Debug guardrails with verbose mode, explain method, and generation log options.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Metrics for Guardrails
Emit OpenTelemetry metrics from the opt-in IORails engine for SLO dashboards, capacity planning, and LLM cost tracking.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
OpenTelemetry Metrics Integration
Configure the OpenTelemetry SDK with OTLP and Prometheus exporters for production metrics backends.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Tracing Guardrails
Enable distributed tracing with OpenTelemetry to monitor guardrails execution and LLM calls.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
OpenTelemetry Integration
Configure OpenTelemetry SDK with OTLP exporters for production monitoring backends.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Exporting Guardrails Logs to OpenTelemetry
Forward Python logs from the NeMo Guardrails library into your OpenTelemetry backend with automatic trace correlation.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Span Reference
Reference the LLMRails, IORails, and canonical outbound HTTP spans and attributes emitted when tracing is enabled.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Security Guidelines for LLM Integrations
Follow security best practices when integrating LLMs with external resources and APIs.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Research on Guardrails
This document summarizes the most important public research on existing guardrails techniques.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
AI Runtime Security FAQ
Answers to common security architecture, enforcement, deployment, observability, and evaluation questions about the NVIDIA NeMo Guardrails library.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Use the Actions Server
Run guardrail actions in a secure, isolated environment.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Overview of the NVIDIA NeMo Guardrails Library API Server
The NVIDIA NeMo Guardrails library API server runs guardrails in a secure, isolated environment.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Checking Messages Against Rails
Validate messages against input and output rails using check_async and check methods on the LLMRails and IORails engines.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25
Core Classes Reference
RailsConfig and LLMRails class reference for loading and running guardrails.
证据用途:用于理解 GPU 计算、训练、检索、推理服务、可靠性或部署决策。
使用边界:只直接证明 NVIDIA 技术栈的实现与声明;版本化接口和实验能力使用前应复核
关联概念:guardrails · observability · model-evaluation
链接复核时间:2026-09-25