面向开发者的 NVIDIA NeMo Guardrails
NVIDIA NeMo™ Guardrails 简化了可扩展的 AI 防护措施编排，助力生成式 AI 应用的安全防护。借助 NeMo Guardrails，您可以定义、编排并强制执行多重 AI 防护措施，从而确保大语言模型（LLM）交互的安全性、可靠性、准确性和话题相关性。该工具具备高度可扩展性和可定制性，可轻松集成至主流生成式 AI 开发框架（如 LangChain 和 LlamaIndex），并支持日益丰富的 AI 安全模型、防护措施和可观测性工具生态。
新发布的 NeMo Guardrails 微服务通过基于 API 的交互方式和更完善的防护措施管理与维护工具，进一步简化了防护措施的编排，并支持多模态防护。
NeMo Guardrails 与其他 NeMo 微服务协同，助力开发者构建数据飞轮，持续优化生成式 AI 智能体，全面提升终端用户体验。
了解 NVIDIA NeMo Guardrails 的实际应用
实施 AI 护栏，构建安全可靠的 LLM 应用。
NVIDIA NeMo Guardrails 的工作原理
AI 护栏编排，确保 LLM 应用的安全和正常运行。
NeMo Guardrails 简化了 AI 防护措施的编排，涵盖内容安全、话题控制、个人敏感信息（PII）检测、检索增强生成（RAG）合规以及越狱防护等功能。NeMo Guardrails 利用 Colang 设计灵活的对话流，并与 LangChain 等热门 LLM 和框架兼容。凭借其易于实现的模块化架构，NeMo Guardrails 可确保安全、可靠和可定制的 AI 应用，包括支持 RAG 的 AI 智能体、copilot 和聊天机器人。
开始使用 NVIDIA NeMo Guardrails 的方法
借助 NeMo Guardrails 可扩展的 AI Guardrails 编排平台，使用合适的工具和技术保护 AI 应用。
性能
NeMo Guardrails 支持 AI 护栏，可确保 LLM 推理安全可靠且合规。体验合规性提升高达 1.5 倍，延迟仅为 0.5 秒。通过强制实施 AI 模型、智能体和系统的自定义规则，确保企业 AI 运营的安全性和可靠性。使用经过优化且易于部署的预封装 NVIDIA NIM™ 微服务。
借助 NeMo Guardrails在仅有半秒延迟的情况下合规率可提升至 1.4 倍以上
通过 5 个 AI Guardrails 评估策略合规性
该基准测试表示在一台配备 8 块 H100 80G SXM 显卡的服务器上，对 Llama-3-8B 进行定制，并采用序列打包（打包长度为 4096，打包效率为 0.9958）时的表现。
On: 使用 NeMo Customizer 进行定制。
Off: 使用主流市场上的其他领先定制工具进行定制。
NVIDIA NeMo Guardrails 学习资源库
更多资源
伦理 AI
NVIDIA 的平台和应用框架使开发者能够构建各种 AI 应用。在选择或创建要部署的模型时，请考虑潜在的算法偏差。与模型的开发者合作，确保其满足相关行业和用例的要求；提供必要的说明和文档以了解错误率、置信区间和结果；并且确保在预期的条件和方式下使用模型。