英伟达推出NIM代理蓝图

当人工智能首次大规模引入时，它被视为通过基于网络的应用程序访问的生成式人工智能。现在，生成式正在进入企业。Google Gemma、Llama 3.1 405B、Microsoft Phi、Mixtral 和 Nemotron 等开发了特定于业务的人工智能应用程序，以支持增长并提高生产力。

NVIDIA NIM最初于 6 月推出，它提供了一种将生成式 AI 集成到应用程序中的标准化方法。它是一组可定制的 AI 工作流，旨在简化企业开发人员在 NVIDIA GPU 上构建和部署自己的生成式 AI 应用程序的过程——在任何地方：在云端、数据中心、工作站和 PC 中。然而，开发 AI 应用程序仍然具有挑战性。这就是 NVIDIA 推出 NIM Agent Blueprints 的原因。NVIDIA NIM Agent Blueprints 为特定用例(如客户服务、数据提取或药物开发)提供预先训练的模型和参考代码。

人工智能微服务和飞轮，天哪!

开发人员可以使用 NIM 的 AI 工具和微服务创建应用程序并立即开始运行。蓝图允许开发人员使用信息检索和基于代理的工作流来调整和增强工作流以执行复杂任务。此外，AI 应用程序会继续自我训练和完善。

NVIDIA NeMo 是一个端到端平台，可用于在任何地方开发生成式 AI，它有助于将模型与其数据连接起来进行训练。该模型的持续学习周期创建了一个生成式 AI 飞轮，这是一个自我强化的循环，可通过利用用户数据来创建更好的 AI。NIM 代理蓝图可帮助企业使用 NIM 微服务 NVIDIA NeMo Retriever 创建 AI 飞轮。

借助 NVIDIA AI Foundry(一种使用企业数据和特定领域知识构建自定义生成式 AI 模型以运行 Flywheel 的平台和服务)，NVIDIA 相信公司可以使用检索增强生成 (RAG) 和基于代理的架构来创建针对特定工作和任务的 AI 助手。

NVIDIA 创始人兼首席执行官黄仁勋表示：“生成式 AI 正在以光速发展。”他表示，“随着新应用的不断涌现，前沿模型能力正在呈指数级增长。企业 AI 浪潮已经到来。借助 NVIDIA AI Enterprise 工具包(包括 NeMo、NIM 微服务和最新的 NIM Agent Blueprints)，我们广泛的合作伙伴生态系统将帮助企业定制开源模型、构建定制 AI 应用，并将它们无缝部署在任何云端、本地或边缘。”

合作伙伴关系

NVIDIA 和整个“生态系统”的合作伙伴都为 NIM 代理蓝图做出了贡献。系统集成商和服务交付合作伙伴(如 Accenture、Deloitte、SoftServe、Quantiphi 和 World Wide Technology (WWT))正在努力向全球企业推广 NIM 代理蓝图。合作伙伴创建利用客户互动数据的工具来优化多个方面。

NIM Agent Blueprints 可以与合作伙伴的数据和存储平台集成，例如 Cohesity、Datastax、Dropbox、NetApp 和 VAST Data。Dataiku 和 DataRobot 等合作伙伴使用蓝图进行模型微调、治理和监控。而 Deepset、LlamaIndex 和 Langchain 使用它们来构建工作流程。Weights and Biases 利用蓝图进行生成式 AI 应用程序评估。CrowdStrike、Fiddler AI、New Relic 和 Trend Micro 可用于保护。