NVIDIA 在 Microsoft Azure 上推出面向全球企业和初创公司的生成式 AI Foundry 服务
2023-11-16 来源:EEWORLD
SAP、Amdocs、Getty Images 率先使用 NVIDIA AI Foundation Models
构建自定义 LLM、在 NVIDIA DGX 云上进行训练,并使用 NVIDIA AI Enterprise 软件进行部署
Microsoft Ignite — 2023 年 11 月 15 日 — NVIDIA 于今日推出一项 AI foundry 服务,助力企业和初创公司在 Microsoft Azure 上开发、调优和部署其自定义生成式 AI 应用。
这项 NVIDIA AI foundry 服务整合了 NVIDIA AI Foundation Models、NVIDIA NeMo™ 框架和工具,以及 NVIDIA DGX™ 云 AI 超算服务三大要素,为企业提供创建自定义生成式 AI 模型的端到端解决方案,并且支持企业使用 NVIDIA AI Enterprise 软件部署其定制模型,以支持生成式 AI 应用,包括智能搜索、摘要和内容生成。
行业领导者 SAP SE、Amdocs 和 Getty Images 率先使用了这项服务来构建自定义模型。
NVIDIA 创始人兼首席执行官黄仁勋表示:“企业需要自定义模型来执行基于公司专有 DNA (即数据)训练的专业技能。NVIDIA 的 AI foundry 服务整合了我们的生成式 AI 模型技术、LLM 训练的专业知识和超大型 AI 工厂。我们在 Microsoft Azure 中构建这项服务,使全世界的企业都能够将他们的自定义模型与微软全球领先的云服务进行连接。”
微软公司董事长兼首席执行官 Satya Nadella 表示:“从芯片到软件,我们与 NVIDIA 的合作涵盖了 Copilot 堆栈的每一层,双方正在这个 AI 新时代共同创新。借助 NVIDIA 在 Microsoft Azure 上提供的生成式 AI foundry 服务,我们将为企业和初创公司提供新的功能,方便他们在云上构建和部署 AI 应用。”
行业领导者构建量身定制且响应及时的 LLM
NVIDIA 的 AI foundry 服务可用于为企业软件、电信、媒体等各个行业的生成式 AI 应用定制模型。在部署就绪后,企业就可以使用一种名为检索增强生成(RAG)的技术将其自定义模型与企业数据连接,从而获得新的洞察。
作为 Microsoft Azure 上 NVIDIA DGX 云的首家客户,SAP 计划使用该服务和经过优化的 RAG 工作流,以及在 Azure 上运行的 NVIDIA DGX 云和 NVIDIA AI Enterprise 软件,以帮助自定义和部署其全新的自然语言生成式 AI 智能副驾—— Joule®。
SAP SE 首席执行官兼执行董事会成员 Christian Klein 表示:“Joule 秉承了 SAP 融合业务和技术领域的独有定位,并建立在与之相关、可靠且负责的 Business AI 基础之上。通过与 NVIDIA 合作,Joule 可以通过自动执行耗时的任务并快速分析数据,来提供更智能和个性化的体验,帮助客户从而挖掘生成式 AI 在其业务中的潜力。”
Amdocs 是一家面向电信和媒体公司的领先软件与服务提供商,该公司正在为 Amdocs amAIz 框架优化模型,以加快全球电信公司采用生成式 AI 应用和服务的速度。
Amdocs 总裁兼首席执行官 Shuky Sheffer 表示:“生成式 AI 技术为服务提供商带来了一次绝佳的机会,可以重塑他们与客户互动的方式。在 NVIDIA 和微软技术的加持下,Amdocs amAlz 框架将更快地为客户带来由生成式 AI 驱动的新应用,并提供企业级的安全性、可靠性和性能,使其能够从生成式 AI 的巨大潜力中获益。”
用于自定义生成式 AI 的精选优化模型
使用 NVIDIA Foundry 服务的客户可从多个 NVIDIA AI Foundation 模型中进行选择,包括托管在 Azure AI 模型目录中的全新系列 NVIDIA Nemotron-3 8B 模型。开发者还可以访问 NVIDIA NGC™ 目录中的 Nemotron-3 8B 模型,以及专为 NVIDIA 加速计算优化的各种社区模型(如 Meta 的 Llama 2),这些社区模型也即将被添加到 Azure AI 模型目录中。
Nemotron-3 8B 系列经过 80 亿个参数优化,其包含针对不同用例进行调整的版本,并具有构建自定义企业生成式 AI 应用的多语言功能。
NVIDIA DGX 云现已在 Microsoft Azure Marketplace 上架
NVIDIA DGX 云 AI 超算服务已在 Azure Marketplace上架。该服务提供客户可租用的实例,可扩展至数千颗 NVIDIA Tensor Core GPU,并附带包括 NeMo 在内的 NVIDIA AI Enterprise 软件以加速 LLM 的定制化。
Azure Marketplace 新上架的 DGX 云还支持 Azure 客户使用其现有的 Microsoft Azure 消费承诺额度,来兑换 NVIDIA AI 超算服务和软件,以加快其模型开发速度。
NVIDIA AI Enterprise 软件现已集成到 Azure 机器学习中,为其添加了 NVIDIA 安全、稳定且具支持性的 AI 和数据科学软件平台。 Azure 的企业级 AI 服务也添加了 NeMo 和 NVIDIA Triton 推理服务器™。
NVIDIA AI Enterprise 也已在 Azure Marketplace 上架,为全球企业提供了广泛的生产就绪型 AI 开发和自定义生成式 AI 应用部署的选择。
- NEC收获新超算订单:英特尔CPU+AMD加速器+英伟达交换机
- 详解英伟达芯片在自动驾驶的软件移植设计开发
- Rene Haas对话黄仁勋:独特的管理理念、系统创新体系以及AI的未来
- AI 巨头 Nvidia 英伟达在汽车领域做什么?
- 芯片王者之战:座舱王者高通,再战智驾王者英伟达
- 黄仁勋称英伟达Blackwell芯片曾存在设计缺陷,靠台积电力挽狂澜
- 黄仁勋表示Nvidia正在将人工智能广泛应用于芯片和软件设计中
- AI定义汽车:NVIDIA引领自动驾驶与智算新纪元
- 消息称英伟达 RTX 50 系显卡明年一季度陆续登场,暂无 SUPER 版规划
- 联想与英伟达扩大合作,联合发布全新液冷 AI 服务器
- CGD和QORVO将彻底改变电机控制解决方案
- 当AI遇上边缘计算,研华以Edge AI推进嵌入式产业变革
- 兆易创新MCU新品重磅揭幕,以多元产品和方案深度解锁工业应用场景
- 博世与清华大学续签人工智能研究合作协议 共同推进工业领域人工智能发展
- 研华科技:投身Edge AI创新,驱动智能未来
- 英飞凌推出全球首款非接触式支付卡技术SECORA™ Pay Green,最多减少100%的塑料垃圾
- 佳能集团发布第三季度财报 继续保持增收增益
- 凝心聚力推动创新转型,清洁能源时代下特高压领域谱写更多可能性
- 恩智浦开展技术日巡回研讨会,全维赋能大众市场创新发展
- 罗克韦尔自动化亮相第七届进博会,三大引擎链动可持续未来