近日,Oracle 和 NVIDIA 宣布,双方首次将 NVIDIA 加速计算和推理软件与Oracle AI 基础设施和生成式 AI 服务进行集成,以帮助企业加快 agentic AI 应用的创建速度。Oracle Cloud Infrastructure (OCI) 与NVIDIA AI Enterprise软件平台之间的新集成将使 160 多个 AI 工具和 100 多个 NVIDIA NIM™ 微服务在 OCI Console 上原生可用。此外,Oracle 和 NVIDIA 正在合作实现 Oracle 和 NVIDIA AI Blueprints 的无代码部署,并使用 NVIDIA cuVS 库加速 Oracle Database 23ai 中的 AI Vector Search。
甲骨文公司首席执行官 Safra Catz 表示:“Oracle已成为 AI 训练和推理的优选平台,此次合作可增强我们帮助客户实现更大的创新和业务成果的能力。NVIDIA 的产品与 OCI 的灵活性、可扩展性、性能和安全性相结合,将能够加快 AI 采用速度,帮助客户从数据中获得更多价值。”
NVIDIA 联合创始人兼首席执行官黄仁勋表示:“作为一家处理着全球大量企业数据的关键参与者与一家AI和加速计算公司,Oracle 和 NVIDIA 是推理时代完美的合作伙伴。我们将共同助力企业利用 agentic AI 进行创新,为客户和合作伙伴提供令人惊叹的成果。”
专为支持企业 AI 需求而构建的解决方案
NVIDIA AI Enterprise 将通过OCI Console 原生提供,从而减少部署推理模型所需的时间,让客户能够轻松、快速地获取 AI 工具,其中包括 NVIDIA NIM™。NVIDIA NIM™ 是面向 AI 模型的 100 多个经过优化的云原生推理微服务,包含了适用于高级 AI 推理的新 NVIDIA Llama Nemotron 模型。NVIDIA AI Enterprise 将作为 OCI 裸金属实例和使用 OCI Kubernetes Engine 的 Kubernetes 集群的部署映像提供。OCI Console的客户将享有通过 Oracle 提供的直接计费和客户支持服务。
企业可以在自己的数据中心、公有云或边缘部署使用 OCI 的 150 多个 AI 和云技术服务以及 NVIDIA 加速计算和 NVIDIA AI Enterprise。该产品提供了集成的 AI 堆栈,有助于支持数据隐私、主权 AI 和低延迟要求。
生物技术公司 Soley Therapeutics 正在部署 OCI AI 基础设施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU 来构建 AI 药物研发平台,通过捕获、解码和解释细胞语言来预测细胞命运,为复杂疾病的治疗开辟了新的可能性。
Soley Therapeutics 联合创始人兼首席执行官YeremYeghiazarians表示:“我们相信 AI 在开发解决方案方面的潜力,这些解决方案有助于为癌症和其他复杂疾病提供治疗方法。OCI 与 NVIDIA 共同打造了一个全栈式 AI 解决方案,为我们提供了必要的存储、计算、软件工具以及支持,让我们在开发 AI 药物研发平台时,能够利用 PB 级数据更快地进行创新。”
借助定制的蓝图进行大规模 AI 部署
OCI AI Blueprints提供无代码部署方案,让客户无需为软件堆栈做出决策或手动预配基础设施,即可快速运行 AI 工作负载。这些蓝图针对 NVIDIA GPU、NIM 微服务和预打包的观测工具提供了明确的硬件建议,帮助企业将 AI 项目的耗时从几周缩短到几分钟。
此外NVIDIA Blueprints为开发人员提供了企业 AI 用例的参考工作流,在整个 NVIDIA 堆栈中打造一致的使用体验。借助 NVIDIA Blueprint,企业可以使用 NVIDIA AI Enterprise 和NVIDIA Omniverse™ 软件、应用编程接口和微服务,构建并运行自定义 AI 应用。例如,开发人员可以从面向客户服务 AI 助手的 NVIDIA AI Blueprint 开始,对其进行自定义以满足自己的使用需求。为简化高级物理 AI 和仿真应用及工作流的开发、部署和横向扩展,NVIDIA Omniverse、NVIDIA Isaac Sim 开发工作站以及 Omniverse Kit App Streaming 预计将于今年晚些时候在 Oracle Cloud Infrastructure Marketplace 上架,并预先配置了由 NVIDIA L40S GPU 加速的计算裸金属实例。
Pipefy是一个适用于业务流程管理的 AI 自动化平台,通过使用推理蓝图来进行文档预处理和图像处理。
Pipefy首席软件工程师 Gabriel Custódio 表示:“我们采用了 OCI AI Blueprints 来启动 GPU 节点,并快速部署多模式 LLM,以处理文档和图像处理用例。借助这些预打包且经过验证的蓝图,我们部署在 OCI 上的 AI 模型现已实现全面自动化,速度也显著加快了。”
在 OCI Data Science 中使用 NVIDIA NIM 进行实时 AI 推理
为了进一步加速企业 AI 采用,并通过设置帮助实现快速 AI 部署,数据科学家可以直接在 OCI Data Science 中访问预先优化的 NVIDIA NIM 微服务。这种做法可支持实时 AI 推理用例,并且无需涉及复杂的基础设施管理。
为了确保数据安全性和合规性,这些模型在客户的 OCI 租户中运行。客户可以通过灵活的即用即付、按小时计费模式购买这些模型,也可以申请 Oracle Universal Credits.
企业可以使用此集成,在几分钟内通过经过优化的预配置 NIM 推理引擎部署推理端点,从而加快 AI 助手、实时推荐引擎和 copilot 等用例的价值实现速度。此外,客户可以先将集成用于较小的工作负载,再无缝扩展到覆盖整个企业的部署。
NVIDIA 加速计算平台可加快 Oracle Database 23ai 中的 AI Vector Search 的速度
Oracle 和 NVIDIA 正在合作使用 NVIDIA GPU 和 NVIDIA cuVS 加速创建向量嵌入和向量索引,即 Oracle Database 23ai 中 AI Vector Search 工作负载的计算密集型部分。
企业可以对大量输入数据(例如文本、图像和视频)进行批量向量化,并快速创建和维护向量索引,实现向量嵌入。借助 NVIDIA 加速的 AI Vector Search,Oracle Database 客户可以显著提高 AI 工作管道的性能,以此支持大量 AI 向量工作负载。
DeweyVision提供先进的计算机视觉和 AI 功能,可将媒体转化为数据,使其可访问、可搜索、可发现、可检索和可操作。DeweyVision使用 Oracle Database 23ai on Oracle Autonomous Database 来运行其 AI 驱动的无代码仓库工具。这些工具可在几分钟内对视频片段进行分类并提供直观的搜索功能,让专业制作人员能够连接工作流并快速编辑视频片段。
DeweyVision首席执行官 Majid Bemanian表示:“Oracle Database 23ai 和 AI Vector Search 可以显著提高 Dewey 的搜索性能,同时提高DeweyVision平台的可扩展性。通过使用 NVIDIA GPU 创建向量嵌入并将其加载到 Oracle Database,我们可以加快提取新数据的速度,而 Autonomous Database 和 Oracle Database 23ai 的融合功能,可以帮助我们在业务增长和开拓新机会的同时降低运营成本。我们相信,在 OCI 中运行DeweyVision、Oracle Database 23ai 和 NVIDIA GPU 将能够帮助我们实现目标 — 成为好莱坞的数据仓库。”
基于 OCI 的 NVIDIA Blackwell 让AI 无处不在
Oracle 和 NVIDIA 将继续在 OCI 公有区域、Government Clouds、Sovereign Clouds、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge 设备中使用新的 NVIDIA GPU 类型开发 AI 基础设施。
这包括NVIDIA Quantum-2 InfiniBand集群网络环境、NVIDIA Spectrum™以太网交换机,适用于市场上一些大型 AI 超级集群且经过优化的 NVIDIA NVLink™ 和 NVLink Switch 功能。此外,OCI 即将提供基于OCI Supercluster的 NVIDIA GB200 NVL72 系统,支持多达 131,072 个 NVIDIA GPU。同时,搭载 NVIDIA Blackwell Ultra GPU 的云端大型 AI 超级计算机也已开始接单。
OCI 将成为率先提供新一代 NVIDIA Blackwell 加速计算平台的云技术服务提供商之一。Blackwell Ultra 以一年前推出的 Blackwell 架构为基础,包括 NVIDIA GB300 NVL72 机架级解决方案和 NVIDIA HGX™ B300 NVL16 系统。GB300 NVL72 的 AI 性能比 NVIDIA GB200 NVL72 高出 1.5 倍。
SoundHound AI 是对话式智能领域的先进企业,产品遍布数百个企业品牌、数千家餐厅和零售商店和数百万辆汽车和设备中。该公司的语音 AI 平台在 OCI 上运行,每年处理数十亿个查询,并使用 NVIDIA GPU 为客户提供快速准确的交互体验。
SoundHound AI 首席产品官 James Hom 表示:“SoundHound AI 与 OCI 建立了长期合作关系,我们认为双方持续合作将在支持未来增长方面发挥关键作用。我们很高兴能够从各种 GPU 中获得优势,并将其用于训练新一代语音 AI。”
Vishay推出采用数字输入输出接口的25 MBd光耦,简化设计并降低成本
2024-05-29
Fortinet全球OT网络安全态势报告发布 揭示四大关键洞察
2023-09-06
亚信科技与清华大学AIR共建“6G网络与智能计算联合研究中心”
2023-03-24
Commvault任命亚洲区副总裁和亚太地区渠道和联盟区域副总裁
2023-12-12
2024-03-01
2025-03-04
2023-02-22
金砖新联接 智创新未来 2024金砖新联接创新论坛在福建厦门举行
2024-09-12
杜尔为空客A321XLR客机新型后部中央油箱提供节能的表面保护
2024-08-14
德国MR携手成都西电中特完成首个可调式电抗器项目交付,助力卡塔尔气田扩建
2025-02-20