全球領先的開源解決方案提供商紅帽公司日前宣布，即將在紅帽OpenShift AI上集成支持NVIDIA NIM微服務。這一舉措旨在在一致的開源AI/ML混合云平臺支持下，為數十種人工智能（AI）模型實現優化推理。企業將能夠利用紅帽OpenShift AI和NVIDIA NIM（NVIDIA 企業AI 軟件平臺的一部分，是一套易于使用的推理微服務），加速生成式AI（GenAI）應用的交付，從而更快地實現價值。

紅帽OpenShift AI對NVIDIA NIM的支持，基于紅帽行業領先的開放混合云技術，包括紅帽企業Linux和紅帽OpenShift，建立在對NVIDIA企業AI 的現有優化基礎之上。作為最新合作的一部分，NVIDIA將實現NIM與KServe的互操作性，KServe是一個基于Kubernetes的開源項目，適用于高度可擴展的AI用例，同時也是 紅帽OpenShift AI的核心上游貢獻者。這將有助于促進NVIDIA NIM微服務在紅帽 penShift AI未來迭代中的持續互操作性。

這種集成使企業能夠利用GenAI功能提高生產率，例如利用虛擬助理擴展客戶服務、對 IT 單據進行案例匯總，以及利用特定領域的協同機器人加速業務運營。

通過將紅帽OpenShift AI 與 NVIDIA NIM 結合使用，企業可以從以下方面獲益：

●   簡化集成路徑：與其他人工智能部署一起部署 NVIDIA NIM，提高一致性并簡化管理，使通用工作流程更加順暢。

●   協調與混合云環境中其他人工智能模型部署：對 NVIDIA NIM 部署進行集成擴展和監控，確保與現有環境的協調性，并提供擴展性支持。

●   企業級的安全性、支持和穩定性：確保企業在從原型到生產的過程中，基于人工智能的業務運作平穩過渡，從而滿足業務的持續需求。

NVIDIA NIM微服務旨在加速企業的GenAI部署。NIM支持多種AI模型，包括開源社區模型、NVIDIA AI基礎模型和自定義模型，通過行業標準的應用編程接口（API），能夠在企業內部或云端提供無縫、可擴展的AI推斷服務。

支持證言

Chris Wright， 紅帽CTO兼全球工程高級副總裁

“在與 NVIDIA 的合作中，紅帽專注于消除障礙，降低復雜性，從而讓企業能快速構建、管理和部署AI應用。紅帽 OpenShift AI 為擴展 NIM 微服務的覆蓋范圍提供了一個可擴展、靈活的基礎，通過預構建的容器和行業標準 API 為開發人員賦能，所有這些都由開源創新驅動。”

Justin Boitano，NVIDIA企業產品副總裁

“每個企業開發團隊都希望盡可能快速、安全地將他們的生成式人工智能應用投入生產。在紅帽 OpenShift AI 中集成 NVIDIA NIM 標志著我們合作的一個新里程碑，因為這將幫助開發人員利用性能優化的基礎和嵌入模型，在任何云或數據中心中快速構建和擴展現代企業應用。”