紅帽OpenShift AI加速混合云中的生成性AI采用
為專業合作伙伴生態系統提供強大、可擴展的基礎,包括IBM下一代AI創新成果watsonx.ai
本文引用地址:http://www.j9360.com/article/202305/447101.htm中國北京 – 紅帽峰會 – 2023年5月29日 – 世界領先的開源解決方案供應商紅帽日前宣布為紅帽OpenShift AI再添多項新功能。紅帽OpenShift AI基于開源技術,以紅帽OpenShift和紅帽OpenShift 數據科學為基礎進行構建,并在此基礎上進一步擴展后,能夠為IT領導者提供一致且可擴展的基礎,同時為數據科學家和開發人員創建專業合作伙伴生態系統,幫助他們獲取AI領域的創新成果。為實現這一目的,紅帽OpenShift AI為IBM watsonx.AI的生成式AI服務提供支撐。作為IBM的人工智能平臺,watsonx.ai可以擴展企業各方面的智能應用和服務,推進下一代基礎模型的采用。
隨著GPT-4和LLaMA等大型語言模型 (LLM) 成為主流,所有領域和行業的研究人員,及應用開發人員都在探索如何從這些以及其他基礎模型中獲益。客戶可以使用針對特定領域的數據對商業或開源模型進行微調,使其更準確地匹配特定的用例。AI模型的初始訓練會耗費大量基礎設施資源,需要使用專門的平臺和工具,然后才能考慮服務、調整和模型管理。如果沒有一個能夠滿足這些需求的平臺,企業在實際使用AI/ML方面往往會面臨諸多局限性。
OpenShift AI通過采用一致的基礎設施進行訓練、部署和推理而應對這些挑戰,以充分發揮AI的潛力。
面向開放混合云的AI
紅帽OpenShift AI為創建用于生產環境的AI/ML模型,以及運行最終應用提供了標準化基礎,有助于消除多項障礙。OpenShift AI為紅帽OpenShift提供了一致性、易用性和從云到邊緣的部署選項。平臺工程師可以根據數據科學家和開發人員的需求創建可擴展的配置。OpenShift AI可用于微調現有的模型,從而節省初始模型訓練成本,加速實現價值的速度,并使AI可供專業數據科學家之外的其他人員使用。
紅帽OpenShift AI提供了多種可選的技術合作伙伴產品,包括Anaconda、IBM Watson Studio、Intel OpenVINO和AI Analytics Toolkit、NVIDIA AI Enterprise以及Starburst。作為OpenShift生態系統的一部分,該解決方案還可接入另外30個AI/ML認證合作伙伴的產品。
對于需要滿足特定監管和合規要求的客戶,包括物理隔離和無連接的環境,他們可以使用OpenShift AI準備數據,并在本地開發、訓練和部署模型。客戶還可以在公有云中開發模型,并使用相同的一致工具和接口在本地或邊緣部署模型,從而提供獨特的混合MLOps環境,推動IT運營、數據科學和應用開發人員之間的協作。
OpenShift AI的基礎經過驗證,使客戶能夠在本地或通過云服務使用OpenShift的原生GPU加速功能更可靠地擴展,從而對基礎模型進行訓練。
紅帽OpenShift AI最新增強的功能包括:
? 用于AI/ML實驗跟蹤和自動化ML工作流的部署管道,可幫助數據科學家和智能應用開發人員更快地迭代機器學習項目,并將自動化結合到應用部署和更新中。
? 模型服務現在包括GPU對推理的支持,以及可以提高推理性能的定制模型服務運行時,并改進了基礎模型的部署。
? 模型監控使企業能夠通過中央儀表板來管理性能和運營指標。
OpenShift AI助力IBM watsonx和Ansible Lightspeed
紅帽OpenShift AI為IBM人工智能技術的最新成果提供了基礎,包括IBM Watson Code Assistant,可為您的IT組織和開發團隊提供針對特定領域的人工智能。
Ansible Lightspeed將IBM Watson Code Assistant的強大能力帶到Ansible中,使不同技能等級的用戶都能使用人工智能生成的建議編寫Ansible操作手冊。Ansible Lightspeed有助于提高Ansible用戶的生產力,無論他們在自動化方面的熟練程度如何,都能用英語命令創建Ansible操作手冊。
各行各業的企業紛紛使用紅帽OpenShift AI推動AI/ML創新,其中包括:
? Atruvia,為全球金融機構提供IT服務(包括人工智能)的德國公司,部署了基于紅帽OpenShift AI的數據科學平臺。
? Clalit Health Care Services,以色列最大的醫療服務機構,選擇使用紅帽OpenShift AI作為構建臨床研究人工智能模型的基礎。
? Guidehouse,全球咨詢和管理服務提供商,選擇使用紅帽OpenShift AI作為綜合平臺的組成部分。
? Tirando X Colombia,哥倫比亞一家以生殖健康為核心業務的非營利組織,部署了紅帽OpenShift AI用于優化其AI/ML工作。
? Veripark,為金融服務組織提供解決方案的全球供應商,使用紅帽OpenShift 數據科學構建了可以同時在云端和本地平臺上運行的全球AI/ML解決方案。
支持證言
Chris Wright,紅帽首席技術官兼全球工程高級副總裁
“在充分利用人工智能獲得好處方面,基礎模型可以為企業提供實實在在的好處,但仍需要在訓練和微調方面進一步投資,以滿足企業的獨特需求。紅帽的企業級AI愿景依托紅帽OpenShift AI的當前能力而制定,為基礎模型在生產中的訓練、維護、微調和實際使用奠定了靈活而且可擴展的基礎。最重要的是,OpenShift AI依然是OpenShift,這意味著IT組織信任并理解它,并且可以擴展AI/ML的應用范圍,從而滿足當前和未來需求。”
Liora Shechter,Clalit首席信息官
“Clalit正在經歷IT基礎架構的演變和革新,而OpenShift是我們想要依賴的關鍵新基礎架構之一。”
Sebastian Jaramillo,Tirando x Colombia社會創新經理
“在紅帽團隊和紅帽OpenShift 數據科學的指導下,我們在應用中成功優化了端到端ML/AI流程管理。這個平臺對于推進我們的工作至關重要,并將對我們的業務增長產生重大影響。我們為采用對社會產生積極影響的技術而深感自豪。”
評論