AI芯片獨角獸最新產品 比英偉達GPU快20倍
綜合外媒報導,人工智能(AI)芯片巨頭英偉達(Nvidia)的競爭對手、全球最大AI芯片獨角獸 Cerebras Systems宣布,推出Cerebras Inference,據稱是全世界最快AI解決方案,較英偉達目前這一代GPU快20倍,價格更便宜只有GPU的五分之一。
本文引用地址:http://www.j9360.com/article/202408/462438.htmCerebras的AI推論工具可為大語言模型Llama 3.1 8B,每秒生成1,800個 tokens,比超大規模數據中心的英偉達GPU解決方案快20倍。而且Cerebras價格以每百萬tokens收10美分起跳,與英偉達GPU解決方案相比如同九牛一毛。
Cerebras執行長費爾德曼(Andrew Feldman)受訪時表示,「我們產品的性能GPU達不到,而且精確度最高,價格最便宜,更透露已經從Nvidia那里搶到有意義的客戶。」
Cerebras于2015年創立,曾表明挑戰英偉達市場龍頭地位,更獲ChatGpt開發商OpenAI行政總裁阿爾特曼(Sam Altman)投資。另有消息指出,Cerebras計劃最快10月在美國上市。
評論