據悉，亞馬遜（AWS）推出了第三代AI訓練芯片Trainum3，是首款采用3nm工藝節點制造的AWS芯片，首批實例預計將于2025年底上市。

自從2018年推出基于Arm架構的CPU Graviton以來，亞馬遜一直致力于為客戶開發自研的芯片產品，Trainium是專門為超過1000億個參數模型的深度學習訓練打造的機器學習芯片。在2024年re:Invent大會上，AWS宣布Trainium2正式可用，其性能比第一代產品提升4倍，可以在極短的時間內訓練基礎模型和大語言模型。

亞馬遜發起新挑戰

亞馬遜將推出由數十萬顆自研Trainium芯片組成的超級算力集群，該集群將落地美國，2025年建成后將成為世界上最大的人工智能模型訓練集群之一。凸顯了亞馬遜此前對自研芯片Trainium的承諾 —— 將Trainium視為替代英偉達GPU的備選選項，掌握更多的主動權有利于減少對英偉達的依賴，為客戶降低成本。

該芯片集群將供由AI初創公司Anthropic使用。在2024年re:Invent全球大會上，Anthropic的聯合創始人兼首席計算官Tom Brown宣布了「雷尼爾計劃」（Project Rainier），該算力集群就是其中的核心布局。

Anthropic是亞馬遜投資的AI初創公司：2023年9月，亞馬遜向Anthropic投資40億美元；今年11月，亞馬遜再次向Anthropic追加40億美元投資。在融資聲明中，Anthropic強調雙方將合作開發Neuron軟件，它類似于芯片與AI模型之間的結締組織（connective tissue），直接對標英偉達CUDA。

此舉背后，通過投資的方式將自研芯片和Anthropic深度綁定，我們可以看到亞馬遜在大模型上更大的野心。Anthropic推出的Claude系列模型也已集成在Amazon Bedrock中，從模型能力上看，Claude系列模型是目前市面上幾乎少數可以和OpenAI旗下GPT-4對標的模型。

為了爭奪更多有大模型和云計算使用需求的客戶，亞馬遜選擇聯合Anthropic是對標微軟+OpenAI的模式。微軟Azure的收入增長，有不少是來自微軟提供的GPT-4入口，這意味著OpenAI走紅后，其為微軟的云服務Azure帶來了更多新增客戶，亞馬遜也可以復制這種模式，即利用AI大模型帶來的增量尋求更多的市場份額。

據Synergy Research Group最新公布的數據估算，2024年第三季度，亞馬遜在全球云基礎設施市場的市場份額達到31%，領先于微軟Azure平臺的20%和谷歌云的11%。

亞馬遜展現出了其在芯片互聯技術上的獨特優勢，秘密武器是其網絡技術NeuronLink，這項技術可以使所有四個服務器相互通信。與英偉達基于Blackwell架構芯片打造的服務器相比，能夠更靈活地將更多芯片連接在一起，從而大幅度提升運算速度，為用戶帶來更加流暢、高效的AI運算體驗。

值得一提的是，蘋果作為科技行業的巨頭，也選擇了與亞馬遜AWS合作，采用其定制的AI芯片來支持其搜索等關鍵服務。蘋果機器學習與人工智能高級總監貝諾伊·杜平（Benoit Dupin）表示蘋果內部正在測試Trainium2芯片，預計可節省約50%的成本。同時，蘋果還在積極評估最新的AI芯片是否可用于預訓練其Apple Intelligence模型，這無疑為AWS的AI芯片技術注入了更多的期待和可能性。

歷數亞馬遜云科技如今的自研產品陣容不難發現，他們已經擁有包括通用處理器Graviton、AI訓練芯片Amazon Trainium、AI推理芯片Amazon Inferentia，以及網絡系統Nitro在內的至少四大類自研硬件/芯片家族。

根據云成本管理和優化平臺Vantage的一項調查顯示，在實例類型的成本支出方面，在2024第一季度的Amazon EC2 M7系列通用實例類型上，采用Graviton的M7g系列達到了34.5%；到了2024年第二季度，在Amazon RDS、Amazon ElastiCache和Amazon OpenSearch托管服務所采用的實例類型中，Graviton已經超越了Intel。

不難看出，作為持續的行業領導者，亞馬遜云科技不只是擁有客觀上更多的自研芯片種類。更為重要的是，他們是真的將自研芯片投入到了主力云計算業務中，并已取得了客觀上的巨大成功。

亞馬遜自研芯片的優勢

在云廠商自研芯片的浪潮中，亞馬遜無疑是最早踐行這一趨勢的先驅：硬件自研之路始于2012年，并且從2013年就被確立為重要的業務策略，同年研發出了第一款自研芯片Nitro。

Nitro并非如今的通用處理器或AI芯片，它本質上其實是一個專用硬件系統，主要用于高性能網絡處理和虛擬化卸載，將服務器的更多CPU算力解放出來、讓這些CPU性能能夠被更多客戶所使用。

亞馬遜自主完成的所有自研芯片均由Annapurna Labs團隊設計和制造。Annapurna Labs是亞馬遜于2015年收購的半導體微電子公司，早在收購之前，雙方就在Nitro系統的開發方面緊密合作。目前，Annapurna Labs團隊成員分布在全球多個地點，包括以色列的特拉維夫、加拿大的多倫多，以及德克薩斯州奧斯汀的實驗室。

亞馬遜的自研硬件更是成為了其云服務性價比不斷攀升背后的重要因素。2021年Prime Day期間，亞馬遜首次使用Amazon Graviton2支持的Amazon EC2實例；2024年Prime-Day期間，亞馬遜使用了超過25萬個Graviton芯片為超過5800種不同的亞馬遜電商服務提供支持。

自從2006年推出第一代公有云服務以來，亞馬遜至今已主動降價100次以上，甚至有時降價幅度極其巨大。比如就在今年10月，亞馬遜云科技剛剛宣布將Amazon DynamoDB按需吞吐量的價格降低50%、將全球表（Global Tables）的價格降低多達67%。很顯然，這種持續、主動的降價行為，很大程度是得益于了亞馬遜的自研硬件體系。

亞馬遜自己也受益于自研芯片“性價比”所帶來的規模優勢。此前亞馬遜云科技副總裁Jeff Barr曾展示了一張Graviton4開發時的實例集群快照，充分利用自研處理器的規模優勢，使用了多達數十萬個內核加速EDA電子設計自動化流程，峰值規模為正常使用規模的5倍。

隨著生成式AI需求的持續增長，芯片將會成為爭奪AI霸權的下一個戰場。在AI硬件領域，英偉達的確獨霸天下。無數人在問：在未來幾個月甚至幾年內英偉達還能保持高增長嗎？競爭對手能不能找到辦法縮小差距？

除了亞馬遜，還有很多廠商正在開發自己的AI芯片，比如微軟、Meta、OpenAI、谷歌、AMD、英特爾。年初時有消息稱，英特爾、高通、谷歌及其它一些科技企業準備聯手應戰，合作圍繞軟件展開。但英偉達CUDA的地位不是一夜之間可以撼動的，不單只是軟件能力，還以為它15年的使用歷史，現在許多代碼是圍繞CUDA開發的，CUDA與很多AI及高性能計算項目深度連接在一起。

值得注意的是，AI半導體市場實際上分成兩大塊 —— 訓練和推理，數據中心用GPU訓練AI，推理發生在服務器或者邊緣設備上。在訓練市場，英偉達占據98%的市場份額，這種優勢短期內不會消失，因此邊緣AI推理市場是競爭對手可以重點關注的領域。

其中NPU（Neural Processing Units）就是部分廠商的研究重點，它的能耗更低、更加專業化。NPU能加速處理AI任務，包括深度學習和推理任務，并行處理海量數據，還可以用專門的片上存儲器快速執行復雜的人工智能算法，以實現高效數據存儲和檢索。雖然GPU處理能力更強、功能更多，但NPU更小、更便宜、更節能，在執行專業AI任務時，由于NPU采用特殊架構，性能反而有可能高于CPU。