支付寶在沒有先例可循的情況下，自主研發構建起一個互聯網三高（高并發、高性能、高可用）架構的代表。

對大多數人而言，今年的雙十一可謂是無感而過。然而，這個「無感」正是今年支付寶技術團隊的一個重要目標。
隨著「雙十一」進入第 14 個年頭，這一現象級的標志性活動在很大程度上已經融入國人的日常生活，因而顯得不再那么特殊——打折促銷天天有，滿減秒殺是基操，消費者已經習慣了隨時隨地都能下單，同城快遞隔天就到。
但是，在這些看似尋常的體驗背后，是整個零售電商和物流系統能力的規?；嵘?，而數字支付作為其中最關鍵的一環，和往年一樣，也面臨著一系列新的復雜的技術優化挑戰。

自誕生時起，「雙十一」便是一個極具挑戰和實際價值的技術命題。高質高效地保障雙十一大促工作的進行，涉及基礎設施、存儲、中間件、業務架構、交互技術與安全等多個技術領域，需要多部門緊密配合，能夠集中體現一個團隊的資源統籌、技術積累、工程實力和創新能力。
2022 年雙十一期間，在多類日常業務以外，支付寶要為淘寶/天貓、抖音、快手、拼多多等客戶提供線上交易服務（包括海外支付），支持合作的****、購物中心等機構的線上線下支付業務，這些交易請求來自 POS 機、網銀、瀏覽器、小程序、各商戶 App 等不同平臺，覆蓋了直播秒殺、跨店滿減、小額免密、先享后付等多個支付場景，較長的促銷周期和多商戶線上線下疊加不僅意味著多個流量洪峰，也進一步提升了峰值的不確定性。
面對今年「多平臺、多場景、多峰值」的壓力，如何保障系統穩定，如何在控制成本的同時確保系統容量可伸縮？本文將從超大規模分布式系統穩定性和高可用建設角度出發，嘗試理解支付寶技術架構演進中的一些關鍵技術和思路。
由點到面，應對多平臺、多場景、多峰值
為了應對新形勢下的雙十一，今年 3 月份開始，支付寶團隊啟動了「川流計劃」，取川流不息之意，喻支付體驗順暢，將沉淀了多年的電商服務能力原子化，形成了一套面向全行業的產品解決方案，目標是隨時隨地、快速支撐任何一家商戶的大促。
技術團隊重點聚焦大促服務的常態化能力構建，以業務和需求為導向，確保做到穩定如常、體驗如常、成本如常、效率如常。

今年以淘寶/天貓為首的各商家將大促時間提前到了 11 號的晚 8 點，與線下購物的高峰期重合，再加上其他常規業務，需要確保不同業務之間有充分的隔離性，能夠同時達到穩定的狀態。支付寶團隊通過自適應泄洪、多商戶動態異步化技術，在更加隨機化的大促場景下持續保持支付的可用性及高性能，同時通過分時復用，在線離線混合部署，無感化彈云等技術，大幅提升效率和降低成本。
盡管用戶側感知不強，往年雙十一為保證峰值平穩會做部分不緊急任務降級、暫緩處理，例如無法查詢花唄賬單等，今年通過讀時提交等新的技術，保障退款、提現等業務服務不受損，交易收單功能也做了升級，讓消費者在訂金、現貨、尾款等各階段都具備相同的支付能力。
其中，為了滿足如今商家在直播時代的秒殺訴求，團隊重點構建了秒級高可用技術，動態維持秒殺性能，將支持秒殺的能力提升了一個量級，包括通過近端計數和異常感知，自動降級弱依賴業務，進一步提高并發，構建無感化彈云等創新技術，實現更快的容量伸縮，從而確保每個商家都能在自己的平臺發起秒殺活動。
雙十一流量洪峰和隨之而來的峰值時刻高并發的處理效果，向來是雙十一技術保障工作的一大看點。但不同于過往雙十一的流量洪峰，秒殺服務本質上是一種營銷服務，如果把這個秒級交易分攤到日常，對服務器成本的要求其實并不高。但隨著直播秒殺成為一種常規化的營銷手段，為了滿足眾多商家在較長的促銷周期內隨機性發起的千千萬萬的秒級峰值，需要有大量的機器成本的投入。

「這也是今年我們的底氣，能夠保障那么多商家在雙十一期間的秒殺。」支付寶產品技術負責人善攻說，「從 0 點到 8 點，用戶不用再熬夜了，對支付寶來說，面臨的情況就是各個平臺不同模式和玩法的峰值疊加，再碰到線下支付的高峰。我們并沒有把成本轉嫁到客戶身上，而是通過技術迭代、資源協調等來實現更智能、更綠色、更高效的服務。我們也認為，只有具備普適性才可以對全社會提供可持續的服務。」
支付寶高并發、高性能、高可用架構演進
這些年來，隨著業務特點和規模的發展變化，尤其在歷屆雙十一的極端需求倒逼之下，例如從應對 0 點的單一流量洪峰到滿足多平臺支付需求和效率，支付寶完成了數次大的架構演進，逐漸形成了一套包括金融級分布式交易、分布式大數據分析與決策、智能化風險防控等在內的完整架構與技術體系。
第一階段：轉型分布式 SOA 架構，成為互聯網電商支付工具
支付寶最初服務于淘寶網，用擔保交易和支付這一項功能打開了用戶網購的習慣，從 2005 年起開始服務整個互聯網的電商支付。在這個階段，其應用架構開始向分布式 SOA 架構轉型，對交易、支付、賬務、收銀臺等核心系統做服務化改造。
為解決引入分布式體系而帶來的業務和系統復雜性等問題，團隊重點聚焦實現集群的一致性，主要包括確保分布式數據一致性和在分布式環境下進行系統監控的問題。對此，支付寶基于兩階段事務原理自研了相應的分布式事務框架和微服務框架，同時構建了第一代監控系統，擺脫了黑屏命令行監控，從穩定的分布式事務體系應用架構和系統化的監控報警平臺，奠定了后續高可用架構的基礎。
第二階段：去 IOE，解決存儲單點擴展和穩定性問題，流量從百萬到千萬
隨著支付寶從單一支付工具逐漸成為一個互聯網金融平臺，系統支撐的流量激增，使用大量服務器支撐雙十一流量洪峰構成了巨大的成本壓力，以及其他很多不確定性因素。2011 年開啟去 IOE 戰略（不再使用 IBM 小型機、Oracle 數據庫、EMC 高端存儲，轉向自主掌控的技術）。在此背景下，團隊從應對大流量帶來的高并發和穩定性風險角度出發，解決核心系統級別的穩定性和可擴展性問題，奠定了這一代高可用架構的基石。
第三階段：異地多活架構，流量彈性伸縮
金融級產品對穩定性有極高的要求，需要加速實現金融級異地多活的高可用架構。作為螞蟻代表性技術的邏輯單元 LDC（Logical Data Center）在這一階段被提出，相對于傳統的 IDC（Internet Data Center-IDC），確保分布式系統在邏輯上的協調與統一。與 OceanBase 數據庫相結合，支付寶團隊實現了兩地三中心和三地五中心的城市級異地多活高可用架構，主要解決機房擴展性、數據容災，以及大促期間機房快速彈性問題。
也是從這一時期開始，雙十一的峰值和日常業務峰值差別越來越大，因此基于 LDC 架構靈活的流量調度能力，實現了機房級別彈性擴展能力，在大促前將流量彈回到新的機房，在大促結束后快速回收該機房。2016 年的雙十一，支付寶全天完成交易筆數為 10.5 億筆，支付峰值 12 萬筆/秒，大促中 50% 流量基于云計算資源彈性伸縮。
第四階段：原生混合云部署，提供全球性的互聯網金融服務
隨著螞蟻集團對云原生理念的投入，堅信未來的金融級應用場景都會往極致的彈性和混合云方向發展，2017 年開始云原生架構啟動實施，螞蟻全站應用上云，支付寶開始嘗試離在線混部和分時調度技術，在大促時利用離線技術所使用的集群資源，大大提升了集群資源利用率。
向云原生轉型的過程中，不同場景的應用很難一步到位，為了滿足不同的業務需求，在云原生的改造中，新老業務并存過渡，通過統一的研發平臺，同時支持基于虛擬機和容器的雙模持續交付，助力于整個架構的穩妥的演進和遷移?？紤]到商家服務全面開放、大促活動常態化，生活服務、保險、理財、公益等各項業務的發展和形態趨于多樣化，支付寶團隊意識到需要把高可用做成一項常規能力，并且從風險視角構建一套架構體系從根源上確保穩定性。
針對外部環境的劇烈變化（如活動帶來的流量突增、機房故障等）、內部節點異常（如數據庫宕機，服務器宕機等）和人為變更的風險（如代碼發布，配置推送等）這三類主要風險，支付寶建設了如變更防控體系、容量風險體系、應急定位體系等風險防控體系，實現系統化的三板斧（可監控、可灰度、可回滾）要求，并引入數據智能化手段進行精細的風險識別，構建仿真環境以模擬故障及驗證問題。

從業務中來，到業務中去從容應對多峰高并發
從最初淘寶平臺上的一種擔保交易和支付功能，到如今提供支付、生活服務、政務服務、理財、保險等眾多能力的數字生活開放平臺，支付寶在沒有先例可循的情況下，構建起一個中國乃至世界范圍內互聯網三高（高并發、高性能、高可用）架構的代表。
2017 年，支付寶處理支付峰值 25.6 萬筆/秒，已經成為全球最大的一家 OLTP 處理實體，但同時卻繼承了互聯網公司特有的超大規模用戶量（截止 2020 年，支付寶在全球擁有超過 12 億用戶），支付寶的技術架構發展歷程，也可以說一個持續不斷地在性能與成本、業務需求與用戶體驗之間取舍平衡的三高架構演進史。
脫離實際業務需求的技術往往于業務產生不了最大實用性價值，只有在服務業務、保障業務持續可用過程中沉淀下來的技術，才是最有價值的技術。正是因為一次次雙十一的倒逼創新，支付寶的實踐證明在金融級中間件、數據庫和云計算平臺的支持下，分布式架構完全能夠勝任復雜、高要求的金融級交易。
在如今這個時代，一家公司要走得更遠，只有提供更好的服務，滿足用戶更加苛刻的需求。構建常態化的雙十一技術服務能力只是開始，隨著業務發展和服務類型變得更加復雜多樣，多峰高并發將不僅僅是支付寶的日常。在萬物互聯的智能時代，什么樣的技術和架構可以應對無處不在的計算，將不僅僅是支付寶團隊需要解決的重大命題。