在云計算時代，我們輸出計算能力會像水和電一樣方便。提到云計算時，大家可能更多會想到計算相關(guān)的云產(chǎn)品，比如云主機ECS、關(guān)系型數(shù)據(jù)庫RDS、大數(shù)據(jù)處理平臺ODPS，但其實負(fù)載均衡在云計算里面的地位是至關(guān)重要的，因為它是網(wǎng)絡(luò)流量的入口?；ヂ?lián)網(wǎng)時代，計算資源、服務(wù)器、手機、電腦、物聯(lián)網(wǎng)設(shè)備需要網(wǎng)絡(luò)去連在一起。云計算時代，分布式計算往往意味著一個集群里面有很多計算節(jié)點，怎么保證服務(wù)的請求會均勻分布在計算節(jié)點上面同時對外提供服務(wù)呢？這是負(fù)載均衡需要解決的一個課題。
云上的“雙十一”
2015年的“雙十一”第一次有阿里云參與進來，是云上的“雙十一”。“雙十一”的阿里云主要有以下幾個部分：阿里云三大件，即云服務(wù)器、負(fù)載均衡、RDS云數(shù)據(jù)庫，這三大件是云計算的基礎(chǔ)組件。
SLB負(fù)載均衡的“雙十一”提出了很多問題：如何實現(xiàn)快速部署？如何提供足夠的性能？如何提供高可用的服務(wù)？如何提供足夠的容量？
負(fù)載均衡是指通過某種負(fù)載分擔(dān)技術(shù)，將外部發(fā)送來的請求均勻分配到對稱結(jié)構(gòu)中的某一臺服務(wù)器上，而接收到請求的服務(wù)器獨立地回應(yīng)客戶的請求。通俗的講，就是當(dāng)訪問請求變多時，需要更多的服務(wù)器來響應(yīng)請求、對外提供服務(wù)，這時候需要有一個負(fù)載均衡器通過一定規(guī)則把請求分發(fā)在多臺服務(wù)器上，橫向拓展了服務(wù)的性能。負(fù)載均衡可以通過硬件或者軟件來實現(xiàn)，傳統(tǒng)的負(fù)載均衡還可以通過DNS實現(xiàn)，但是DNS的時效性不好。
硬件負(fù)載均衡器是一個重要的角色。十年以前，負(fù)載均衡大部分是由負(fù)載均衡器來實現(xiàn)的，最出名的廠商是F5。負(fù)載均衡器的優(yōu)點是：有專門的團隊來提供開發(fā)和維護，性能比較好，相對軟件負(fù)載均衡穩(wěn)定可靠些。缺點是：費用昂貴，難以拓展功能和容量，靈活性差。
LVS（Linux Virtual Server）跑在網(wǎng)絡(luò)層的第四層，TCP或者UDP這一層，它是開源的，已集成在Linux內(nèi)核中，其可伸縮，可以彈性部署，非常可靠。
Nginx跑在7層網(wǎng)絡(luò)上面，它是輕量級的Web服務(wù)器，優(yōu)勢在于它有很好的網(wǎng)絡(luò)適應(yīng)性，只要后端的路由器可以連通就可以通過Nginx做HTTP的負(fù)載均衡，它支持URL、正則表達式等高級邏輯，同樣是開源的。
SLB其實就是基于前面介紹的LVS和Nginx來實現(xiàn)的，分為四層負(fù)載均衡和七層負(fù)載均衡。如圖所示，訪問流量會經(jīng)過公網(wǎng)的入口，進入某個可用區(qū)，每個可用區(qū)又會有多個機房，每個機房又會有一個LVS的集群和一個Tengine的集群來實現(xiàn)四層負(fù)載均衡和七層負(fù)載均衡。
載均衡技術(shù)已經(jīng)作為了全集團的流量入口。第一，它是彈性計算的流量入口，服務(wù)阿里云的公有云用戶，涵蓋了大中小型網(wǎng)站、游戲客戶、APP服務(wù)端，還有專有云，包括金融和政府部門。第二個服務(wù)的對象是云產(chǎn)品，比如RDS、OSS、高防等都用到了SLB的負(fù)載均衡技術(shù)，提供云計算服務(wù)的流量入口。第三，為集團VIP統(tǒng)一接入平臺提供負(fù)載均衡服務(wù)作為電商平臺的流量入口。第四，螞蟻金服使用負(fù)載均衡服務(wù)作為支付寶、網(wǎng)上銀行交易平臺的流量入口。
如何對負(fù)載均衡進行高性能的優(yōu)化？首先是FULLNAT技術(shù)，它是LVS的一個轉(zhuǎn)發(fā)模式，此優(yōu)化的目的是為了擺脫開源LVS對網(wǎng)絡(luò)部署的限制；另外的一個優(yōu)化點是二層轉(zhuǎn)發(fā)，LVS是Linux內(nèi)核里面的一個模塊，需要經(jīng)過Linux傳統(tǒng)的協(xié)議棧，性能非常低，二層轉(zhuǎn)發(fā)可以通過記錄MAC地址繞過Linux路由表，提升性能；第三個比較大的優(yōu)化是CPU的并行化，可以讓每個 CPU 并行的處理報文的轉(zhuǎn)發(fā)；第四個優(yōu)化是FASTPATH，完全旁路了Linux協(xié)議棧，直接將報文送到網(wǎng)卡，性能達到硬件線速；第五個優(yōu)化是CPU指令的優(yōu)化，由于FULLNAT需要對報文做一些修改，我們使用CPU專門對Crc32定制的計算指令會大大優(yōu)化計算校驗的性能；最后一個優(yōu)化點充分利用了現(xiàn)在服務(wù)器NUMA的特性，NUMA是計算機的一種架構(gòu)，在不同的CPU上面訪問特定內(nèi)存或者系統(tǒng)資源會比較快，通過NUMA的特性來分配本地內(nèi)存可以達到很大的性能提升。
