負(fù)載均衡方案的三種實(shí)現(xiàn)策略

  早期的互聯(lián)網(wǎng)應(yīng)用，由于用戶流量比較小，業(yè)務(wù)邏輯也比較簡單，往往一個單服務(wù)器就能滿足負(fù)載需求。隨著現(xiàn)在互聯(lián)網(wǎng)的流量越來越大，稍微好一點(diǎn)的系統(tǒng)，訪問量就非常大了，并且系統(tǒng)功能也越來越復(fù)雜，那么單臺服務(wù)器就算將性能優(yōu)化得再好，也不能支撐這么大用戶量的訪問壓力了，這個時(shí)候就需要使用多臺機(jī)器，設(shè)計(jì)高性能的集群來應(yīng)對。接下來就由新網(wǎng)小編來和大家講一講負(fù)載均衡方案的三種實(shí)現(xiàn)策略：
 
  一、多臺服務(wù)器是如何去均衡流量、如何組成高性能的集群的呢？
  負(fù)載均衡（Load Balancer）是指把用戶訪問的流量，通過「負(fù)載均衡器」，根據(jù)某種轉(zhuǎn)發(fā)的策略，均勻的分發(fā)到后端多臺服務(wù)器上，后端的服務(wù)器可以獨(dú)立的響應(yīng)和處理請求，從而實(shí)現(xiàn)分散負(fù)載的效果。負(fù)載均衡技術(shù)提高了系統(tǒng)的服務(wù)能力，增強(qiáng)了應(yīng)用的可用性。
  二、負(fù)載均衡方案有幾種？
  目前市面上最常見的負(fù)載均衡技術(shù)方案主要有三種：
  1、基于DNS負(fù)載均衡
  2、基于硬件負(fù)載均衡
  3、基于軟件負(fù)載均衡
  三種方案各有優(yōu)劣，DNS負(fù)載均衡可以實(shí)現(xiàn)在地域上的流量均衡，硬件負(fù)載均衡主要用于大型服務(wù)器集群中的負(fù)載需求，而軟件負(fù)載均衡大多是基于機(jī)器層面的流量均衡。在實(shí)際場景中，這三種是可以組合在一起使用。下面來詳細(xì)講講：
  三、基于DNS負(fù)載均衡
  1、基于DNS來做負(fù)載均衡其實(shí)是一種最簡單的實(shí)現(xiàn)方案，通過在DNS服務(wù)器上做一個簡單配置即可
  其原理就是當(dāng)用戶訪問域名的時(shí)候，會先向DNS服務(wù)器去解析域名對應(yīng)的IP地址，這個時(shí)候我們可以讓DNS服務(wù)器根據(jù)不同地理位置的用戶返回不同的IP。比如南方的用戶就返回我們在廣州業(yè)務(wù)服務(wù)器的IP，北方的用戶來訪問的話，我就返回北京業(yè)務(wù)服務(wù)器所在的IP。
  在這個模式下，用戶就相當(dāng)于實(shí)現(xiàn)了按照「就近原則」將請求分流了，既減輕了單個集群的負(fù)載壓力，也提升了用戶的訪問速度。
  使用DNS做負(fù)載均衡的方案，天然的優(yōu)勢就是配置簡單，實(shí)現(xiàn)成本非常低，無需額外的開發(fā)和維護(hù)工作。
  但是也有一個明顯的缺點(diǎn)是：當(dāng)配置修改后，生效不及時(shí)。這個是由于DNS的特性導(dǎo)致的，DNS一般會有多級緩存，所以當(dāng)我們修改了DNS配置之后，由于緩存的原因，會導(dǎo)致IP變更不及時(shí)，從而影響負(fù)載均衡的效果。
  另外，使用DNS做負(fù)載均衡的話，大多是基于地域或者干脆直接做IP輪詢，沒有更高級的路由策略，所以這也是DNS方案的局限所在。
  2、基于硬件負(fù)載均衡
  硬件的負(fù)載均衡那就比較牛逼了，比如大名鼎鼎的F5 Network Big-IP，也就是我們常說的F5，它是一個網(wǎng)絡(luò)設(shè)備，你可以簡單的理解成類似于網(wǎng)絡(luò)交換機(jī)的東西，完全通過硬件來抗壓力，性能是非常的好，每秒能處理的請求數(shù)達(dá)到百萬級，即 幾百萬/秒 的負(fù)載，當(dāng)然價(jià)格也就非常非常貴了，十幾萬到上百萬人民幣都有。
  因?yàn)檫@類設(shè)備一般用在大型互聯(lián)網(wǎng)公司的流量入口最前端，以及政府、國企等不缺錢企業(yè)會去使用。一般的中小公司是不舍得用的。
  采用F5這類硬件做負(fù)載均衡的話，主要就是省心省事，買一臺就搞定，性能強(qiáng)大，一般的業(yè)務(wù)不在話下。而且在負(fù)載均衡的算法方面還支持很多靈活的策略，同時(shí)還具有一些防火墻等安全功能。但是缺點(diǎn)也很明顯，一個字：貴。
  3.基于軟件負(fù)載均衡
  軟件負(fù)載均衡是指使用軟件的方式來分發(fā)和均衡流量。軟件負(fù)載均衡，分為7層協(xié)議 和 4層協(xié)議。
  網(wǎng)絡(luò)協(xié)議有七層，基于第四層傳輸層來做流量分發(fā)的方案稱為4層負(fù)載均衡，例如LVS，而基于第七層應(yīng)用層來做流量分發(fā)的稱為7層負(fù)載均衡，例如Nginx。這兩種在性能和靈活性上是有些區(qū)別的。
  基于4層的負(fù)載均衡性能要高一些，一般能達(dá)到 幾十萬/秒 的處理量，而基于7層的負(fù)載均衡處理量一般只在 幾萬/秒 。
  基于軟件的負(fù)載均衡的特點(diǎn)也很明顯，便宜。在正常的服務(wù)器上部署即可，無需額外采購，就是投入一點(diǎn)技術(shù)去優(yōu)化優(yōu)化即可，因此這種方式是互聯(lián)網(wǎng)公司中用得最多的一種方式。
 
  四、常用的均衡算法有哪些？
  上面講完了常見的負(fù)載均衡技術(shù)方案，那么接下來咱們看一下，在實(shí)際方案應(yīng)用中，一般可以使用哪些均衡算法？
  1、輪詢策略
  2、負(fù)載度策略
  3、響應(yīng)策略
  4、哈希策略
  下面來分別介紹一下這幾種均衡算法/策略的特點(diǎn)：
  1、輪詢策略
  輪詢策略其實(shí)很好理解，就是當(dāng)用戶請求來了之后，「負(fù)載均衡器」將請求輪流的轉(zhuǎn)發(fā)到后端不同的業(yè)務(wù)服務(wù)器上。這個策略在DNS方案中用的比較多，無需關(guān)注后端服務(wù)的狀態(tài)，只藥有請求，就往后端輪流轉(zhuǎn)發(fā)，非常的簡單、實(shí)用。
  在實(shí)際應(yīng)用中，輪詢也會有多種方式，有按順序輪詢的、有隨機(jī)輪詢的、還有按照權(quán)重來輪詢的。前兩種比較好理解，第三種按照權(quán)重來輪詢，是指給每臺后端服務(wù)設(shè)定一個權(quán)重值，比如性能高的服務(wù)器權(quán)重高一些，性能低的服務(wù)器給的權(quán)重低一些，這樣設(shè)置的話，分配流量的時(shí)候，給權(quán)重高的更多流量，可以充分的發(fā)揮出后端機(jī)器的性能。
  2、負(fù)載度策略
  負(fù)載度策略是指當(dāng)「負(fù)載均衡器」往后端轉(zhuǎn)發(fā)流量的時(shí)候，會先去評估后端每臺服務(wù)器的負(fù)載壓力情況，對于壓力比較大的后端服務(wù)器轉(zhuǎn)發(fā)的請求就少一些，對于壓力比較小的后端服務(wù)器可以多轉(zhuǎn)發(fā)一些請求給它。
  這種方式就充分的結(jié)合了后端服務(wù)器的運(yùn)行狀態(tài)，來動態(tài)的分配流量了，比輪詢的方式更為科學(xué)一些。
  但是這種方式也帶來了一些弊端，因?yàn)樾枰獎討B(tài)的評估后端服務(wù)器的負(fù)載壓力，那這個「負(fù)載均衡器」除了轉(zhuǎn)發(fā)請求以外，還要做很多額外的工作，比如采集 連接數(shù)、請求數(shù)、CPU負(fù)載指標(biāo)、IO負(fù)載指標(biāo)等等，通過對這些指標(biāo)進(jìn)行計(jì)算和對比，判斷出哪一臺后端服務(wù)器的負(fù)載壓力較大。
  因此這種方式帶來了效果優(yōu)勢的同時(shí)，也增加了「負(fù)載均衡器」的實(shí)現(xiàn)難度和維護(hù)成本。
  3、響應(yīng)策略
  響應(yīng)策略是指，當(dāng)用戶請求過來的時(shí)候，「負(fù)載均衡器」會優(yōu)先將請求轉(zhuǎn)發(fā)給當(dāng)前時(shí)刻響應(yīng)最快的后端服務(wù)器。
  也就是說，不管后端服務(wù)器負(fù)載高不高，也不管配置如何，只要覺得這個服務(wù)器在當(dāng)前時(shí)刻能最快的響應(yīng)用戶的請求，那么就優(yōu)先把請求轉(zhuǎn)發(fā)給它，這樣的話，對于用戶而言，體驗(yàn)也最好。
  那「負(fù)載均衡器」是怎么知道哪一臺后端服務(wù)在當(dāng)前時(shí)刻響應(yīng)能力最佳呢？
  這就需要「負(fù)載均衡器」不停的去統(tǒng)計(jì)每一臺后端服務(wù)器對請求的處理速度了，比如一分鐘統(tǒng)計(jì)一次，生成一個后端服務(wù)器處理速度的排行榜。然后「負(fù)載均衡器」根據(jù)這個排行榜去轉(zhuǎn)發(fā)服務(wù)。
  那么這里的問題就是統(tǒng)計(jì)的成本了，不停的做這些統(tǒng)計(jì)運(yùn)算本身也會消耗一些性能，同時(shí)也會增加「負(fù)載均衡器」的實(shí)現(xiàn)難度和維護(hù)成本。
  4、哈希策略

  Hash策略也比較好理解，就是將請求中的某個信息進(jìn)行hash計(jì)算，然后根據(jù)后端服務(wù)器臺數(shù)取模，得到一個值，算出相同值的請求就被轉(zhuǎn)發(fā)到同一臺后端服務(wù)器中。

  常見的用法是對用戶的IP或者ID進(jìn)行這個策略，然后「負(fù)載均衡器」就能保證同一個IP來源或者同一個用戶永遠(yuǎn)會被送到同一個后端服務(wù)器上了，一般用于處理緩存、會話等功能的時(shí)候特別好用。小伙伴要想獲得更多負(fù)載均衡方案的內(nèi)容，請關(guān)注新網(wǎng)！