spring-cloud-starter-ribbon提供用戶端的軟體負載平衡演算法

標籤：工作流程   固定   pac   類型   netflix   erro   multi   response   負載   

Ribbon是什嗎？

Ribbon是Netflix發布的開源項目，主要功能是提供用戶端的軟體負載平衡演算法，將Netflix的中介層服務串連在一起。Ribbon用戶端組件提供一系列完善的配置項如連線逾時，重試等。簡單的說，就是在設定檔中列出Load Balancer（簡稱LB）後面所有的機器，Ribbon會自動的協助你基於某種規則（如簡單輪詢，隨即串連等）去串連這些機器。我們也很容易使用Ribbon實現自訂的負載平衡演算法。

LB方案分類

目前主流的LB方案可分成兩類：一種是集中式LB, 即在服務的消費方和提供方之間使用獨立的LB設施（可以是硬體，如F5, 也可以是軟體，如nginx），由該設施負責把訪問請求通過某種策略轉寄至服務的提供方；另一種是進程內LB，將LB邏輯整合到消費方，消費方從服務註冊中心獲知有哪些地址可用，然後自己再從這些地址中選擇出一個合適的伺服器。Ribbon就屬於後者，它只是一個類庫，整合於消費方進程，消費方通過它來擷取到服務提供者的地址。

三：Ribbon的主要組件與工作流程

Ribbon的核心組（均為介面類型）有以下幾個：

ServerList 

用於擷取地址清單。它既可以是靜態（提供一組固定的地址），也可以是動態（從註冊中心中定期查詢地址清單）。

ServerListFilter 

僅當使用動態ServerList時使用，用於在原始的服務列表中使用一定策略過慮掉一部分地址。

IRule 

選擇一個最終的服務地址作為LB結果。選擇策略有輪詢、根據回應時間加權、斷路器（當Hystrix可用時）等。

Ribbon在工作時首選會通過ServerList來擷取所有可用的服務列表，然後通過ServerListFilter過慮掉一部分地址，最後在剩下的地址中通過IRule選擇出一台伺服器作為最終結果。

四：Ribbon提供的主要負載平衡策略介紹

1、簡單輪詢負載平衡（RoundRobin）

以輪詢的方式依次將請求調度不同的伺服器，即每次調度執行i = (i + 1) mod n，並選出第i台伺服器。

2、隨機負載平衡 （Random）

隨機播放狀態為UP的Server

3、加權回應時間負載平衡 （WeightedResponseTime）

根據相應時間分配一個Weight，相應時間越長，Weight越小，被選中的可能性越低。 

4、地區感知輪詢負載平衡（ZoneAvoidanceRule）

複合判斷Server所在地區的效能和Server的可用性選擇Server

Ribbon內建負載平衡策略比較

策略名	策略聲明	策略描述	實現說明
BestAvailableRule	public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule	選擇一個最小的並發請求的server	逐個考察Server，如果Server被tripped了，則忽略，在選擇其中ActiveRequestsCount最小的server
AvailabilityFilteringRule	public class AvailabilityFilteringRule extends PredicateBasedRule	過濾掉那些因為一直串連失敗的被標記為circuit tripped的後端server，並過濾掉那些高並發的的後端server（active connections 超過配置的閾值）	使用一個AvailabilityPredicate來包含過濾server的邏輯，其實就就是檢查status裡記錄的各個server的運行狀態
WeightedResponseTimeRule	public class WeightedResponseTimeRule extends RoundRobinRule	根據相應時間分配一個weight，相應時間越長，weight越小，被選中的可能性越低。	一 個後台線程週期性從status裡面讀取評價回應時間，為每個server計算一個weight。Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權重。當剛開始運行，沒有形成statas時，使用roubine策略選擇 server。
RetryRule	public class RetryRule extends AbstractLoadBalancerRule	對選定的負載平衡策略機上重試機制。	在一個配置時間段內當選擇server不成功，則一直嘗試使用subRule的方式選擇一個可用的server
RoundRobinRule	public class RoundRobinRule extends AbstractLoadBalancerRule	roundRobin方式輪詢選擇server	輪詢index，選擇index對應位置的server
RandomRule	public class RandomRule extends AbstractLoadBalancerRule	隨機播放一個server	在index上隨機，選擇index對應位置的server
ZoneAvoidanceRule	public class ZoneAvoidanceRule extends PredicateBasedRule	複合判斷server所在地區的效能和server的可用性選擇server	使 用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server，前一個判斷判定一個 zone的運行效能是否可用，剔除停用zone（的所有server），AvailabilityPredicate用於過濾掉串連數過多的 Server。

五、使用

引入POM

    <dependency>        <groupId>org.springframework.cloud</groupId>        <artifactId>spring-cloud-starter-ribbon</artifactId>    </dependency>

基於RestTemplate

定義

package com.jsoft.testzookeeper.client.config;import org.springframework.cloud.client.loadbalancer.LoadBalanced;import org.springframework.context.annotation.Bean;import org.springframework.context.annotation.Configuration;import org.springframework.web.client.RestTemplate;@Configurationpublic class Config {    @Bean    @LoadBalanced    public RestTemplate restTemplate() {        return new RestTemplate();    }}

說明：標註@LoadBalanced來開啟負載平衡能力，預設為輪詢方式。

使用

package com.jsoft.testzookeeper.client.service;import com.netflix.hystrix.contrib.javanica.annotation.HystrixCommand;import org.springframework.beans.factory.annotation.Autowired;import org.springframework.stereotype.Service;import org.springframework.web.client.RestTemplate;@Servicepublic class HelloService {    @Autowired    private RestTemplate restTemplate;    @HystrixCommand(fallbackMethod = "sayHelloFallback")    public String sayHello(String name) {        return restTemplate.getForEntity("http://service-zookeeper/hello?name=" + name, String.class).getBody();    }    private String sayHelloFallback(String name) {        return "service error";    }}

更多的配置參考官方文檔：https://github.com/Netflix/ribbon/wiki/Features，比如下面的規則配置（沒實踐過）：

springboot-h2.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule // Ribbon的負載平衡策略  

說明：springboot-h2為ClientName

基於Feign：

Feign用戶端在整合時沒什麼設定項目，主要是基於設定檔來定義規則，例子參考範例程式碼，下面主要是設定檔配置。

除了上面的配置外，還可以有如下指定：

主要是基於ZooKeeper的依賴關係去實現，官方參考：http://cloud.spring.io/spring-cloud-zookeeper/multi/multi_spring-cloud-zookeeper-dependencies.html，範例配置如下：

spring.cloud.zookeeper.dependencies.service-zookeeper.required=truespring.cloud.zookeeper.dependencies.service-zookeeper.path=/service-zookeeperspring.cloud.zookeeper.dependencies.service-zookeeper.loadBalancerType=ROUND_ROBIN

說明：service-zookeeper是指定的別名，最終會去到/service-zookeeper，loadBalancerType是規則。

總結：

1、感覺基於ZK的負載平衡規則和Ribbon的原生規則兩個分不開，主要看樣子好像是顆粒度不同，全域已經分不同服務等設定。

2、以上結論待實踐中。估計會有很多吭。

 

Maven樣本：

https://github.com/easonjim/spring-cloud-demo/tree/master/ZooKeeper

 

參考：

http://www.ccblog.cn/96.htm（以上內部部分轉自此篇文章）

http://www.cnblogs.com/wangjing666/p/6985047.html

http://blog.csdn.net/w_x_z_/article/details/71156009（負載平衡規則自訂）

http://blog.csdn.net/shunhua19881987/article/details/75466797

http://www.idouba.net/netflix-source-ribbon-rule/

http://blog.csdn.net/daybreak1209/article/details/53582366

http://blog.csdn.net/liuchuanhong1/article/details/54728406

http://www.jianshu.com/p/7bb96e2dc944

http://www.cnblogs.com/wangjing666/p/6994451.html

spring-cloud-starter-ribbon提供用戶端的軟體負載平衡演算法