初識Spring Cloud--Ribbon客戶端負載均衡

首先來看一下Ribbon的作用:

ribbon 是一個客戶端負載均衡器，主要是實現類似於 nginx的負載均衡的功能。

SpringCloud提供了7種負載均衡的算法，如下表所示，ribbon 默認使用輪詢算法(RoundRobinRule)來實現負載均衡，

策略名	策略聲明	策略描述	實現說明
BestAvailableRule	public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule	選擇一個最小的併發請求的server	逐個考察Server，如果Server被tripped了，則忽略，在選擇其中ActiveRequestsCount最小的server
AvailabilityFilteringRule	public class AvailabilityFilteringRule extends PredicateBasedRule	過濾掉那些因爲一直連接失敗的被標記爲circuit tripped的後端server，並過濾掉那些高併發的的後端server（active connections 超過配置的閾值）	使用一個AvailabilityPredicate來包含過濾server的邏輯，其實就就是檢查status裏記錄的各個server的運行狀態
WeightedResponseTimeRule	public class WeightedResponseTimeRule extends RoundRobinRule	根據響應時間分配一個weight，響應時間越長，weight越小，被選中的可能性越低。	一個後臺線程定期的從status裏面讀取評價響應時間，爲每個server計算一個weight。Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetim
RetryRule	public class RetryRule extends AbstractLoadBalancerRule	對選定的負載均衡策略機上重試機制。	在一個配置時間段內當選擇server不成功，則一直嘗試使用subRule的方式選擇一個可用的server
RoundRobinRule	public class RoundRobinRule extends AbstractLoadBalancerRule	roundRobin方式輪詢選擇server	輪詢index，選擇index對應位置的server
RandomRule	public class RandomRule extends AbstractLoadBalancerRule	隨機選擇一個server	在index上隨機，選擇index對應位置的server
ZoneAvoidanceRule	public class ZoneAvoidanceRule extends PredicateBasedRule	複合判斷server所在區域的性能和server的可用性選擇server	使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server，前一個判斷判定一個zone的運行性能是否可用，剔除不可用的zone（的所有server）

下面我們通過代碼來實現Ribbon的負載均衡功能；不同於dubbo的rpc調用，SpringCloud採用的rest方式進行服務調用，創建一個RemoteController類來模擬調用：

@RestController
@RequestMapping("/remote")
public class RemoteController {
    private static final String URL_PREFIX = "http://SERVICE01";
    @Autowired
    private RestTemplate restTemplate;

    @GetMapping("/getService")
    public Object getRemoteService() {
        return restTemplate.getForObject(URL_PREFIX + "/local/getServiceInfo", Object.class);
    }
}

其中的RestTemplate類需要手動的加載到IOC容器中，在啓動類中添加如下的代碼:

    @Bean
    @LoadBalanced
    public RestTemplate getRestTemplate() {
        return new RestTemplate();
    }

接着我們創建service01的多個實例:

通過postman模擬請求，分別會調用這四個服務中的一個，並且調用的服務順序是有序的。

那麼如何調用其他的6種負載均衡算法呢?

很簡單，我們只要在啓動類種添加如下的代碼即可:

    @Bean
	public IRule getRule(){
		return new RandomRule();
	}

這時候可能又有一個疑問了，這個負載均衡的算法只能使用SpringCloud提供的7種算法嗎？如果想要自己定義一個算法又該如何實現呢？

假如這邊有一個比較變態的需求，我只要service06給我提供服務那怎麼操作呢?

依然簡單，我們可以新建一個配置類:

@Configuration
public class CustomRule {
    @Bean
    public IRule getRule() {
         return new SingleRule();
    }
}

自定義負載均衡算法:

public class SingleRule extends AbstractLoadBalancerRule {
    public Server choose(ILoadBalancer lb, Object key) {
        if (lb == null) {
            return null;
        }
        Server server = null;

        while (server == null) {
            if (Thread.interrupted()) {
                return null;
            }
            List<Server> upList = lb.getReachableServers();
            List<Server> allList = lb.getAllServers();

            int serverCount = allList.size();
            if (serverCount == 0) {
                return null;
            }
            server = upList.get(0);
            if (server == null) {
                Thread.yield();
                continue;
            }
            if (server.isAlive()) {
                return (server);
            }
            // Shouldn't actually happen.. but must be transient or a bug.
            server = null;
            Thread.yield();
        }
        return server;
    }

    @Override
    public Server choose(Object o) {
        return choose(getLoadBalancer(), o);
    }

    @Override
    public void initWithNiwsConfig(IClientConfig iClientConfig) {

    }
}

 

這裏有一點需要注意:

也就是說，這個配置類不能和之前的啓動類放到啓動類的同一個包下面，不然所有的ribbon客戶端都會採用這個自定義的負載均衡算法。

 

至此，一個自定義的負載均衡算法就實現啦，當然實際中估計沒有人會這麼用，具體的算法還是需要依據不同的業務來確定。