一、負載均衡
負載均衡(Load Balance): 建立在現有網絡結構之上,它提供了一種廉價有效透明的方法擴展網絡設備和服務器的帶寬、增加吞吐量、加強網絡數據處理能力、提高網絡的靈活性和可用性。其意思就是分攤到多個操作單元上進行執行,例如Web服務器、FTP服務器、企業關鍵應用服務器和其它關鍵任務服務器等,從而共同完成工作任務。
1、服務端負載均衡:客戶端請求到負載均衡服務器,負載均衡服務器根據自身的算法將該請求轉給某臺真正提供業務的服務器,該服務器將響應數據給負載均衡服務器,負載均衡服務器最后將數據返回給客服端。(nginx)
2、客服端負載均衡:基于客戶端的負載均衡,簡單的說就是在客戶端程序里面,自己設定一個調度算法,在向服務器發起請求的時候,先執行調度算法計算出向哪臺服務器發起請求,然后再發起請求給服務器。
基于客戶端負載均衡的特點:
由客戶端內部程序實現,不需要額外的負載均衡器軟硬件投入。
程序內部需要解決業務服務器不可用的問題,服務器故障對應用程序的透明度小。
程序內部需要解決業務服務器壓力過載的問題。
二、Ribbon實現客戶端的負載均衡
我們使用spring boot 來測試。
pom文件:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
< project xmlns = "http://maven.apache.org/POM/4.0.0" xmlns:xsi = "http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation = "http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd" > < modelVersion >4.0.0</ modelVersion > < groupId >com.jalja.org</ groupId > < artifactId >spring-consumer-server-ribbon</ artifactId > < version >0.0.1-SNAPSHOT</ version > < parent > < groupId >org.springframework.boot</ groupId > < artifactId >spring-boot-starter-parent</ artifactId > < version >1.5.2.RELEASE</ version > </ parent > < properties > < project.build.sourceEncoding >UTF-8</ project.build.sourceEncoding > < project.reporting.outputEncoding >UTF-8</ project.reporting.outputEncoding > < java.version >1.8</ java.version > </ properties > < dependencyManagement > < dependencies > < dependency > < groupId >org.springframework.cloud</ groupId > < artifactId >spring-cloud-dependencies</ artifactId > < version >Camden.SR4</ version > < type >pom</ type > < scope >import</ scope > </ dependency > </ dependencies > </ dependencyManagement > < dependencies > < dependency > < groupId >org.springframework.cloud</ groupId > < artifactId >spring-cloud-starter-ribbon</ artifactId > </ dependency > < dependency > < groupId >org.springframework.boot</ groupId > < artifactId >spring-boot-starter-web</ artifactId > </ dependency > </ dependencies > </ project > |
application.yml
1
2
3
|
stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.com |
Ribbon的負載均衡策略
1、RoundRobinRule(輪詢模式)
public class RoundRobinRule extends AbstractLoadBalancerRule roundRobin方式輪詢選擇server 輪詢index,選擇index對應位置的server 該策略也是ribbon的默認策略
SpringCloudRibbonApplication.java
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
|
@SpringBootApplication @EnableDiscoveryClient @RestController public class SpringCloudRibbonApplication { public static void main(String[] args) { SpringApplication.run(SpringCloudRibbonApplication.class, args); } @Autowired private LoadBalancerClient loadBalancer; @RequestMapping(value="static") public String staticRibbon(){ ServiceInstance instance = loadBalancer.choose("stores"); URI storesUri = URI.create(String.format("http://%s:%s", instance.getHost(), instance.getPort())); System.out.println(storesUri); return "static"; } } 連續請求6次執行結果: http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80 http://www.163.org:80 |
2、RandomRule(隨機策略)
public class RandomRule extends AbstractLoadBalancerRule 隨機選擇一個server 在index上隨機,選擇index對應位置的server。
在配置文件application.yml加入
1
2
3
4
5
6
|
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule stores: ribbon: listOfServers: www.baidu.com,www.jalja.org,www.163.org #隨機 NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule |
在SpringCloudRibbonApplication.java 中加入
1
2
3
4
|
@Bean public IRule ribbonRule() { return new RandomRule();//這里配置策略,和配置文件對應 } |
執行6次的結果:
1
2
3
4
5
6
|
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.163.org:80 http://www.baidu.com:80 http://www.jalja.org:80 |
3、BestAvailableRule(并發量)
public class BestAvailableRule extends ClientConfigEnabledRoundRobinRule 選擇一個最小的并發請求的server 逐個考察Server,如果Server被tripped了,則忽略,在選擇其中ActiveRequestsCount最小的server
在配置文件application.yml加入
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.BestAvailableRule
在SpringCloudRibbonApplication.java 中加入
1
2
3
4
|
@Bean public IRule ribbonRule() { return new BestAvailableRule();//這里配置策略,和配置文件對應 } |
執行6次的結果:
1
2
3
4
5
6
|
http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 http://www.baidu.com:80 |
4、AvailabilityFilteringRule(服務器狀態)
public class AvailabilityFilteringRule extends PredicateBasedRule 過濾掉那些因為一直連接失敗的被標記為circuit tripped的后端server,并過濾掉那些高并發的的后端server(active connections 超過配置的閾值) 使用一個AvailabilityPredicate來包含過濾server的邏輯,其實就就是檢查status里記錄的各個server的運行狀態
5、WeightedResponseTimeRule(根據響應時間)
public class WeightedResponseTimeRule extends RoundRobinRule 根據響應時間分配一個weight,相應時間越長,weight越小,被選中的可能性越低。 一個后臺線程定期的從status里面讀取評價響應時間,為每個server計算一個weight。Weight的計算也比較簡單responsetime 減去每個server自己平均的responsetime是server的權重。當剛開始運行,沒有形成statas時,使用roubine策略選擇server。
6、RetryRule(根據策略+重試)
public class RetryRule extends AbstractLoadBalancerRule 對選定的負載均衡策略機上重試機制。
在一個配置時間段內當選擇server不成功,則一直嘗試使用subRule的方式選擇一個可用的server
7、ZoneAvoidanceRule(Zone狀態+服務狀態)
public class ZoneAvoidanceRule extends PredicateBasedRule
復合判斷server所在區域的性能和server的可用性選擇server
使用ZoneAvoidancePredicate和AvailabilityPredicate來判斷是否選擇某個server,前一個判斷判定一個zone的運行性能是否可用,剔除不可用的zone(的所有server),AvailabilityPredicate用于過濾掉連接數過多的Server。
4、5、6、7這些策略使用方式與上述方式相同這里不在演示
以上這篇spring cloud 之 客戶端負載均衡Ribbon深入理解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持服務器之家。