使用微服務后,為了能夠承擔高并發的壓力,同一個服務可能會啟動多個實例。這時候消費者就需要負載均衡,把請求分散到各個實例。負載均衡主要有兩種設計:
服務端負載均衡客戶端負載均衡
對于傳統的分布式服務來說,大多使用服務端負載均衡。一般會使用Nginx或者ELB等工具作為負載均衡器,如下圖:
傳統負載均衡
而在Spring Cloud中,使用的是「客戶端負載均衡」的方式,使用「Ribbon」組件來實現客戶端的負載均衡。只要引入了微服務注冊中心依賴,就會自動引入Ribbon依賴。客戶端負載均衡原理如下圖:
客戶端負載均衡
Ribbon的原理
Ribbon利用了RestTemplate的攔截器(接口是ClientHttpRequestInterceptor)機制,在攔截器中實現的負載均衡。負載均衡的基本實現就是利用從「服務注冊中心」獲取可用的服務地址列表,然后通過一定算法負載,決定使用哪一個服務地址來進行HTTP調用。
詳情可以查看LoadBalancerInterceptor這個類,位于org.springframework.cloud.client.loadbalancer包下。
使用Ribbon
首先定義一下生產者「service-user」,我這里使用容器啟動了多個生產者實例,每個實例具有不同的id,我的示例代碼里面啟動了兩個實例:
service-user-1
service-user-2
代碼:
1
2
3
4
5
6
7
8
9
10
11
12
|
@RestController @RequestMapping public class HelloController { @Value ( "${spring.cloud.consul.discovery.instanceId}" ) private String instanceId; @GetMapping ( "hello" ) public String hello() { return String.format( "hello, this is %s" , instanceId); } } |
然后對于消費者「service-order」,可以使用Java聲明式注解的方式來使用Ribbon,只需要在消費者給RestTemplate類型的Bean配上一個@LoadBalanced就可以了。然后再配置一下負載均衡策略:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
@Configuration public class RibbonConfig { @Bean @LoadBalanced public RestTemplate ribbonRestTemplate(){ return new RestTemplate(); } @Bean public IRule ribbonRule() { return new RandomRule(); // 隨機負載均衡 } } |
然后就可以直接使用自動注入的RestTemplate類型的Bean了:
1
2
3
4
5
6
7
8
9
10
11
12
|
@RestController @RequestMapping public class HelloController { @Autowired RestTemplate restTemplate; @GetMapping ( "/ribbon/service-user" ) public String ribbonService(){ return restTemplate.getForObject( "http://service-user/hello" , String. class ); } } |
這個時候訪問消費者的/ribbon/service-user,刷新幾次,就會看到下面兩個隨機的響應:
hello, this is service-user-2
hello, this is service-user-1
負載均衡策略
查看IRule接口的實現類,可以看到Ribbon的所有負載均衡策略,查看各實現類頂部的注釋可以看到它的具體策略:
負載均衡器
- RandomRule:隨機選擇;
- RoundRobinRule:輪詢;
- WeightedResponseTimeRule:根據每個服務的響應時間設置權重,響應時間越長,所占權重越少;
- AvailabilityFilteringRule:過濾掉那些因為一直連接失敗的被標記為circuit tripped的后端server,并過濾掉那些高并發的的后端server(active connections 超過配置的閾值);
- ZoneAvoidanceRule:使用CompositePredicate根據區域和可用性過濾服務器的規則;
- BestAvailableRule:選擇一個最小的并發請求的server;
- RetryRule:在現有的策略基礎上,添加重試機制,因為IRule支持「級聯」。
遠程調用
Spring Cloud提供了OpenFeign組件(以前叫Feign)來進行遠程的HTTP調用。它是對RestTemplate的一個封裝。
Feign是一個聲明式Web Service客戶端。使用Feign能讓編寫Web Service客戶端更加簡單。Spring Cloud對Feign進行了封裝,使其支持了Spring MVC標準注解和HttpMessageConverters。Feign可以與微服務注冊中心和Ribbon組合使用以支持負載均衡。
使用OpenFeign
第一步,引入依賴:
1
|
implementation 'org.springframework.cloud:spring-cloud-starter-openfeign' |
第二步,啟動配置,在啟動類上添加@EnableFeignClients注解:
1
2
3
4
5
6
|
@SpringBootApplicationbr /> @EnableFeignClients public class ServiceOrderApplication { public static void main(String[] args) { SpringApplication.run(ServiceOrderApplication. class , args); } } |
第三步:聲明調用接口,我這里案例是service-order調用service-user的/hello接口,這里的注解就跟Spring MVC的注解一致:
注意Feign在做POST請求的時候有一個小坑,詳情參考:SpringCloud Feign Post表單請求。
1
2
3
4
5
|
@FeignClient ( "service-user" ) public interface UserClient { @GetMapping ( "hello" ) String getUserHello(); } |
第四步:使用,注解使用@Autowired注解注入就可以了:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
@RestController @RequestMapping public class HelloController { @Autowired UserClient userClient; @GetMapping ( "hello" ) public String hello() { return "hello, this is order service" ; } @GetMapping ( "userHello" ) public String user() { return userClient.getUserHello() + ", this is order-service" ; } } |
是不是看起來非常簡單?
OpenFeign集成Ribbon
前面我們提到,OpenFeign底層是對RestTemplate的一個封裝,而Ribbon是通過給RestTemplate添加過濾器來實現的,所以OpenFeign天生就自動集成了Ribbon,我們不需要任何額外的配置。
在上述代碼中,啟動后,可以訪問service-order的/userHello端口,不斷刷新,發現已經實現了負載均衡。
以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持服務器之家。
原文鏈接:https://blog.51cto.com/14890694/2518860