熔斷與降級(jí)

為什么在RPC環(huán)節(jié)中有熔斷以及降級(jí)的需求，詳細(xì)的原因這里不多解釋?zhuān)瑥木W(wǎng)上搜索一張圖做示意。

熔斷

我理解熔段主要解決如下幾個(gè)問(wèn)題：

當(dāng)所依賴的對(duì)象不穩(wěn)定時(shí)，能夠起到快速失敗的目的快速失敗后，能夠根據(jù)一定的算法動(dòng)態(tài)試探所依賴對(duì)象是否恢復(fù)

比如產(chǎn)品詳細(xì)頁(yè)獲取產(chǎn)品的好評(píng)總數(shù)時(shí)，由于后端服務(wù)異常導(dǎo)致客戶端每次都需要等到超時(shí)。如果短時(shí)間內(nèi)服務(wù)不能恢復(fù)，那么這段時(shí)間內(nèi)的所有請(qǐng)求時(shí)間都將是最大的超時(shí)時(shí)間，這類(lèi)消費(fèi)時(shí)間又得不到正確結(jié)果的現(xiàn)象是不能容忍的。所以遇到這類(lèi)情況，就需要根據(jù)一定的算法判定服務(wù)短時(shí)間不可用，將后面的請(qǐng)求進(jìn)行快速失敗處理，這樣可以節(jié)省服務(wù)等待時(shí)間。

同時(shí)，后端服務(wù)是有可能自主或者人為在一定時(shí)間內(nèi)恢復(fù)的，所以之前被判定為快速失敗的服務(wù)，需要有能力去試探服務(wù)是否已經(jīng)恢復(fù)。

上面提到的快速失敗以及自主恢復(fù)現(xiàn)象就是熔斷

降級(jí)

降級(jí)是指自己的待遇下降了，從RPC調(diào)用環(huán)節(jié)來(lái)講，就是去訪問(wèn)一個(gè)本地的偽裝者而不是真實(shí)的服務(wù)，但這對(duì)調(diào)用端來(lái)說(shuō)是沒(méi)有區(qū)別的。拿電商展示某個(gè)產(chǎn)品的詳細(xì)頁(yè)來(lái)說(shuō)：

當(dāng)加載評(píng)論時(shí)，由于評(píng)論服務(wù)不可用，此時(shí)可以返回一些默認(rèn)的評(píng)論當(dāng)加載產(chǎn)品庫(kù)存，由于庫(kù)存服務(wù)不可用，此時(shí)可以固定顯示一個(gè)庫(kù)存數(shù)

上面提供返回默認(rèn)評(píng)論，固定庫(kù)存的服務(wù)就是偽裝服務(wù)，這類(lèi)服務(wù)一般不依賴其它服務(wù)，穩(wěn)定性最高。由偽裝者提供服務(wù)給客戶端的現(xiàn)象就是服務(wù)降級(jí)。

RPC如何支持熔斷與降級(jí)

一種最簡(jiǎn)單的辦法就是借用hystrix來(lái)實(shí)現(xiàn)。

引入包依賴

由于示例未采用注解式方案，所以只需要引用下面兩個(gè)包即可。

<dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-core</artifactId> <version>${hystrix-version}</version></dependency><dependency> <groupId>com.netflix.hystrix</groupId> <artifactId>hystrix-metrics-event-stream</artifactId> <version>${hystrix-version}</version></dependency>

實(shí)現(xiàn)命令模式

hystrix遵循命令模式，這里可以往這個(gè)標(biāo)準(zhǔn)的UML圖上去套。

創(chuàng)建一個(gè)新的類(lèi)，RpcHystrixCommand，繼承自HystrixCommand即可。

我這里采用線程隔離方式。

構(gòu)造函數(shù)參數(shù)

由于需要遠(yuǎn)程調(diào)用，所以構(gòu)造函數(shù)需要接收遠(yuǎn)程調(diào)用所需求必要參數(shù)

/** * 遠(yuǎn)程目標(biāo)方法 */private Method method;/** * 遠(yuǎn)程目標(biāo)接口 */private Object obj;/** * 遠(yuǎn)程方法所需要的參數(shù) */private Object[] params;/** * 遠(yuǎn)程接口客戶端引用注解 */private RpcReference rpcReference;/** * RPC客戶端配置 */private ReferenceConfig referenceConfig;

構(gòu)造函數(shù)方法簽名:

public RpcHystrixCommand(Object obj, Method method, Object[] params, RpcReference rpcReference, ReferenceConfig referenceConfig)

初始化hystrix

這里只是一個(gè)示例，所以參數(shù)設(shè)置比較隨意，詳細(xì)的可參考文檔。

super(Setter.withGroupKey(HystrixCommandGroupKey.Factory.asKey('CircuitBreakerRpcHystrixCommandGroup')) .andCommandKey(HystrixCommandKey.Factory.asKey('CircuitBreakerRpcHystrixCommandKey')) .andCommandPropertiesDefaults(HystrixCommandProperties.Setter() .withCircuitBreakerEnabled(true) .withCircuitBreakerRequestVolumeThreshold(1) .withCircuitBreakerErrorThresholdPercentage(50) .withCircuitBreakerSleepWindowInMilliseconds(5*1000) .withMetricsRollingStatisticalWindowInMilliseconds(10*1000) ) .andThreadPoolKey(HystrixThreadPoolKey.Factory.asKey('CircuitBreakerRpcHystrixCommandPool')) .andThreadPoolPropertiesDefaults(HystrixThreadPoolProperties.Setter().withCoreSize(100)) );

run()函數(shù)

run()函數(shù)就是正常調(diào)用時(shí)所需要執(zhí)行的方法，將調(diào)用遠(yuǎn)程通信的邏輯遷移到此，由于此處不涉及今天講的熔斷降級(jí)，所以不用關(guān)心里面的代碼。

@Overrideprotected Object run() { // 執(zhí)行遠(yuǎn)程調(diào)用}

擴(kuò)展rpcReference注解以支持降級(jí)

在之前的注解中增加一個(gè)屬性，用來(lái)配置服務(wù)偽裝者所屬的類(lèi)對(duì)象

public @interface RpcReference { /** * 服務(wù)降級(jí)的偽裝者類(lèi)對(duì)象 * @return */ Class<?> fallbackServiceClazz() default Object.class;}

getFallback()函數(shù)

當(dāng)快速失敗時(shí)，我們希望返回一些預(yù)先準(zhǔn)備好的值給到客戶端，實(shí)現(xiàn)這個(gè)需求就需要實(shí)現(xiàn)這個(gè)fallback函數(shù)。

偽裝者的邏輯由于是客戶端控制，所以我們通過(guò)參數(shù)來(lái)動(dòng)態(tài)支持。 通過(guò)rpcReference注解可以獲取配置的偽裝者

protected Object getFallback() { Method[] methods = this.rpcReference.fallbackServiceClazz().getMethods(); for (Method methodFallback : methods) { if(this.method.getName().equals(methodFallback.getName())){try { Object fallbackServiceMock= ApplicationContextUtils.getApplicationContext().getBean(this.rpcReference.fallbackServiceClazz()); return methodFallback.invoke(fallbackServiceMock,this.params);} catch (IllegalAccessException e) { logger.error('RpcHystrixCommand.getFallback error',e);} catch (InvocationTargetException e) { logger.error('RpcHystrixCommand.getFallback error',e);} } } throw new RpcException('service fallback unimplement'); }

RpcProxy嵌入熔斷降級(jí)機(jī)制

代理的invoke方法，將改調(diào)用命令模式的execute方法來(lái)代替。

@Overridepublic Object invoke(Object proxy, Method method, Object[] args) throws Throwable { RpcHystrixCommand rpcHystrixCommand=new RpcHystrixCommand(proxy,method,args,this.reference,this.referenceConfig); return rpcHystrixCommand.execute();}

客戶端使用

dubbo有一個(gè)mock機(jī)制，功能有些弱，有興趣可以自行研究。我這里更加傾向于根據(jù)邏輯來(lái)判斷是否使用熔斷降級(jí)，降級(jí)的邏輯需要有更多的支持。

Spring Cloud的熔斷降級(jí)的做法與我的類(lèi)似,它是通過(guò)注解在接口上

@FeignClient(value = 'JIM-CLOUD-PROVIDER-SERVER',fallback = ProductServiceHystrix.class)public interface ProductService { @RequestMapping(value = '/product/{productId}',method = RequestMethod.GET) String getById(@PathVariable('productId') final long productId);}

創(chuàng)建偽裝者接口

定義偽裝者接口，約定成員方法的簽名與真身相同。

public interface ProductCommentMockService { Product getById(Long productId);}

實(shí)現(xiàn)偽裝者接口

實(shí)現(xiàn)偽裝者接口，這里不光是簡(jiǎn)單的固定數(shù)據(jù),可心任意編寫(xiě)偽裝者業(yè)務(wù)邏輯，與普通的service bean 沒(méi)有區(qū)別。

@Servicepublic class ProductCommentMockServiceImpl implements ProductCommentMockService { @Override public Product getById(Long productId) { Product mockProduct=new Product(); mockProduct.setId(0L); mockProduct.setName('mock product name'); return mockProduct; }}

服務(wù)引用使用熔斷降級(jí)機(jī)制

在引用遠(yuǎn)程服務(wù)接口的注解上，配置偽裝者接口的類(lèi)即可。

@RpcReference( maxExecutesCount = 1, fallbackServiceClazz = ProductCommentMockService.class)private ProductService productService;

測(cè)試

故意不啟動(dòng)服務(wù)端，請(qǐng)求接口，此時(shí)出現(xiàn)mock數(shù)據(jù)說(shuō)明組件功能正常。

{'id':0,'name':'mock product name'}

待解決問(wèn)題

由于熔斷器采用的是新線程執(zhí)行，所以會(huì)影響Rpc上下文傳遞的參數(shù)傳遞。

本文源碼

https://github.com/jiangmin168168/jim-framework

文中代碼是依賴上述項(xiàng)目的，如果有不明白的可下載源碼

以上就是本文的全部?jī)?nèi)容，希望對(duì)大家的學(xué)習(xí)有所幫助，也希望大家多多支持好吧啦網(wǎng)。