【五】Spring Cloud Hystrix

Hystrix具備了服務降級、服務熔斷、線程隔離、請求緩存、請求合并以及服務監(jiān)控等強大功能。

1.Hystrix服務降級

1.1增加Hystrix的依賴

<!--熔斷器-->
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
    </dependency>
    <!--熔斷器-->

1.2增加配置文件配置

#開啟斷路器
feign:
  hystrix:
    enabled: true

1.3增加啟動類配置代碼

//發(fā)現(xiàn)服務注冊中心,將服務進行注冊
@EnableDiscoveryClient
//開啟feign能力
@EnableFeignClients
@SpringBootApplication
public class DemoSpringcloudServiceUserApplication {

    public static void main(String[] args) {
        SpringApplication.run(DemoSpringcloudServiceUserApplication.class, args);
    }
}

1.4增加一個降級服務實現(xiàn)類

@Component
public class HyStrixUserService implements FeignUserService{

    @Override
    public String findUserById(){

        return "hystrix find User By id" ;
    }
}

1.5改動Feign調(diào)用類代碼

//所有客戶端接口集合,需要誰的服務,就配置誰的applicationName
@FeignClient(value = "demo-springcloud-service-user" ,fallback = HyStrixUserService.class)
public interface FeignUserService {


    //對方服務的請求名稱
    @GetMapping("/findUser")
    String findUserById();

}

1.6 調(diào)用正常結(jié)果預覽

image.png

1.7 模擬調(diào)用異常結(jié)果

1.7.1 增加認為異常,模擬服務不可用
  /**
     * 這是提供的一個微服務方法
     * @return Object
     */
    @GetMapping("/findUser")
    public Object findUser()throws Exception{

        if(1==1){
            throw new Exception("findUser exception");
        }
        return "hello lemon" ;
    }
1.7.2 結(jié)果預覽
image.png

2.Hystrix依賴隔離

Hystrix其實已經(jīng)默認實現(xiàn)了依賴隔離,理論姿勢如下:

  • 應用自身得到完全的保護,不會受不可控的依賴服務影響。即便給依賴服務分配的線程池被填滿,也不會影響應用自身的額其余部分。
    可以有效的降低接入新服務的風險。如果新服務接入后運行不穩(wěn)定或存在問題,完全不會影響到應用其他的請求。
  • 當依賴的服務從失效恢復正常后,它的線程池會被清理并且能夠馬上恢復健康的服務,相比之下容器級別的清理恢復速度要慢得多。
  • 當依賴的服務出現(xiàn)配置錯誤的時候,線程池會快速的反應出此問題(通過失敗次數(shù)、延遲、超時、拒絕等指標的增加情況)。同時,我們可以在不影響應用功能的情況下通過實時的動態(tài)屬性刷新(后續(xù)會通過Spring Cloud Config與Spring Cloud Bus的聯(lián)合使用來介紹)來處理它。
  • 當依賴的服務因?qū)崿F(xiàn)機制調(diào)整等原因造成其性能出現(xiàn)很大變化的時候,此時線程池的監(jiān)控指標信息會反映出這樣的變化。同時,我們也可以通過實時動態(tài)刷新自身應用對依賴服務的閾值進行調(diào)整以適應依賴方的改變。
  • 除了上面通過線程池隔離服務發(fā)揮的優(yōu)點之外,每個專有線程池都提供了內(nèi)置的并發(fā)實現(xiàn),可以利用它為同步的依賴服務構(gòu)建異步的訪問。

3.Hystrix斷路器

斷路器的三個重要參數(shù):快照時間窗、請求總數(shù)下限、錯誤百分比下限。這個參數(shù)的作用分別是:

  • 快照時間窗:斷路器確定是否打開需要統(tǒng)計一些請求和錯誤數(shù)據(jù),而統(tǒng)計的時間范圍就是快照時間窗,默認為最近的10秒。
  • 請求總數(shù)下限:在快照時間窗內(nèi),必須滿足請求總數(shù)下限才有資格根據(jù)熔斷。默認為20,意味著在10秒內(nèi),如果該hystrix命令的調(diào)用此時不足20次,即時所有的請求都超時或其他原因失敗,斷路器都不會打開。
  • 錯誤百分比下限:當請求總數(shù)在快照時間窗內(nèi)超過了下限,比如發(fā)生了30次調(diào)用,如果在這30次調(diào)用中,有16次發(fā)生了超時異常,也就是超過50%的錯誤百分比,在默認設定50%下限情況下,這時候就會將斷路器打開。

那么當斷路器打開之后會發(fā)生什么呢?我們先來說說斷路器未打開之前,對于之前那個示例的情況就是每個請求都會在當hystrix超時之后返回fallback,每個請求時間延遲就是近似hystrix的超時時間,如果設置為5秒,那么每個請求就都要延遲5秒才會返回。當熔斷器在10秒內(nèi)發(fā)現(xiàn)請求總數(shù)超過20,并且錯誤百分比超過50%,這個時候熔斷器打開。打開之后,再有請求調(diào)用的時候,將不會調(diào)用主邏輯,而是直接調(diào)用降級邏輯,這個時候就不會等待5秒之后才返回fallback。通過斷路器,實現(xiàn)了自動地發(fā)現(xiàn)錯誤并將降級邏輯切換為主邏輯,減少響應延遲的效果。

在斷路器打開之后,處理邏輯并沒有結(jié)束,我們的降級邏輯已經(jīng)被成了主邏輯,那么原來的主邏輯要如何恢復呢?對于這一問題,hystrix也為我們實現(xiàn)了自動恢復功能。當斷路器打開,對主邏輯進行熔斷之后,hystrix會啟動一個休眠時間窗,在這個時間窗內(nèi),降級邏輯是臨時的成為主邏輯,當休眠時間窗到期,斷路器將進入半開狀態(tài),釋放一次請求到原來的主邏輯上,如果此次請求正常返回,那么斷路器將繼續(xù)閉合,主邏輯恢復,如果這次請求依然有問題,斷路器繼續(xù)進入打開狀態(tài),休眠時間窗重新計時。

通過上面的一系列機制,hystrix的斷路器實現(xiàn)了對依賴資源故障的端口、對降級策略的自動切換以及對主邏輯的自動恢復機制。這使得我們的微服務在依賴外部服務或資源的時候得到了非常好的保護,同時對于一些具備降級邏輯的業(yè)務需求可以實現(xiàn)自動化的切換與恢復,相比于設置開關(guān)由監(jiān)控和運維來進行切換的傳統(tǒng)實現(xiàn)方式顯得更為智能和高效。

HyStrix部分常用配置字段

Execution相關(guān)的屬性的配置:

  • hystrix.command.default.execution.isolation.strategy 隔離策略,默認是Thread, 可選Thread|Semaphore

  • hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds 命令執(zhí)行超時時間,默認1000ms

  • hystrix.command.default.execution.timeout.enabled 執(zhí)行是否啟用超時,默認啟用true

  • hystrix.command.default.execution.isolation.thread.interruptOnTimeout 發(fā)生超時是是否中斷,默認true

  • hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests 最大并發(fā)請求數(shù),默認10,該參數(shù)當使用ExecutionIsolationStrategy.SEMAPHORE策略時才有效。如果達到最大并發(fā)請求數(shù),請求會被拒絕。理論上選擇semaphore size的原則和選擇thread size一致,但選用semaphore時每次執(zhí)行的單元要比較小且執(zhí)行速度快(ms級別),否則的話應該用thread。
    semaphore應該占整個容器(tomcat)的線程池的一小部分。

Fallback相關(guān)的屬性

這些參數(shù)可以應用于Hystrix的THREAD和SEMAPHORE策略

  • hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests 如果并發(fā)數(shù)達到該設置值,請求會被拒絕和拋出異常并且fallback不會被調(diào)用。默認10
  • hystrix.command.default.fallback.enabled 當執(zhí)行失敗或者請求被拒絕,是否會嘗試調(diào)用hystrixCommand.getFallback() 。默認true

Circuit Breaker相關(guān)的屬性

  • hystrix.command.default.circuitBreaker.enabled 用來跟蹤circuit的健康性,如果未達標則讓request短路。默認true
  • hystrix.command.default.circuitBreaker.requestVolumeThreshold 一個rolling window內(nèi)最小的請求數(shù)。如果設為20,那么當一個rolling window的時間內(nèi)(比如說1個rolling window是10秒)收到19個請求,即使19個請求都失敗,也不會觸發(fā)circuit break。默認20
  • hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds 觸發(fā)短路的時間值,當該值設為5000時,則當觸發(fā)circuit break后的5000毫秒內(nèi)都會拒絕request,也就是5000毫秒后才會關(guān)閉circuit。默認5000
  • hystrix.command.default.circuitBreaker.errorThresholdPercentage錯誤比率閥值,如果錯誤率>=該值,circuit會被打開,并短路所有請求觸發(fā)fallback。默認50
  • hystrix.command.default.circuitBreaker.forceOpen 強制打開熔斷器,如果打開這個開關(guān),那么拒絕所有request,默認false
    hystrix.command.default.circuitBreaker.forceClosed 強制關(guān)閉熔斷器 如果這個開關(guān)打開,circuit將一直關(guān)閉且忽略circuitBreaker.errorThresholdPercentage

Metrics相關(guān)參數(shù)

  • hystrix.command.default.metrics.rollingStats.timeInMilliseconds 設置統(tǒng)計的時間窗口值的,毫秒值,circuit break 的打開會根據(jù)1個rolling window的統(tǒng)計來計算。若rolling window被設為10000毫秒,則rolling window會被分成n個buckets,每個bucket包含success,failure,timeout,rejection的次數(shù)的統(tǒng)計信息。默認10000
  • hystrix.command.default.metrics.rollingStats.numBuckets 設置一個rolling window被劃分的數(shù)量,若numBuckets=10,rolling window=10000,那么一個bucket的時間即1秒。必須符合rolling window % numberBuckets == 0。默認10
  • hystrix.command.default.metrics.rollingPercentile.enabled 執(zhí)行時是否enable指標的計算和跟蹤,默認true
  • hystrix.command.default.metrics.rollingPercentile.timeInMilliseconds 設置rolling percentile window的時間,默認60000
  • hystrix.command.default.metrics.rollingPercentile.numBuckets 設置rolling percentile window的numberBuckets。邏輯同上。默認6
  • hystrix.command.default.metrics.rollingPercentile.bucketSize 如果bucket size=100,window=10s,若這10s里有500次執(zhí)行,只有最后100次執(zhí)行會被統(tǒng)計到bucket里去。增加該值會增加內(nèi)存開銷以及排序的開銷。默認100
  • hystrix.command.default.metrics.healthSnapshot.intervalInMilliseconds 記錄health 快照(用來統(tǒng)計成功和錯誤綠)的間隔,默認500ms

Request Context 相關(guān)參數(shù)

  • hystrix.command.default.requestCache.enabled 默認true,需要重載getCacheKey(),返回null時不緩存
  • hystrix.command.default.requestLog.enabled 記錄日志到HystrixRequestLog,默認true

Collapser Properties 相關(guān)參數(shù)

  • hystrix.collapser.default.maxRequestsInBatch 單次批處理的最大請求數(shù),達到該數(shù)量觸發(fā)批處理,默認Integer.MAX_VALUE
  • hystrix.collapser.default.timerDelayInMilliseconds 觸發(fā)批處理的延遲,也可以為創(chuàng)建批處理的時間+該值,默認10
  • hystrix.collapser.default.requestCache.enabled 是否對HystrixCollapser.execute() and HystrixCollapser.queue()的cache,默認true

ThreadPool 相關(guān)參數(shù)

線程數(shù)默認值10適用于大部分情況(有時可以設置得更?。绻枰O置得更大,那有個基本得公式可以follow:
requests per second at peak when healthy × 99th percentile latency in seconds + some breathing room
每秒最大支撐的請求數(shù) (99%平均響應時間 + 緩存值)
比如:每秒能處理1000個請求,99%的請求響應時間是60ms,那么公式是:
1000 (0.060+0.012)

基本得原則時保持線程池盡可能小,他主要是為了釋放壓力,防止資源被阻塞。
當一切都是正常的時候,線程池一般僅會有1到2個線程激活來提供服務

  • hystrix.threadpool.default.coreSize 并發(fā)執(zhí)行的最大線程數(shù),默認10
  • hystrix.threadpool.default.maxQueueSize BlockingQueue的最大隊列數(shù),當設為-1,會使用SynchronousQueue,值為正時使用LinkedBlcokingQueue。該設置只會在初始化時有效,之后不能修改threadpool的queue size,除非reinitialising thread executor。默認-1。
  • hystrix.threadpool.default.queueSizeRejectionThreshold 即使maxQueueSize沒有達到,達到queueSizeRejectionThreshold該值后,請求也會被拒絕。因為maxQueueSize不能被動態(tài)修改,這個參數(shù)將允許我們動態(tài)設置該值。if maxQueueSize == -1,該字段將不起作用
  • hystrix.threadpool.default.keepAliveTimeMinutes 如果corePoolSize和maxPoolSize設成一樣(默認實現(xiàn))該設置無效。如果通過plugin(https://github.com/Netflix/Hystrix/wiki/Plugins)使用自定義實現(xiàn),該設置才有用,默認1.
  • hystrix.threadpool.default.metrics.rollingStats.timeInMilliseconds 線程池統(tǒng)計指標的時間,默認10000
  • hystrix.threadpool.default.metrics.rollingStats.numBuckets 將rolling window劃分為n個buckets,默認10

https://blog.csdn.net/qq_18603599/article/details/81282438

Execution相關(guān)的屬性的配置
hystrix.command.default.execution.isolation.strategy

隔離策略,默認是Thread, 可選Thread|Semaphore

hystrix.command.default.execution.isolation.thread.timeoutInMilliseconds

命令執(zhí)行超時時間,默認1000ms

hystrix.command.default.execution.timeout.enabled

執(zhí)行是否啟用超時,默認啟用true

hystrix.command.default.execution.isolation.thread.interruptOnTimeout

發(fā)生超時是是否中斷,默認true

hystrix.command.default.execution.isolation.semaphore.maxConcurrentRequests

最大并發(fā)請求數(shù),默認10,該參數(shù)當使用ExecutionIsolationStrategy.SEMAPHORE策略時才有效。如果達到最大并發(fā)請求數(shù),請求會被拒絕。理論上選擇semaphore size的原則和選擇thread size一致,但選用semaphore時每次執(zhí)行的單元要比較小且執(zhí)行速度快(ms級別),否則的話應該用thread。
semaphore應該占整個容器(tomcat)的線程池的一小部分。
Fallback相關(guān)的屬性
hystrix.command.default.fallback.isolation.semaphore.maxConcurrentRequests

如果并發(fā)數(shù)達到該設置值,請求會被拒絕和拋出異常并且fallback不會被調(diào)用。默認10

hystrix.command.default.fallback.enabled

當執(zhí)行失敗或者請求被拒絕,是否會嘗試調(diào)用hystrixCommand.getFallback() 。默認true
Circuit Breaker相關(guān)的屬性
hystrix.command.default.circuitBreaker.enabled

用來跟蹤circuit的健康性,如果未達標則讓request短路。默認true

hystrix.command.default.circuitBreaker.requestVolumeThreshold

一個rolling window內(nèi)最小的請求數(shù)。如果設為20,那么當一個rolling window的時間內(nèi)(比如說1個rolling window是10秒)收到19個請求,即使19個請求都失敗,也不會觸發(fā)circuit break。默認20

hystrix.command.default.circuitBreaker.sleepWindowInMilliseconds

觸發(fā)短路的時間值,當該值設為5000時,則當觸發(fā)circuit break后的5000毫秒內(nèi)都會拒絕request,也就是5000毫秒后才會關(guān)閉circuit。默認5000

hystrix.command.default.circuitBreaker.errorThresholdPercentage

錯誤比率閥值,如果錯誤率>=該值,circuit會被打開,并短路所有請求觸發(fā)fallback。默認50

hystrix.command.default.circuitBreaker.forceOpen

強制打開熔斷器,如果打開這個開關(guān),那么拒絕所有request,默認false

hystrix.command.default.circuitBreaker.forceClosed

強制關(guān)閉熔斷器 如果這個開關(guān)打開,circuit將一直關(guān)閉且忽略circuitBreaker.errorThresholdPercentage
Metrics相關(guān)參數(shù)
hystrix.command.default.metrics.rollingStats.timeInMilliseconds

設置統(tǒng)計的時間窗口值的,毫秒值,circuit break 的打開會根據(jù)1個rolling window的統(tǒng)計來計算。若rolling window被設為10000毫秒,則rolling window會被分成n個buckets,每個bucket包含success,failure,timeout,rejection的次數(shù)的統(tǒng)計信息。默認10000

hystrix.command.default.metrics.rollingStats.numBuckets

設置一個rolling window被劃分的數(shù)量,若numBuckets=10,rolling window=10000,那么一個bucket的時間即1秒。必須符合rolling window % numberBuckets == 0。默認10

hystrix.command.default.metrics.rollingPercentile.enabled

執(zhí)行時是否enable指標的計算和跟蹤,默認true

hystrix.command.default.metrics.rollingPercentile.timeInMilliseconds

設置rolling percentile window的時間,默認60000

hystrix.command.default.metrics.rollingPercentile.numBuckets

設置rolling percentile window的numberBuckets。邏輯同上。默認6

hystrix.command.default.metrics.rollingPercentile.bucketSize

如果bucket size=100,window=10s,若這10s里有500次執(zhí)行,只有最后100次執(zhí)行會被統(tǒng)計到bucket里去。增加該值會增加內(nèi)存開銷以及排序的開銷。默認100

hystrix.command.default.metrics.healthSnapshot.intervalInMilliseconds

記錄health 快照(用來統(tǒng)計成功和錯誤綠)的間隔,默認500ms
ThreadPool 相關(guān)參數(shù)
hystrix.threadpool.default.coreSize

并發(fā)執(zhí)行的最大線程數(shù),默認10

hystrix.threadpool.default.maxQueueSize

BlockingQueue的最大隊列數(shù),當設為-1,會使用SynchronousQueue,值為正時使用LinkedBlcokingQueue。該設置只會在初始化時有效,之后不能修改threadpool的queue size,除非reinitialising thread executor。默認-1。

hystrix.threadpool.default.queueSizeRejectionThreshold

即使maxQueueSize沒有達到,達到queueSizeRejectionThreshold該值后,請求也會被拒絕。因為maxQueueSize不能被動態(tài)修改,這個參數(shù)將允許我們動態(tài)設置該值。if maxQueueSize == -1,該字段將不起作用

hystrix.threadpool.default.keepAliveTimeMinutes

如果corePoolSize和maxPoolSize設成一樣(默認實現(xiàn))該設置無效。

hystrix.threadpool.default.metrics.rollingStats.timeInMilliseconds

線程池統(tǒng)計指標的時間,默認10000

hystrix.threadpool.default.metrics.rollingStats.numBuckets 將rolling window劃分為n個buckets,默認10

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關(guān)閱讀更多精彩內(nèi)容

  • 首先參考http://www.itdecent.cn/p/b9af028efebbhttps://blog.cs...
    Helen_Cat閱讀 1,196評論 0 0
  • hystrix默認屬性配置 hystrix.c...
    大熊丶閱讀 2,775評論 0 1
  • 1.感謝今天佳佳老師的付出,整個體驗課很愉快,謝謝謝謝謝謝! 2.感謝今天來體驗的家長和孩子,謝謝謝謝謝謝! 3....
    霖霄霦閱讀 360評論 0 0
  • 記得去年的今天也是這么冷,在剛剛黑透的天空下,撿到了被拋棄縮在角落瑟瑟發(fā)抖的小六子。 一轉(zhuǎn)眼,12個月又復轉(zhuǎn)到今天...
    紫塵靜雪cc閱讀 77評論 0 2
  • 09年就買了單反,最初是為了彩云之南雪山之旅,然而懶惰如我,一直把單反當作傻瓜相機使用,對三要素一知半解,...
    微乎其微的光影森林閱讀 781評論 10 10

友情鏈接更多精彩內(nèi)容