Netflix Ribbon 客戶端負載均衡

Ribbon能做什么

  • 提供了多種可插拔的負載均衡策略
  • 可集成服務發(fā)現(xiàn)
  • 內(nèi)置彈性容錯
  • 云端集成
  • 客戶端負載均衡
  • Archaius 配置驅(qū)動工廠

Ribbon負載均衡核心組件

  • Rule - 用于從服務列表中選取服務的邏輯組件
  • Ping - 在后臺運行確保服務可用性組件
  • ServerList - 服務列表,可以是靜態(tài)也可以是動態(tài)的,如果是動態(tài)的(例如被DynamicServerListLoadBalancer使用),將會啟動一個后臺線程定期刷新和過濾服務列表

這些組件可以使用程序進行配置,可以利用反射客戶端配置屬性進行配置, 以下是配置文件中相關(guān)的屬性名(注意帶上前綴<clientName>.<nameSpace>.)

NFLoadBalancerClassName
NFLoadBalancerRuleClassName
NFLoadBalancerPingClassName
NIWSServerListClassName
NIWSServerListFilterClassName

常用的Rule

RoundRobinRule

最簡單的負載均衡策略,常用于默認策略或者其他策略的備用策略

AvailabilityFilteringRule

這個策略會跳過斷路中的服務,或者高并發(fā)連接數(shù)的服務。
默認情況下,如果RestClient最近三次連接均失敗則任務該實例斷路,然后該實例會保持斷路狀態(tài)30秒后進入回路關(guān)閉狀態(tài),如果此時仍然連接失敗,那么等待進入關(guān)閉狀態(tài)的時間會隨失敗次數(shù)指數(shù)級增長。

以下屬性可以通過 Archaius ConfigurationManager進行設(shè)置

# successive connection failures threshold to put the server in circuit tripped state, default 3
niws.loadbalancer.<clientName>.connectionFailureCountThreshold

# Maximal period that an instance can remain in "unusable" state regardless of the exponential increase, default 30
niws.loadbalancer.<clientName>.circuitTripMaxTimeoutSeconds

# threshold of concurrent connections count to skip the server, default is Integer.MAX_INT
<clientName>.<clientConfigNameSpace>.ActiveConnectionsLimit

WeightedResponseTimeRule

這種方式會為每一個服務按響應時長分配權(quán)重,響應時間越長權(quán)重越低,權(quán)重代表了該服務會被選中的概率。
啟用WeightedResponseTimeRule可以通過API設(shè)置也可以使用下面的配置

<clientName>.<clientConfigNameSpace>.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.WeightedResponseTimeRule

ServerList

Adhoc static server list

你可以設(shè)置靜態(tài)的服務列表,使用BaseLoadBalancer或其子類的BaseLoadBalancer.setServersList()方法

ConfigurationBasedServerList

基于配置的服務列表是負載均衡器的默認實現(xiàn)
可以通過 ArchaiusConfigurationManager配置服務列表

sample-client.ribbon.listOfServers=www.microsoft.com:80,www.yahoo.com:80,www.google.com:80

DiscoveryEnabledNIWSServerList

該實現(xiàn)通過Eureka客戶端獲得服務列表,服務集群必須用VipAddress進行區(qū)分識別

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice

ServerListFilter

DynamicServerListLoadBalancer會使用ServerListFilter組件來過濾服務列表,Ribbon中有兩種ServerListFilter實現(xiàn)。

ZoneAffinityServerListFilter

過濾掉與客戶端不在同一可用區(qū)中的服務,除非同一區(qū)中沒有可用服務,假設(shè)客戶端name: myclient, namespace: ribbon,配置方式如下

myclient.ribbon.EnableZoneAffinity=true

ServerListSubsetFilter

該過濾器確??蛻舳酥荒芸匆娝蟹樟斜碇械囊粋€固定子集,它也可以周期性的用新服務替換掉子集中低可用的服務??梢允褂靡韵屡渲瞄_啟

myClient.ribbon.NIWSServerListClassName=com.netflix.niws.loadbalancer.DiscoveryEnabledNIWSServerList 
# the server must register itself with Eureka server with VipAddress "myservice"
myClient.ribbon.DeploymentContextBasedVipAddresses=myservice
myClient.ribbon.NIWSServerListFilterClassName=com.netflix.loadbalancer.ServerListSubsetFilter
# only show client 5 servers. default is 20.
myClient.ribbon.ServerListSubsetFilter.size=5
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容