自動(dòng)伸縮是每個(gè)人都想要的，尤其是在微服務(wù)領(lǐng)域。讓我們看看如何在基于Spring Boot的應(yīng)用程序中實(shí)現(xiàn)。
我們決定使用?Kubernetes?、?Pivotal Cloud Foundry?或?HashiCorp's Nomad?等工具的一個(gè)更重要的原因是為了讓系統(tǒng)可以自動(dòng)伸縮。當(dāng)然，這些工具也提供了許多其他有用的功能，在這里，我們只是用它們來(lái)實(shí)現(xiàn)系統(tǒng)的自動(dòng)伸縮。乍一看，這似乎很困難，但是，如果我們使用?Spring Boot?來(lái)構(gòu)建應(yīng)用程序，并使用?Jenkins?來(lái)實(shí)現(xiàn)?CI?，那么就用不了太多工作。
今天，我將向您展示如何使用以下框架/工具實(shí)現(xiàn)這樣的解決方案：
Spring Boot
Spring Boot Actuator
Spring Cloud Netflix Eureka
Jenkins CI
它是如何工作的
每一個(gè)包含?Spring Boot Actuator?庫(kù)的?Spring Boot?應(yīng)用程序都可以在?/actuator/metrics端點(diǎn)下公開?metric?。許多有價(jià)值的?metric?都可以提供應(yīng)用程序運(yùn)行狀態(tài)的詳細(xì)信息。在討論自動(dòng)伸縮時(shí)，其中一些?metric?可能特別重要：?JVM?、CPU?metric?、正在運(yùn)行的線程數(shù)和HTTP請(qǐng)求數(shù)。有專門的?Jenkins?流水線通過(guò)按一定頻率輪詢?/actuator/metrics?端點(diǎn)來(lái)獲取應(yīng)用程序的指標(biāo)。如果監(jiān)控的任何?metric?【指標(biāo)】低于或高于目標(biāo)范圍，則它會(huì)啟動(dòng)新實(shí)例或使用另一個(gè)?Actuator?端點(diǎn)?/actuator/shutdown?來(lái)關(guān)閉一些正在運(yùn)行的實(shí)例。在此之前，我們需要知道當(dāng)前有那些實(shí)踐在提供服務(wù)，只有這樣我們才能在需要的時(shí)候關(guān)閉空閑的實(shí)例或啟動(dòng)新的新例。
在討論了系統(tǒng)架構(gòu)之后，我們就可以繼續(xù)開發(fā)了。這個(gè)應(yīng)用程序需要滿足以下要求：它必須有公開的可以優(yōu)雅地關(guān)閉應(yīng)用程序和用來(lái)獲取應(yīng)用程序運(yùn)行狀態(tài)?metric?【指標(biāo)】的端點(diǎn)，它需要在啟動(dòng)完成的同時(shí)就完成在Eureka的注冊(cè)，在關(guān)閉時(shí)取消注冊(cè)，最后，它還應(yīng)該能夠從空閑端口池中隨機(jī)獲取一個(gè)可用的端口。感謝?Spring Boot?，只需要約五分鐘，我們可以輕松地實(shí)現(xiàn)所有這些機(jī)制。
動(dòng)態(tài)端口分配
由于可以在一臺(tái)機(jī)器上運(yùn)行多個(gè)應(yīng)用程序?qū)嵗晕覀儽仨毐ＷC端口號(hào)不沖突。幸運(yùn)的是，?Spring Boot?為應(yīng)用程序提供了這樣的機(jī)制。我們只需要將?application.yml?中的?server.port屬性設(shè)置為?0?。因?yàn)槲覀兊膽?yīng)用程序會(huì)在?Eureka?中注冊(cè)，并且發(fā)送唯一的標(biāo)識(shí)?instanceId?，默認(rèn)情況下這個(gè)唯一標(biāo)識(shí)是將字段?spring.cloud.client.hostname?,?spring.application.name和?server.port?拼接而成的。
示例應(yīng)用程序的當(dāng)前配置如下所示。
可以看到，我通過(guò)將端口號(hào)替換為隨機(jī)生成的數(shù)字來(lái)改變了生成?instanceId?字段值的模板。
spring:
? application:
? ? name: example-service
server:
? port: ${PORT:0}
eureka:
? instance:
? ? instanceId: ${spring.cloud.client.hostname}:${spring.application.name}:${random.int[1,999999]}
啟用Actuator的Metric
為了啟用?Spring Boot Actuator?，我們需要將下面的依賴添加到?pom.xml?。
<dependency>
? ? <groupId>org.springframework.boot</groupId>
? ? <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
我們還必須通過(guò)HTTP API將屬性?management.endpoints.web.exposure.include?設(shè)置為?'*'?來(lái)暴露?Actuator?的端點(diǎn)?，F(xiàn)在，所有可用的指標(biāo)名稱列表都可以在?/actuator/metrics?端點(diǎn)中找到，每個(gè)指標(biāo)的詳細(xì)信息可以通過(guò)?/actuator/metrics/{metricName}?端點(diǎn)查看。
優(yōu)雅地停止應(yīng)用程序
除了查看?metric?端點(diǎn)外，?Spring Boot Actuator?還提供了停止應(yīng)用程序的端點(diǎn)。然而，與其他端點(diǎn)不同的是，缺省情況下，此端點(diǎn)是不可用的。我們必須把?management.endpoint.shutdown.enabled?設(shè)為?true?。在那之后，我們就可以通過(guò)發(fā)送一個(gè)?POST?請(qǐng)求到?/actuator/shutdown?端點(diǎn)來(lái)停止應(yīng)用程序了。
這種停止應(yīng)用程序的方法保證了服務(wù)在停止之前從?Eureka?服務(wù)器注銷。
啟用Eureka自動(dòng)發(fā)現(xiàn)
Eureka?是最受歡迎的發(fā)現(xiàn)服務(wù)器，特別是使用?Spring Cloud?來(lái)構(gòu)建微服務(wù)的架構(gòu)。所以，如果你已經(jīng)有了微服務(wù)，并且想要為他們提供自動(dòng)伸縮機(jī)制，那么?Eureka?將是一個(gè)自然的選擇。它包含每個(gè)應(yīng)用程序注冊(cè)實(shí)例的IP地址和端口號(hào)。為了啟用?Eureka?客戶端，您只需要將下面的依賴項(xiàng)添加到?pom.xml?中。
<dependency>
? ? <groupId>org.springframework.cloud</groupId>
? ? <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
</dependency>
正如之前提到的，我們還必須保證通過(guò)客戶端應(yīng)用程序發(fā)送到?Eureka?服務(wù)器的?instanceId?的唯一性。在“動(dòng)態(tài)端口分配”中已經(jīng)描述了它。
下一步需要?jiǎng)?chuàng)建一個(gè)包含內(nèi)嵌?Eureka?服務(wù)器的應(yīng)用程序。為了實(shí)現(xiàn)這個(gè)功能，首先我們需要在?pom.xml?中添加下面這個(gè)依賴：
<dependency>
? ? <groupId>org.springframework.cloud</groupId>
? ? <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
</dependency>
這個(gè)?main類?需要添加?@EnableEurekaServer?注解。
@SpringBootApplication
@EnableEurekaServer
public class DiscoveryApp {
? ? public static void main(String[] args) {
? ? ? ? new SpringApplicationBuilder(DiscoveryApp.class).run(args);
? ? }
}
默認(rèn)情況下，客戶端應(yīng)用程序嘗試使用?8761?端口連接?Eureka?服務(wù)器。我們只需要單獨(dú)的、獨(dú)立的?Eureka?節(jié)點(diǎn)，因此我們將禁用注冊(cè)，并嘗試從另一個(gè)?Eureka?服務(wù)器實(shí)例中獲取服務(wù)列表。
spring:
? application:
? ? name: discovery-service
server:
? port: ${PORT:8761}
eureka:
? instance:
? ? hostname: localhost
? client:
? ? registerWithEureka: false
? ? fetchRegistry: false
? ? serviceUrl:
? ? ? defaultZone: http://localhost:8761/eureka/
我們將使用?Docker?容器來(lái)測(cè)試上面的自動(dòng)伸縮系統(tǒng)，因此需要使用?Eureka?服務(wù)器來(lái)準(zhǔn)備和構(gòu)建?image?。
Dockerfile?和?image?的定義如下所示。
我們可以使用命令?docker build -t piomin/discovery-server:2.0?來(lái)進(jìn)行構(gòu)建。
FROM openjdk:8-jre-alpine
ENV APP_FILE discovery-service-1.0-SNAPSHOT.jar
ENV APP_HOME /usr/apps
EXPOSE 8761
COPY target/$APP_FILE $APP_HOME/
WORKDIR $APP_HOME
ENTRYPOINT ["sh", "-c"]
CMD ["exec java -jar $APP_FILE"]
為彈性伸縮構(gòu)建一個(gè)Jenkins流水線
第一步是準(zhǔn)備?Jenkins?流水線，負(fù)責(zé)自動(dòng)伸縮。我們將創(chuàng)建?Jenkins?聲明式流水線，它每分鐘運(yùn)行一次。可以使用?triggers?指令配置執(zhí)行周期，它定義了自動(dòng)化觸發(fā)流水線的方法。我們的流水線將與?Eureka?服務(wù)器和每個(gè)使用?Spring Boot Actuator?的微服務(wù)中公開的?metric?端點(diǎn)進(jìn)行通信。
測(cè)試服務(wù)的名稱是?EXAMPLE-SERVICE?，它和定義在?application.yml?文件?spring.application.name?的屬性值（大寫字母）相同。被監(jiān)控的?metric?是運(yùn)行在Tomcat容器中的HTTP?listener線程數(shù)。這些線程負(fù)責(zé)處理客戶端的HTTP請(qǐng)求。
pipeline {
? ? agent any
? ? triggers {
? ? ? ? cron('* * * * *')
? ? }
? ? environment {
? ? ? ? SERVICE_NAME = "EXAMPLE-SERVICE"
? ? ? ? METRICS_ENDPOINT = "/actuator/metrics/tomcat.threads.busy?tag=name:http-nio-auto-1"
? ? ? ? SHUTDOWN_ENDPOINT = "/actuator/shutdown"
? ? }
? ? stages { ... }
}
使用Eureka整合Jenkins流水線
流水線的第一個(gè)階段負(fù)責(zé)獲取在?discovery?服務(wù)器上注冊(cè)的服務(wù)列表。?Eureka?發(fā)現(xiàn)了幾個(gè)HTTP API端點(diǎn)。其中一個(gè)是?GET /eureka/apps/{serviceName}?，它返回一個(gè)給定服務(wù)名稱的所有活動(dòng)實(shí)例列表。我們正在保存運(yùn)行實(shí)例的數(shù)量和每個(gè)實(shí)例?metric?端點(diǎn)的URL。這些值將在流水線的下一個(gè)階段中被訪問(wèn)。
下面的流水線片段可以用來(lái)獲取活動(dòng)應(yīng)用程序?qū)嵗斜怼?stage?名稱是?Calculate?。我們使用HTTP請(qǐng)求插件來(lái)發(fā)起HTTP連接。
stage('Calculate') {
steps {
? script {
? def response = httpRequest "http://192.168.99.100:8761/eureka/apps/${env.SERVICE_NAME}"
? def app = printXml(response.content)
? def index = 0
? env["INSTANCE_COUNT"] = app.instance.size()
? app.instance.each {
? ? if (it.status == 'UP') {
? ? def address = "http://${it.ipAddr}:${it.port}"
? ? env["INSTANCE_${index++}"] = address
? ? }
? }
? }
}
}
@NonCPS
def printXml(String text) {
return new XmlSlurper(false, false).parseText(text)
}
下面是?Eureka?API對(duì)我們的微服務(wù)的示例響應(yīng)。響應(yīng)?content-type?是?XML?。
使用Spring Boot Actuator整合Jenkins流水線
Spring Boot Actuator?使用?metric?來(lái)公開端點(diǎn)，這使得我們可以通過(guò)名稱和選擇性地使用標(biāo)簽找到?metric?。在下面可見的流水線片段中，我試圖找到?metric?低于或高于閾值的實(shí)例。如果有這樣的實(shí)例，我們就停止循環(huán)，以便進(jìn)入下一個(gè)階段，它執(zhí)行向下或向上的伸縮。應(yīng)用程序的IP地址是從帶有?INSTANCE_?前綴的流水線環(huán)境變量獲取的，這是在前一階段中被保存了下來(lái)的。
stage('Metrics') {
steps {
script {
def count = env.INSTANCE_COUNT
for(def i=0;i 100)
return "UP"
else if (value.toInteger() < 20)
return "DOWN"
else
return "NONE"
}
關(guān)閉應(yīng)用程序?qū)嵗?/b>
在流水線的最后一個(gè)階段，我們將關(guān)閉運(yùn)行的實(shí)例，或者根據(jù)在前一階段保存的結(jié)果啟動(dòng)新的實(shí)例。通過(guò)調(diào)用?Spring Boot Actuator?端點(diǎn)可以很容易執(zhí)行停止操作。在接下來(lái)的流水線片段中，首先選擇了?Eureka?實(shí)例。然后我們將發(fā)送?POST?請(qǐng)求到那個(gè)ip地址。
如果需要擴(kuò)展應(yīng)用程序，我們將調(diào)用另一個(gè)流水線，它負(fù)責(zé)構(gòu)建?fat JAR?并讓這個(gè)應(yīng)用程序在機(jī)器上跑起來(lái)。
stage('Scaling') {
steps {
? script {
? if (env.SCALE_TYPE == 'DOWN') {
? ? def ip = env["INSTANCE_0"] + env.SHUTDOWN_ENDPOINT
? ? httpRequest url: ip, contentType: 'APPLICATION_JSON', httpMode: 'POST'
? } else if (env.SCALE_TYPE == 'UP') {
? ? build job: 'spring-boot-run-pipeline'
? }
? currentBuild.description = env.SCALE_TYPE
? }
}
}
下面是?spring-boot-run-pipeline?流水線的完整定義，它負(fù)責(zé)啟動(dòng)應(yīng)用程序的新實(shí)例。它先從?git?倉(cāng)庫(kù)中拉取源代碼，然后使用?Maven?命令編譯并構(gòu)建二進(jìn)制的jar文件，最后通過(guò)在?java -jar?命令中添加?Eureka?服務(wù)器地址來(lái)運(yùn)行應(yīng)用程序。
pipeline {
? ? agent any
? ? tools {
? ? ? ? maven 'M3'
? ? }
? ? stages {
? ? ? ? stage('Checkout') {
? ? ? ? ? ? steps {
? ? ? ? ? ? ? ? git url: 'https://github.com/piomin/sample-spring-boot-autoscaler.git', credentialsId: 'github-piomin', branch: 'master'
? ? ? ? ? ? }
? ? ? ? }
? ? ? ? stage('Build') {
? ? ? ? ? ? steps {
? ? ? ? ? ? ? ? dir('example-service') {
? ? ? ? ? ? ? ? ? ? sh 'mvn clean package'
? ? ? ? ? ? ? ? }
? ? ? ? ? ? }
? ? ? ? }
? ? ? ? stage('Run') {
? ? ? ? ? ? steps {
? ? ? ? ? ? ? ? dir('example-service') {
? ? ? ? ? ? ? ? ? ? sh 'nohup java -jar -DEUREKA_URL=http://192.168.99.100:8761/eureka target/example-service-1.0-SNAPSHOT.jar 1>/dev/null 2>logs/runlog &'
? ? ? ? ? ? ? ? }
? ? ? ? ? ? }
? ? ? ? }
? ? }
}
擴(kuò)展到多個(gè)機(jī)器
在前幾節(jié)中討論的算法只適用于在單個(gè)機(jī)器上啟動(dòng)的微服務(wù)。如果希望將它擴(kuò)展到更多的機(jī)器上，我們將不得不修改我們的架構(gòu)，如下所示。每臺(tái)機(jī)器都有?Jenkins?代理運(yùn)行并與?Jenkins?master通信。如果想在選定的機(jī)器上啟動(dòng)一個(gè)微服務(wù)的新實(shí)例，我們就必須使用運(yùn)行在該機(jī)器上的代理來(lái)運(yùn)行流水線。此代理僅負(fù)責(zé)從源代碼構(gòu)建應(yīng)用程序并將其啟動(dòng)到目標(biāo)機(jī)器上。這個(gè)實(shí)例的關(guān)閉仍然是通過(guò)調(diào)用HTTP端點(diǎn)來(lái)完成。
假設(shè)我們已經(jīng)成功地在目標(biāo)機(jī)器上啟動(dòng)了一些代理，我們需要對(duì)流水線進(jìn)行參數(shù)化，以便能夠動(dòng)態(tài)地選擇代理（以及目標(biāo)機(jī)器）。
當(dāng)擴(kuò)容應(yīng)用程序時(shí)，我們必須將代理標(biāo)簽傳遞給下游流水線。
build job:'spring-boot-run-pipeline', parameters:[string(name: 'agent', value:"slave-1")]
調(diào)用?流水線具體由那個(gè)標(biāo)簽下的代理運(yùn)行，是由"?${params.agent}?"決定的。
pipeline {
? ? agent {
? ? ? ? label "${params.agent}"
? ? }
? ? stages { ... }
}
如果有一個(gè)以上的代理連接到主節(jié)點(diǎn)，我們就可以將它們的地址映射到標(biāo)簽中。由于這一點(diǎn)，我們能夠?qū)?Eureka?服務(wù)器獲取的微服務(wù)實(shí)例的IP地址映射到與?Jenkins?代理的目標(biāo)機(jī)器上。
pipeline {
? ? agent any
? ? triggers {
? ? ? ? cron('* * * * *')
? ? }
? ? environment {
? ? ? ? SERVICE_NAME = "EXAMPLE-SERVICE"
? ? ? ? METRICS_ENDPOINT = "/actuator/metrics/tomcat.threads.busy?tag=name:http-nio-auto-1"
? ? ? ? SHUTDOWN_ENDPOINT = "/actuator/shutdown"
? ? ? ? AGENT_192.168.99.102 = "slave-1"
? ? ? ? AGENT_192.168.99.103 = "slave-2"
? ? }
? ? stages { ... }
}
總結(jié)
在本文中，我演示了如何使用?Spring Boot Actuato?metric?來(lái)自動(dòng)伸縮?Spring Boot?應(yīng)用程序。使用?Spring Boot?提供的特性以及?Spring Cloud Netflix Eureka?和?Jenkins?，您就可以實(shí)現(xiàn)系統(tǒng)的自動(dòng)伸縮，而無(wú)需借助于任何其他第三方工具。本文也假設(shè)遠(yuǎn)程服務(wù)器上也是使用?Jenkins?代理來(lái)啟動(dòng)新的實(shí)例，但是您也可以使用?Ansible?這樣的工具來(lái)啟動(dòng)。如果您決定從?Jenkins?運(yùn)行?Ansible?腳本，那么將不需要在遠(yuǎn)程機(jī)器上啟動(dòng)?Jenkins?代理。
歡迎工作一到五年的Java工程師朋友們加入Java架構(gòu)開發(fā)： 855835163
群內(nèi)提供免費(fèi)的Java架構(gòu)學(xué)習(xí)資料（里面有高可用、高并發(fā)、高性能及分布式、Jvm性能調(diào)優(yōu)、Spring源碼，MyBatis，Netty,Redis,Kafka,Mysql,Zookeeper,Tomcat,Docker,Dubbo,Nginx等多個(gè)知識(shí)點(diǎn)的架構(gòu)資料）合理利用自己每一分每一秒的時(shí)間來(lái)學(xué)習(xí)提升自己，不要再用"沒(méi)有時(shí)間“來(lái)掩飾自己思想上的懶惰！趁年輕，使勁拼，給未來(lái)的自己一個(gè)交代！
