基于Prometheus和Grafana的監(jiān)控平臺(tái) - 運(yùn)維告警

通過(guò)前面幾篇文章我們搭建好了監(jiān)控環(huán)境并且監(jiān)控了服務(wù)器、數(shù)據(jù)庫(kù)、應(yīng)用，運(yùn)維人員可以實(shí)時(shí)了解當(dāng)前被監(jiān)控對(duì)象的運(yùn)行情況，但是他們不可能時(shí)時(shí)坐在電腦邊上盯著DashBoard，這就需要一個(gè)告警功能，當(dāng)服務(wù)器或應(yīng)用指標(biāo)異常時(shí)發(fā)送告警，通過(guò)郵件或者短信的形式告訴運(yùn)維人員及時(shí)處理。

今天我們就來(lái)聊聊 基于Prometheus和Grafana的監(jiān)控平臺(tái)的異常告警功能。

告警方式

Grafana

新版本的Grafana已經(jīng)提供了告警配置，直接在dashboard監(jiān)控panel中設(shè)置告警即可，但是我用過(guò)后發(fā)現(xiàn)其實(shí)并不靈活，不支持變量，而且好多下載的圖表無(wú)法使用告警，所以我們不選擇使用Grafana告警，而使用Alertmanager。


file

Alertmanager

相比于Grafana的圖形化界面，Alertmanager需要依靠配置文件實(shí)現(xiàn)，配置稍顯繁瑣，但是勝在功能強(qiáng)大靈活。接下來(lái)我們就一步一步實(shí)現(xiàn)告警通知。

告警類(lèi)型

Alertmanager告警主要使用以下兩種：

  • 郵件接收器 email_config
  • Webhook接收器 webhook_config，會(huì)用post形式向配置的url地址發(fā)送如下格式的參數(shù)。
 {
    "version": "2",
    "status": "<resolved|firing>",
    "alerts": [{
            "labels":  < object > ,
            "annotations":  < object > ,
            "startsAt": "<rfc3339>",
            "endsAt": "<rfc3339>"
            }]
    }

這次主要使用郵件的方式進(jìn)行告警。

實(shí)現(xiàn)步驟

  • 下載
    從GitHub上下載最新版本的Alertmanager,將其上傳解壓到服務(wù)器上。
    tar -zxvf alertmanager-0.19.0.linux-amd64.tar.gz
  • 配置Alertmanager
vi alertmanager.yml
global:
  resolve_timeout: 5m
  smtp_smarthost: 'mail.163.com:25' #郵箱發(fā)送端口
  smtp_from: 'xxx@163.com'
  smtp_auth_username: 'xxx@163.com' #郵箱賬號(hào)
  smtp_auth_password: 'xxxxxx' #郵箱密碼
  smtp_require_tls: false
route:
  group_by: ['alertname']
  group_wait: 10s  # 最初即第一次等待多久時(shí)間發(fā)送一組警報(bào)的通知
  group_interval: 10s # 在發(fā)送新警報(bào)前的等待時(shí)間
  repeat_interval: 1h # 發(fā)送重復(fù)警報(bào)的周期 對(duì)于email配置中，此項(xiàng)不可以設(shè)置過(guò)低，否則將會(huì)由于郵件發(fā)送太多頻繁，被smtp服務(wù)器拒絕
  receiver: 'email'
receivers:
  - name: 'email'
    email_configs:
    - to: 'xxx@xxx.com'

修改完成后可以使用./amtool check-config alertmanager.yml校驗(yàn)文件是否正確。

file

校驗(yàn)正確啟動(dòng)alertmanager。`nohup ./alertmanager &`。（第一次啟動(dòng)可以不使用nohup靜默啟動(dòng)，方便后面查看日志）

我們只定義了一個(gè)路由，那就意味著所有由Prometheus產(chǎn)生的告警在發(fā)送到Alertmanager之后都會(huì)通過(guò)名為`email`的receiver接收。實(shí)際上，對(duì)于不同級(jí)別的告警，會(huì)有不同的處理方式，因此在route中，我們還可以定義更多的子Route。具體配置規(guī)則大家可以去百度進(jìn)一步了解。

  • 配置Prometheus
    在Prometheus安裝目錄下建立rules文件夾，放置所有的告警規(guī)則文件。

    alerting:
    alertmanagers:
    - static_configs:
        - targets: ['192.168.249.131:9093']

rule_files:
    - rules/*.yml

在rules文件夾下建立告警規(guī)則文件service_down.yml,當(dāng)服務(wù)器下線(xiàn)時(shí)發(fā)送郵件。

groups:
 - name: ServiceStatus
   rules:
     - alert: ServiceStatusAlert
       expr: up == 0  
       for: 2m 
       labels:
         team: node
       annotations:
         summary: "Instance {{ $labels.instance }} has bean down"
         description: "{{ $labels.instance }} of job {{ $labels.job }} has been down for more than 2 minutes."
         value: "{{ $value }}"

**配置詳解**

alert：告警規(guī)則的名稱(chēng)。
expr：基于PromQL表達(dá)式告警觸發(fā)條件，用于計(jì)算是否有時(shí)間序列滿(mǎn)足該條件。
for：評(píng)估等待時(shí)間，可選參數(shù)。用于表示只有當(dāng)觸發(fā)條件持續(xù)一段時(shí)間后才發(fā)送告警。在等待期間新產(chǎn)生告警的狀態(tài)為PENDING，等待期后為FIRING。
labels：自定義標(biāo)簽，允許用戶(hù)指定要附加到告警上的一組附加標(biāo)簽。
annotations：用于指定一組附加信息，比如用于描述告警詳細(xì)信息的文字等，annotations的內(nèi)容在告警產(chǎn)生時(shí)會(huì)一同作為參數(shù)發(fā)送到Alertmanager。

配置完成后重啟Prometheus，訪(fǎng)問(wèn)Prometheus查看告警配置。
file
  • 測(cè)試

關(guān)閉node_exporter,過(guò)2分鐘就可以收到告警郵件啦，截圖如下：


file
Alertmanager的告警內(nèi)容支持使用模板配置，可以使用好看的模板進(jìn)行渲染，感興趣的可以試試！

The More

node exporter的一些計(jì)算語(yǔ)句

  • CPU使用率(單位為percent)
    (avg by (instance) (irate(node_cpu_seconds_total{mode="idle"}[5m])) * 100)

  • 內(nèi)存已使用(單位為bytes)
    node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes

  • 內(nèi)存使用量(單位為bytes/sec)
    node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes

  • 內(nèi)存使用率(單位為percent)
    ((node_memory_MemTotal_bytes - node_memory_MemFree_bytes - node_memory_Cached_bytes - node_memory_Buffers_bytes - node_memory_Slab_bytes)/node_memory_MemTotal_bytes) * 100

  • server1的內(nèi)存使用率(單位為percent)
    ((node_memory_MemTotal_bytes{instance="server1"} - node_memory_MemAvailable_bytes{instance="server1"})/node_memory_MemTotal_bytes{instance="server1"}) * 100

  • server2的磁盤(pán)使用率(單位為percent)
    ((node_filesystem_size_bytes{fstype=~"xfs|ext4",instance="server2"} - node_filesystem_free_bytes{fstype=~"xfs|ext4",instance="server2"}) / node_filesystem_size_bytes{fstype=~"xfs|ext4",instance="server2"}) * 100

  • uptime時(shí)間(單位為seconds)
    time() - node_boot_time

  • server1的uptime時(shí)間(單位為seconds)
    time() - node_boot_time_seconds{instance="server1"}

  • 網(wǎng)絡(luò)流出量(單位為bytes/sec)
    irate(node_network_transmit_bytes_total{device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0

  • server1的網(wǎng)絡(luò)流出量(單位為bytes/sec)
    irate(node_network_transmit_bytes_total{instance="server1", device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0

  • 網(wǎng)絡(luò)流入量(單位為bytes/sec)
    irate(node_network_receive_bytes_total{device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0

  • server1的網(wǎng)絡(luò)流入量(單位為bytes/sec)
    irate(node_network_receive_bytes_total{instance="server1", device!~"lo|bond[0-9]|cbr[0-9]|veth.*"}[5m]) > 0

  • 磁盤(pán)讀取速度(單位為bytes/sec)
    irate(node_disk_read_bytes_total{device=~"sd.*"}[5m])

歡迎關(guān)注我的個(gè)人公眾號(hào)：JAVA日知錄

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書(shū)系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容