Docker 容器日志管理最佳實(shí)踐

作者：自由早晚亂余生自由早晚亂余生
博客園：https://www.cnblogs.com/operationhome/p/10907591.html

本文所有內(nèi)容基于：

Docker-CE
Server Version: 18.09.6
Storage Driver: overlay2
Kernel Version: 3.10.0-862.el7.x86_64
Operating System: CentOS Linux 7 (Core)

Docker 日志分為兩類(lèi)：

  • Docker 引擎日志(也就是 dockerd 運(yùn)行時(shí)的日志)，

  • 容器的日志，容器內(nèi)的服務(wù)產(chǎn)生的日志。

一 、Docker 引擎日志

Docker 引擎日志一般是交給了 Upstart(Ubuntu 14.04) 或者 systemd (CentOS 7, Ubuntu 16.04)。前者一般位于 /var/log/upstart/docker.log 下，后者我們一般 通過(guò) journalctl -u docker 來(lái)進(jìn)行查看。

| 系統(tǒng)                   | 日志位置                                                     |
| ---------------------- | ------------------------------------------------------------ |
| Ubuntu(14.04)          | `/var/log/upstart/docker.log`                                |
| Ubuntu(16.04)          | `journalctl -u docker.service`                               |
| CentOS 7/RHEL 7/Fedora | `journalctl -u docker.service`                               |
| CoreOS                 | `journalctl -u docker.service`                               |
| OpenSuSE               | `journalctl -u docker.service`                               |
| OSX                    | `~/Library/Containers/com.docker.docker/Data/com.docker.driver.amd64-linux/log/d?ocker.log` |
| Debian GNU/Linux 7     | `/var/log/daemon.log`                                        |
| Debian GNU/Linux 8     | `journalctl -u docker.service`                               |
| Boot2Docker            | `/var/log/docker.log`                                        |

以上內(nèi)容來(lái)自：https://blog.lab99.org/post/docker-2016-07-14-faq.html

二、容器日志

2.1、常用查看日志命令——docker logs

docker logs CONTAINER 顯示當(dāng)前運(yùn)行的容器的日志信息， UNIX 和 Linux 的命令有三種 輸入輸出，分別是 STDIN(標(biāo)準(zhǔn)輸入)、STDOUT(標(biāo)準(zhǔn)輸出)、STDERR(標(biāo)準(zhǔn)錯(cuò)誤輸出)，docker logs 顯示的內(nèi)容包含 STOUT 和 STDERR。在生產(chǎn)環(huán)境，如果我們的應(yīng)用輸出到我們的日志文件里，所以我們?cè)谑褂? docker logs 一般收集不到太多重要的日志信息。

  • nginx 官方鏡像，使用了一種方式，讓日志輸出到 STDOUT，也就是 創(chuàng)建一個(gè)符號(hào)鏈接 /var/log/nginx/access.log 到 /dev/stdout。
  • httpd 使用的是 讓其輸出到指定文件 ，正常日志輸出到 /proc/self/fd/1 (STDOUT) ，錯(cuò)誤日志輸出到 /proc/self/fd/2 (STDERR)。
  • 當(dāng)日志量比較大的時(shí)候，我們使用 docker logs 來(lái)查看日志，會(huì)對(duì) docker daemon 造成比較大的壓力，容器導(dǎo)致容器創(chuàng)建慢等一系列問(wèn)題。
  • 只有使用了 local 、json-file、journald 的日志驅(qū)動(dòng)的容器才可以使用 docker logs 捕獲日志，使用其他日志驅(qū)動(dòng)無(wú)法使用 docker logs

2.2 、Docker 日志 驅(qū)動(dòng)

Docker 提供了兩種模式用于將消息從容器到日志驅(qū)動(dòng)。

  • (默認(rèn))拒絕，阻塞從容器到容器驅(qū)動(dòng)

  • 非阻塞傳遞,日志將儲(chǔ)存在容器的緩沖區(qū)。

當(dāng)緩沖區(qū)滿，舊的日志將被丟棄。

在 mode 日志選項(xiàng)控制使用 blocking(默認(rèn)) 或者 non-blocking, 當(dāng)設(shè)置為 non-blocking 需要設(shè)置 max-buffer-size 參數(shù)(默認(rèn)為 1MB)。

支持的驅(qū)動(dòng)

|                                                              | 描述                                                         |
| :----------------------------------------------------------- | :----------------------------------------------------------- |
| `none`                                                       | 運(yùn)行的容器沒(méi)有日志，`docker logs`也不返回任何輸出。          |
| [`local`](https://docs.docker.com/config/containers/logging/local/) | 日志以自定義格式存儲(chǔ)，旨在實(shí)現(xiàn)最小開(kāi)銷(xiāo)。                     |
| [`json-file`](https://docs.docker.com/config/containers/logging/json-file/) | 日志格式為JSON。Docker的默認(rèn)日志記錄驅(qū)動(dòng)程序。               |
| [`syslog`](https://docs.docker.com/config/containers/logging/syslog/) | 將日志消息寫(xiě)入`syslog`。該`syslog`守護(hù)程序必須在主機(jī)上運(yùn)行。 |
| [`journald`](https://docs.docker.com/config/containers/logging/journald/) | 將日志消息寫(xiě)入`journald`。該`journald`守護(hù)程序必須在主機(jī)上運(yùn)行。 |
| [`gelf`](https://docs.docker.com/config/containers/logging/gelf/) | 將日志消息寫(xiě)入Graylog擴(kuò)展日志格式（GELF）端點(diǎn)，例如Graylog或Logstash。 |
| [`fluentd`](https://docs.docker.com/config/containers/logging/fluentd/) | 將日志消息寫(xiě)入`fluentd`（轉(zhuǎn)發(fā)輸入）。該`fluentd`守護(hù)程序必須在主機(jī)上運(yùn)行。 |
| [`awslogs`](https://docs.docker.com/config/containers/logging/awslogs/) | 將日志消息寫(xiě)入Amazon CloudWatch Logs。                       |
| [`splunk`](https://docs.docker.com/config/containers/logging/splunk/) | 使用HTTP事件收集器將日志消息寫(xiě)入`splunk`。                   |
| [`etwlogs`](https://docs.docker.com/config/containers/logging/etwlogs/) | 將日志消息寫(xiě)為Windows事件跟蹤（ETW）事件。僅適用于Windows平臺(tái)。 |
| [`gcplogs`](https://docs.docker.com/config/containers/logging/gcplogs/) | 將日志消息寫(xiě)入Google Cloud Platform（GCP）Logging。          |
| [`logentries`](https://docs.docker.com/config/containers/logging/logentries/) | 將日志消息寫(xiě)入Rapid7 Logentries。                            |

使用 Docker-CE 版本，docker logs命令 僅僅適用于以下驅(qū)動(dòng)程序(前面 docker logs 詳解也提及到了)

  • local

  • json-file

  • journald

image

Docker 日志驅(qū)動(dòng)常用命令

查看系統(tǒng)當(dāng)前設(shè)置的日志驅(qū)動(dòng)

docker  info |grep  "Logging Driver"  / docker info --format '{{.LoggingDriver}}'

查看單個(gè)容器的設(shè)置的日志驅(qū)動(dòng)

docker inspect  -f '{{.HostConfig.LogConfig.Type}}'   容器id

Docker 日志驅(qū)動(dòng)全局配置更改

修改日志驅(qū)動(dòng)，在配置文件 /etc/docker/daemon.json（注意該文件內(nèi)容是 JSON 格式的）進(jìn)行配置即可。

示例：

{
  "log-driver": "syslog"
}

以上更改是針對(duì)所有的容器的日志驅(qū)動(dòng)的。我們也可以單獨(dú)為單一容器設(shè)置日志驅(qū)動(dòng)。

Docker 單一容器日志驅(qū)動(dòng)配置

在 運(yùn)行容器的時(shí)候指定 日志驅(qū)動(dòng) --log-driver。

docker  run  -itd --log-driver none alpine ash # 這里指定的日志驅(qū)動(dòng)為 none

日志驅(qū)動(dòng) 一 、local

local 日志驅(qū)動(dòng) 記錄從容器的 STOUT/STDERR 的輸出，并寫(xiě)到宿主機(jī)的磁盤(pán)。

默認(rèn)情況下，local 日志驅(qū)動(dòng)為每個(gè)容器保留 100MB 的日志信息，并啟用自動(dòng)壓縮來(lái)保存。(經(jīng)過(guò)測(cè)試，保留100MB 的日志是指沒(méi)有經(jīng)過(guò)壓縮的日志)

local 日志驅(qū)動(dòng)的儲(chǔ)存位置 /var/lib/docker/containers/容器id/local-logs/ 以 container.log 命名。

local 驅(qū)動(dòng)支持的選項(xiàng)

| 選項(xiàng)       | 描述                                                         | 示例值                     |
| :--------- | :----------------------------------------------------------- | :------------------------- |
| `max-size` | 切割之前日志的最大大小。可取值為(k,m,g)， 默認(rèn)為20m。        | `--log-opt max-size=10m`   |
| `max-file` | 可以存在的最大日志文件數(shù)。如果超過(guò)最大值，則會(huì)刪除最舊的文件。**僅在max-size設(shè)置時(shí)有效。默認(rèn)為5。 | `--log-opt max-file=3`     |
| `compress` | 對(duì)應(yīng)切割日志文件是否啟用壓縮。默認(rèn)情況下啟用。               | `--log-opt compress=false` |

全局日志驅(qū)動(dòng)設(shè)置為—local

在配置文件 /etc/docker/daemon.json（注意該文件內(nèi)容是 JSON 格式的）進(jìn)行配置即可。

{
  "log-driver": "local",
  "log-opts": {
    "max-size": "10m"
  }
}

重啟 docker 即可生效。

單個(gè)容器日志驅(qū)動(dòng)設(shè)置為—local

運(yùn)行容器并設(shè)定為 local 驅(qū)動(dòng)。

#  運(yùn)行一個(gè)容器 ，并設(shè)定日志驅(qū)動(dòng)為 local ，并運(yùn)行命令 ping www.baidu.com
[root@localhost docker]# docker run  -itd  --log-driver  local  alpine  ping www.baidu.com 
3795b6483534961c1d5223359ad1106433ce2bf25e18b981a47a2d79ad7a3156
#  查看運(yùn)行的容器的 日志驅(qū)動(dòng)是否是 local
[root@localhost docker]# docker inspect  -f '{{.HostConfig.LogConfig.Type}}'   3795b6483534961c
local
# 查看日志
[root@localhost local-logs]# tail -f  /var/lib/docker/containers/3795b6483534961c1d5223359ad1106433ce2bf25e18b981a47a2d79ad7a3156/local-logs/container.log 
NNdout????:64 bytes from 14.215.177.38: seq=816 ttl=55 time=5.320 ms
NNdout?μ???:64 bytes from 14.215.177.38: seq=817 ttl=55 time=4.950 ms

注意事項(xiàng)：經(jīng)過(guò)測(cè)試，當(dāng)我們產(chǎn)生了100 MB 大小的日志時(shí) 會(huì)有 四個(gè)壓縮文件和一個(gè) container.log：

[root@localhost local-logs]# ls -l
total 32544
-rw-r-----. 1 root root 18339944 May 16 09:41 container.log
-rw-r-----. 1 root root  3698660 May 16 09:41 container.log.1.gz
-rw-r-----. 1 root root  3726315 May 16 09:41 container.log.2.gz
-rw-r-----. 1 root root  3805668 May 16 09:41 container.log.3.gz
-rw-r-----. 1 root root  3744104 May 16 09:41 container.log.4.gz

那么當(dāng)超過(guò)了 100MB 的日志文件，日志文件會(huì)繼續(xù)寫(xiě)入到 container.log，但是會(huì)將 container.log 日志中老的日志刪除，追加新的，也就是 當(dāng)寫(xiě)滿 100MB 日志后 ，再產(chǎn)生一條新日志，會(huì)刪除 container.log 中的一條老日志，保存 100MB 的大小。這個(gè) 對(duì)我們是會(huì)有一些影響的，

當(dāng)我運(yùn)行系統(tǒng)時(shí) 第一天由于bug產(chǎn)生了 100MB 日志，那么之前的日志就已經(jīng)>有 80MB 日志變成的壓縮包，所以我在后續(xù)的運(yùn)行中，只能獲取最近的 20MB>日志。

日志驅(qū)動(dòng) 二、 默認(rèn)的日志驅(qū)動(dòng)—JSON

所有容器默認(rèn)的日志驅(qū)動(dòng) json-file。

json-file 日志驅(qū)動(dòng) 記錄從容器的 STOUT/STDERR 的輸出 ，用 JSON 的格式寫(xiě)到文件中，日志中不僅包含著 輸出日志，還有時(shí)間戳和 輸出格式。下面是一個(gè) ping www.baidu.com 對(duì)應(yīng)的 JSON 日志

{"log":"64 bytes from 14.215.177.39: seq=34 ttl=55 time=7.067 ms\r\n","stream":"stdout","time":"2019-05-16T14:14:15.030612567Z"}

json-file 日志的路徑位于 /var/lib/docker/containers/container_id/container_id-json.log。

json-file 的 日志驅(qū)動(dòng)支持以下選項(xiàng)：

| 選項(xiàng)        | 描述                                                         | 示例值                                   |
| :---------- | :----------------------------------------------------------- | :--------------------------------------- |
| `max-size`  | 切割之前日志的最大大小?？扇≈祮挝粸?k,m,g)， 默認(rèn)為-1（表示無(wú)限制）。 | `--log-opt max-size=10m`                 |
| `max-file`  | 可以存在的最大日志文件數(shù)。如果切割日志會(huì)創(chuàng)建超過(guò)閾值的文件數(shù)，則會(huì)刪除最舊的文件。**僅在max-size設(shè)置時(shí)有效。**正整數(shù)。默認(rèn)為1。 | `--log-opt max-file=3`                   |
| `labels`    | 適用于啟動(dòng)Docker守護(hù)程序時(shí)。此守護(hù)程序接受的以逗號(hào)分隔的與日志記錄相關(guān)的標(biāo)簽列表。 | `--log-opt labels=production_status,geo` |
| `env`       | 適用于啟動(dòng)Docker守護(hù)程序時(shí)。此守護(hù)程序接受的以逗號(hào)分隔的與日志記錄相關(guān)的環(huán)境變量列表。 | `--log-opt env=os,customer`              |
| `env-regex` | 類(lèi)似于并兼容`env`。用于匹配與日志記錄相關(guān)的環(huán)境變量的正則表達(dá)式。 | `--log-opt env-regex=^(os|customer).`    |
| `compress`  | 切割的日志是否進(jìn)行壓縮。默認(rèn)是`disabled`。                   | `--log-opt compress=true`                |

json-file 的日志驅(qū)動(dòng)示例

# 設(shè)置 日志驅(qū)動(dòng)為 json-file ，我們也可以不設(shè)置，因?yàn)槟J(rèn)就是 json-file
docker run  -itd  --name  test-log-json  --log-driver json-file   alpine  ping www.baidu.com
199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e

# 查看日志,日志名稱(chēng)就是 容器名稱(chēng)-json.log
tail -f /var/lib/docker/containers/199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e/199608b2e2c52136d2a17e539e9ef7fbacf97f1293678aded421dadbdb006a5e-json.log

{"log":"64 bytes from 14.215.177.39: seq=13 ttl=55 time=15.023 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:54.003118877Z"}
{"log":"64 bytes from 14.215.177.39: seq=14 ttl=55 time=9.640 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:54.999011017Z"}
{"log":"64 bytes from 14.215.177.39: seq=15 ttl=55 time=8.938 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:55.998612636Z"}
{"log":"64 bytes from 14.215.177.39: seq=16 ttl=55 time=18.086 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:57.011235913Z"}
{"log":"64 bytes from 14.215.177.39: seq=17 ttl=55 time=12.615 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:58.007104112Z"}
{"log":"64 bytes from 14.215.177.39: seq=18 ttl=55 time=11.001 ms\r\n","stream":"stdout","time":"2019-05-16T14:13:59.007559413Z"}

日志驅(qū)動(dòng) 三、syslog

syslog 日志驅(qū)動(dòng)將日志路由到 syslog 服務(wù)器，syslog 以原始的字符串作為 日志消息元數(shù)據(jù)，接收方可以提取以下的消息：

  • level 日志等級(jí) ，如debug，warning，error，info。

  • timestamp 時(shí)間戳

  • hostname 事件發(fā)生的主機(jī)

  • facillty 系統(tǒng)模塊

  • 進(jìn)程名稱(chēng)和進(jìn)程 ID

syslog 日志驅(qū)動(dòng)全局配置

編輯 /etc/docker/daemon.json 文件

{
  "log-driver": "syslog",
  "log-opts": {
    "syslog-address": "udp://1.2.3.4:1111"
  }
}

重啟 docker 即可生效。

| Option                   | Description                                                  | Example value                                                |
| :----------------------- | :----------------------------------------------------------- | :----------------------------------------------------------- |
| `syslog-address`         | 指定syslog 服務(wù)所在的服務(wù)器和使用的協(xié)議和端口。 格式：`[tcp|udp|tcp+tls]://host:port,unix://path, orunixgram://path`. 默認(rèn)端口是 514. | `--log-opt syslog-address=tcp+tls://192.168.1.3:514`, `--log-opt syslog-address=unix:///tmp/syslog.sock` |
| `syslog-facility`        | 使用的 `syslog` 的設(shè)備，  具體設(shè)備名稱(chēng)見(jiàn) [syslog documentation](https://tools.ietf.org/html/rfc5424#section-6.2.1). | `--log-opt syslog-facility=daemon`                           |
| `syslog-tls-ca-cert`     | 如果使用的是 `tcp+tls` 的地址，指定CA 證書(shū)的地址，如果沒(méi)有使用，則不設(shè)置該選項(xiàng)。 | `--log-opt syslog-tls-ca-cert=/etc/ca-certificates/custom/ca.pem` |
| `syslog-tls-cert`        | 如果使用的是 `tcp+tls` 的地址，指定 TLS 證書(shū)的地址，如果沒(méi)有使用，則不設(shè)置該選項(xiàng)。 | `--log-opt syslog-tls-cert=/etc/ca-certificates/custom/cert.pem` |
| `syslog-tls-key`         | 如果使用的是 `tcp+tls` 的地址，指定 TLS 證書(shū) key的地址，如果沒(méi)有使用，則不設(shè)置該選項(xiàng)。** | `--log-opt syslog-tls-key=/etc/ca-certificates/custom/key.pem` |
| `syslog-tls-skip-verify` | 如果設(shè)置為 true ，會(huì)跳過(guò) TLS 驗(yàn)證，默認(rèn)為 false              | `--log-opt syslog-tls-skip-verify=true`                      |
| `tag`                    | 將應(yīng)用程序的名稱(chēng)附加到 `syslog` 消息中，默認(rèn)情況下使用容器ID的前12位去 標(biāo)記這個(gè)日志信息。 | `--log-opt tag=mailer`                                       |
| `syslog-format`          | `syslog` 使用的消息格式 如果未指定則使用本地 UNIX syslog 格式，rfc5424micro 格式具有微妙時(shí)間戳。 | `--log-opt syslog-format=rfc5424micro`                       |
| `labels`                 | 啟動(dòng) docker 時(shí)，配置與日志相關(guān)的標(biāo)簽，以逗號(hào)分割             | `--log-opt labels=production_status,geo`                     |
| `env`                    | 啟動(dòng) docker 時(shí)，指定環(huán)境變量用于日志中，以逗號(hào)分隔           | `--log-opt env=os,customer`                                  |
| `env-regex`              | 類(lèi)似并兼容 `env`，                                           | `--log-opt env-regex=^(os\|customer)`                        |

**單個(gè)容器日志驅(qū)動(dòng)設(shè)置為—syslog **

Linux 系統(tǒng)中 我們用的系統(tǒng)日志模塊時(shí) rsyslog ，它是基于syslog 的標(biāo)準(zhǔn)實(shí)現(xiàn)。我們要使用 syslog 驅(qū)動(dòng)需要使用 系統(tǒng)自帶的 rsyslog 服務(wù)。

# 查看當(dāng)前 rsyslog 版本和基本信息
[root@localhost harbor]# rsyslogd  -v
rsyslogd 8.24.0, compiled with:
    PLATFORM:               x86_64-redhat-linux-gnu
    PLATFORM (lsb_release -d):      
    FEATURE_REGEXP:             Yes
    GSSAPI Kerberos 5 support:      Yes
    FEATURE_DEBUG (debug build, slow code): No
    32bit Atomic operations supported:  Yes
    64bit Atomic operations supported:  Yes
    memory allocator:           system default
    Runtime Instrumentation (slow code):    No
    uuid support:               Yes
    Number of Bits in RainerScript integers: 64

See http://www.rsyslog.com for more information.

配置 syslog , 在配置文件 /etc/rsyslog.conf 大約14-20行，我們可以看到兩個(gè)配置，一個(gè)udp，一個(gè)tcp ，都是監(jiān)聽(tīng) 514 端口，提供 syslog 的接收。選擇 tcp 就將 tcp 的兩個(gè)配置的前面 # 號(hào)注釋即可。

# Provides UDP syslog reception
#$ModLoad imudp
#$UDPServerRun 514

# Provides TCP syslog reception
#$ModLoad imtcp  
#$InputTCPServerRun 514

然后重啟 rsyslog，我們可以看到514端口在監(jiān)聽(tīng)。

systemctl restart  rsyslog
[root@localhost harbor]# netstat -ntul |grep 514
tcp        0      0 0.0.0.0:514             0.0.0.0:*               LISTEN     
tcp6       0      0 :::514                  :::*                    LISTEN

啟動(dòng)一個(gè)以 syslog 為驅(qū)動(dòng)的容器。

docker  run -d -it  -p 87:80 --log-driver syslog --log-opt syslog-address=tcp://127.0.0.1:514  --name nginx-syslog   nginx

訪問(wèn)并查看日志

# 訪問(wèn)nginx
curl 127.0.0.1:87
# 查看訪問(wèn)日志
tail -f  /var/log/messages
May 17 15:56:48 localhost fe18924aefde[6141]: 172.17.0.1 - - [17/May/2019:07:56:48 +0000] "GET / HTTP/1.1" 200 612 "-" "curl/7.29.0" "-"#015
May 17 15:58:16 localhost fe18924aefde[6141]: 172.17.0.1 - - [17/May/2019:07:58:16 +0000] "GET / HTTP/1.1" 200 612 "-" "curl/7.29.0" "-"#015

日志驅(qū)動(dòng) 四、Journald

journald 日志驅(qū)動(dòng)程序?qū)⑷萜鞯娜罩景l(fā)送到 systemd journal, 可以使用 journal API 或者使用 docker logs 來(lái)查日志。

除了日志本身以外， `journald`  日志驅(qū)動(dòng)還會(huì)在日志加上下面的數(shù)據(jù)與消息一起儲(chǔ)存。

| Field                                | Description                                                  |
| :----------------------------------- | :----------------------------------------------------------- |
| `CONTAINER_ID`                       | 容器ID,為 12個(gè)字符                                           |
| `CONTAINER_ID_FULL`                  | 完整的容器ID，為64個(gè)字符                                     |
| `CONTAINER_NAME`                     | 啟動(dòng)時(shí)容器的名稱(chēng)，如果容器后面更改了名稱(chēng)，日志中的名稱(chēng)不會(huì)更改。 |
| `CONTAINER_TAG`, `SYSLOG_IDENTIFIER` | 容器的tag.                                                   |
| `CONTAINER_PARTIAL_MESSAGE`          | 當(dāng)日志比較長(zhǎng)的時(shí)候使用標(biāo)記來(lái)表示(顯示日志的大小)             |

選項(xiàng)

| 選項(xiàng)        | 是否必須 | 描述                                                         |
| :---------- | :------- | :----------------------------------------------------------- |
| `tag`       | 可選的   | 指定要在日志中設(shè)置`CONTAINER_TAG`和`SYSLOG_IDENTIFIER`值的模板。 |
| `labels`    | 可選的   | 以逗號(hào)分隔的標(biāo)簽列表，如果為容器指定了這些標(biāo)簽，則應(yīng)包含在消息中。 |
| `env`       | 可選的   | 如果為容器指定了這些變量，則以逗號(hào)分隔的環(huán)境變量鍵列表（應(yīng)包含在消息中）。 |
| `env-regex` | 可選的   | 與env類(lèi)似并兼容。用于匹配與日志記錄相關(guān)的環(huán)境變量的正則表達(dá)式 。 |

journald 日志驅(qū)動(dòng)全局配置

編輯 /etc/docker/daemon.json 文件

{
  "log-driver": "journald"
}

單個(gè)容器日志驅(qū)動(dòng)設(shè)置為—journald

docker  run  -d -it --log-driver=journald \
    --log-opt labels=location \
    --log-opt env=TEST \
    --env "TEST=false" \
    --label location=china \
    --name  nginx-journald\
    -p 80:80\
    nginx

查看日志 journalctl

# 只查詢指定容器的相關(guān)消息
 journalctl CONTAINER_NAME=webserver
# -b 指定從上次啟動(dòng)以來(lái)的所有消息
 journalctl -b CONTAINER_NAME=webserver
# -o 指定日志消息格式，-o json 表示以json 格式返回日志消息
 journalctl -o json CONTAINER_NAME=webserver
# -f 一直捕獲日志輸出
 journalctl -f CONTAINER_NAME=webserver

如果我們的容器在啟動(dòng)的時(shí)候加了 -t 參數(shù)，啟用了 TTY 的話，那么我查看日志是會(huì)像下面一樣

May 17 17:19:26 localhost.localdomain 2a338e4631fe[6141]: [104B blob data]
May 17 17:19:32 localhost.localdomain 2a338e4631fe[6141]: [104B bl>ob data]

顯示[104B blob data] 而不是完整日志原因是因?yàn)橛?\r 的存在，如果我們要完整顯示，需要加上參數(shù) --all 。

三、 生產(chǎn)環(huán)境中該如何儲(chǔ)存容器中的日志

我們?cè)谏厦婵吹搅?Docker 官方提供了 很多日志驅(qū)動(dòng)，但是上面的這些驅(qū)動(dòng)都是針對(duì)的 標(biāo)準(zhǔn)輸出的日志驅(qū)動(dòng)。

容器日志分類(lèi)

容器的日志實(shí)際是有兩大類(lèi)的：

  • 標(biāo)準(zhǔn)輸出的 ，也就是 STDOUT 、STDERR ,這類(lèi)日志我們可以通過(guò) Docker 官方的日志驅(qū)動(dòng)進(jìn)行收集。

    示例：Nginx 日志，Nginx 日志有 access.log 和 error.log ，我們?cè)?Docker Hub 上可以看到 Nginx 的 dockerfile 對(duì)于這兩個(gè)日志的處理是：

    RUN ln -sf /dev/stdout /var/log/nginx/access.log \
&& ln -sf /dev/stderr /var/log/nginx/error.log

    都軟連接到 /dev/stdout 和 /dev/stderr ，也就是標(biāo)準(zhǔn)輸出，所以這類(lèi) 容器是可以使用 Docker 官方的日志驅(qū)動(dòng)。

  • 文本日志，存在在于容器內(nèi)部，并沒(méi)有重定向到 容器的標(biāo)準(zhǔn)輸出的日志。

    示例：Tomcat 日志，Tomcat 有 catalina、localhost、manager、admin、host-manager，我們可以在 Docker Hub 看到 Tomcat 的 dockerfile 只有對(duì)于 catalina 進(jìn)行處理，其它日志將儲(chǔ)存在容器里。

    CMD ["catalina.sh", "run"]

    我們運(yùn)行了一個(gè) Tomcat 容器 ，然后進(jìn)行訪問(wèn)后，并登陸到容器內(nèi)部，我們可以看到產(chǎn)生了文本日志：

    root@25ba00fdab97:/usr/local/tomcat/logs# ls -l
total 16
-rw-r-----. 1 root root 6822 May 17 14:36 catalina.2019-05-17.log
-rw-r-----. 1 root root    0 May 17 14:36 host-manager.2019-05-17.log
-rw-r-----. 1 root root  459 May 17 14:36 localhost.2019-05-17.log
-rw-r-----. 1 root root 1017 May 17 14:37 localhost_access_log.2019-05-    17.txt
-rw-r-----. 1 root root    0 May 17 14:36 manager.2019-05-17.log

    這類(lèi)容器我們下面有專(zhuān)門(mén)的方案來(lái)應(yīng)對(duì)。

一、當(dāng)是完全是標(biāo)準(zhǔn)輸出的類(lèi)型的容器

我們可以選擇 json-file 、syslog、local 等 Docker 支持的日志驅(qū)動(dòng)。

二、當(dāng)有文件文本日志的類(lèi)型容器

方案一 掛載目錄 bind

創(chuàng)建一個(gè)目錄，將目錄掛載到 容器中產(chǎn)生日志的目錄。

--mount  type=bind,src=/opt/logs/,dst=/usr/local/tomcat/logs/

示例：

# 創(chuàng)建掛載目錄/opt/logs
[root@fy-local-2 /]# mkdir  /opt/logs
# 創(chuàng)建容器tomcat-bind 并將 /opt/logs 掛載至 /usr/local/tomcat/logs/
[root@fy-local-2 /]# docker  run -d  --name  tomcat-bind  -P  --mount  type=bind,src=/opt/logs/,dst=/usr/local/tomcat/logs/   tomcat 
[root@fy-local-2 /]# ls -l /opt/logs/
total 12
-rw-r----- 1 root root 6820 May 22 17:31 catalina.2019-05-22.log
-rw-r----- 1 root root    0 May 22 17:31 host-manager.2019-05-22.log
-rw-r----- 1 root root  459 May 22 17:31 localhost.2019-05-22.log
-rw-r----- 1 root root    0 May 22 17:31 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root    0 May 22 17:31 manager.2019-05-22.log

方案二 使用數(shù)據(jù)卷 volume

創(chuàng)建數(shù)據(jù)卷，創(chuàng)建容器時(shí)綁定數(shù)據(jù)卷，

--mount  type=volume  src=volume_name  dst=/usr/local/tomcat/logs/

示例：

# 創(chuàng)建tomcat應(yīng)用數(shù)據(jù)卷名稱(chēng)為 tomcat
[root@fy-local-2 /]# docker volume  create  tomcat
# 創(chuàng)建容器tomcat-volume 并指定數(shù)據(jù)卷為 tomcat，綁定至 /usr/local/tomcat/logs/
[root@fy-local-2 /]# docker  run -d  --name  tomcat-volume   -P  --mount  type=volume,src=tomcat,dst=/usr/local/tomcat/logs/   tomcat
# 查看數(shù)據(jù)卷里面的內(nèi)容
[root@fy-local-2 /]# ls -l /var/lib/docker/volumes/tomcat/_data/
total 12
-rw-r----- 1 root root 6820 May 22 17:33 catalina.2019-05-22.log
-rw-r----- 1 root root    0 May 22 17:33 host-manager.2019-05-22.log
-rw-r----- 1 root root  459 May 22 17:33 localhost.2019-05-22.log
-rw-r----- 1 root root    0 May 22 17:33 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root    0 May 22 17:33 manager.2019-05-22.log

方案三 計(jì)算容器 rootfs 掛載點(diǎn)

此方案的文字內(nèi)容摘抄于 https://yq.aliyun.com/articles/672054

使用掛載宿主機(jī)目錄的方式采集日志對(duì)應(yīng)用會(huì)有一定的侵入性，因?yàn)樗笕萜鲉?dòng)的時(shí)候包含掛載命令。如果采集過(guò)程能對(duì)用戶透明那就太棒了。事實(shí)上，可以通過(guò)計(jì)算容器 rootfs 掛載點(diǎn)來(lái)達(dá)到這種目的。

和容器 rootfs 掛載點(diǎn)密不可分的一個(gè)概念是 storage driver。實(shí)際使用過(guò)程中，用戶往往會(huì)根據(jù) linux 版本、文件系統(tǒng)類(lèi)型、容器讀寫(xiě)情況等因素選擇合適的 storage driver。不同 storage driver 下，容器的 rootfs 掛載點(diǎn)遵循一定規(guī)律，因此我們可以根據(jù) storage driver 的類(lèi)型推斷出容器的 rootfs 掛載點(diǎn)，進(jìn)而采集容器內(nèi)部日志。下表展示了部分 storage dirver 的 rootfs 掛載點(diǎn)及其計(jì)算方法。

| Storage driver | rootfs 掛載點(diǎn)                                | 計(jì)算方法                                                     |
| :------------- | :------------------------------------------- | :----------------------------------------------------------- |
| aufs           | /var/lib/docker/aufs/mnt/<id>                | id 可以從如下文件讀到。 `/var/lib/docker/image/aufs/layerdb/mounts/<container-id>/mount-id` |
| overlay        | /var/lib/docker/overlay/<id>/merged          | 完整路徑可以通過(guò)如下命令得到。 `docker inspect -f '{{.GraphDriver.Data.MergedDir}}' <container-id>` |
| overlay2       | /var/lib/docker/overlay2/<id>/merged         | 完整路徑可以通過(guò)如下命令得到。 `docker inspect -f '{{.GraphDriver.Data.MergedDir}}' <container-id>` |
| devicemapper   | /var/lib/docker/devicemapper/mnt/<id>/rootfs | id 可以通過(guò)如下命令得到。 `docker inspect -f '{{.GraphDriver.Data.DeviceName}}' <container-id>` |

示例：

# 創(chuàng)建容器 tomcat-test
[root@fy-local-2 /]# docker  run -d  --name  tomcat-test  -P  tomcat
36510dd653ae7dcac1d017174b1c38b3f9a226f9c4e329d0ff656cfe041939ff  
# 查看tomcat-test 容器的 掛載點(diǎn)位置
[root@fy-local-2 /]# docker inspect -f '{{.GraphDriver.Data.MergedDir}}' 36510dd653ae7dcac1d017174b1c38b3f9a226f9c4e329d0ff656cfe041939ff  
/var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged
# 查看掛載點(diǎn)的目錄結(jié)構(gòu)
[root@fy-local-2 /]# ls -l /var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged
total 4
drwxr-xr-x 1 root root  179 May  8 13:05 bin
drwxr-xr-x 2 root root    6 Mar 28 17:12 boot
drwxr-xr-x 1 root root   43 May 22 17:27 dev
lrwxrwxrwx 1 root root   33 May  8 13:08 docker-java-home -> /usr/lib/jvm/java-8-openjdk-amd64
drwxr-xr-x 1 root root   66 May 22 17:27 etc
drwxr-xr-x 2 root root    6 Mar 28 17:12 home
drwxr-xr-x 1 root root    6 May 16 08:50 lib
drwxr-xr-x 2 root root   34 May  6 08:00 lib64
drwxr-xr-x 2 root root    6 May  6 08:00 media
drwxr-xr-x 2 root root    6 May  6 08:00 mnt
drwxr-xr-x 2 root root    6 May  6 08:00 opt
drwxr-xr-x 2 root root    6 Mar 28 17:12 proc
drwx------ 1 root root   27 May 22 17:29 root
drwxr-xr-x 3 root root   30 May  6 08:00 run
drwxr-xr-x 2 root root 4096 May  6 08:00 sbin
drwxr-xr-x 2 root root    6 May  6 08:00 srv
drwxr-xr-x 2 root root    6 Mar 28 17:12 sys
drwxrwxrwt 1 root root   29 May 16 08:50 tmp
drwxr-xr-x 1 root root   19 May  6 08:00 usr
drwxr-xr-x 1 root root   41 May  6 08:00 var
# 查看日志
[root@fy-local-2 /]# ls -l /var/lib/docker/overlay2/c10ec54bab8f3fccd2c5f1a305df6f3b1e53068776363ab0c104d253216b799d/merged/usr/local/tomcat/logs/
total 20
-rw-r----- 1 root root 14514 May 22 17:40 catalina.2019-05-22.log
-rw-r----- 1 root root     0 May 22 17:27 host-manager.2019-05-22.log
-rw-r----- 1 root root  1194 May 22 17:40 localhost.2019-05-22.log
-rw-r----- 1 root root     0 May 22 17:27 localhost_access_log.2019-05-22.txt
-rw-r----- 1 root root     0 May 22 17:27 manager.2019-05-22.log

方案四 在代碼層中實(shí)現(xiàn)直接將日志寫(xiě)入redis

docker ——》redis ——》Logstash——》Elasticsearch

通過(guò)代碼層面，直接將日志寫(xiě)入redis,最后寫(xiě)入 Elasticsearch。

以上就是對(duì) Docker 日志的所有的概念解釋和方提供，具體采用什么方案，根據(jù)公司的具體的業(yè)務(wù)來(lái)選擇。合適的才是最好的。

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成，瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明：文章內(nèi)容（如有圖片或視頻亦包括在內(nèi)）由作者上傳并發(fā)布，文章內(nèi)容僅代表作者本人觀點(diǎn)，簡(jiǎn)書(shū)系信息發(fā)布平臺(tái)，僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容