「r<-教程」R Docker 教程

原英文網(wǎng)址:http://ropenscilabs.github.io/r-docker-tutorial

這是專門為具有 R 和 RStudio 知識的朋友設(shè)計(jì)的 Docker 教程。該介紹旨在幫助需要 Docker 進(jìn)行項(xiàng)目的人們。我們首先解釋 Docker 是什么以及為什么有用。然后,我們將詳細(xì)介紹如何將其用于可復(fù)制的分析項(xiàng)目。

準(zhǔn)備

在開始之前,請根據(jù)自己的操作系統(tǒng)安裝下面的鏈接的介紹安裝 Docker

第一課:什么是 Docker?為什么我應(yīng)該使用它?

學(xué)習(xí)目標(biāo)

  • 理解 Docker 的基本思想
  • 明白為什么 Docker 非常有用

為什么我想要使用 Docker?

想象一下,你正在 R 中進(jìn)行分析,然后將代碼發(fā)送給朋友。 你的朋友在完全相同的數(shù)據(jù)集上運(yùn)行此代碼,但結(jié)果略有不同。 這可能有多種原因,例如操作系統(tǒng)不同,R 軟件包的版本不同等。 Docker 可以解決這樣的問題。

可以將Docker容器視為你計(jì)算機(jī)內(nèi)部的一臺計(jì)算機(jī)。 這個(gè)虛擬計(jì)算機(jī)的妙處在于你可以將其發(fā)送給你的朋友。 當(dāng)他們啟動(dòng)計(jì)算機(jī)并運(yùn)行你的代碼時(shí),他們將獲得與你完全相同的結(jié)果。

簡單來說,你因?yàn)橄旅娴囊恍┰蚴褂?Docker:

  • 封裝所有依賴
  • 分析可重復(fù)

還有一些 Docker 可以發(fā)揮用處的地方:

  • 可移植性:由于 Docker 容器可以輕松地發(fā)送到另一臺機(jī)器,因此你可以在自己的計(jì)算機(jī)上設(shè)置好所有內(nèi)容,然后在更強(qiáng)大的機(jī)器上運(yùn)行分析。
  • 可共享性:你可以將 Docker 容器發(fā)送給任何知道如何使用 Docker 的人。

基本詞匯

下面會經(jīng)常出現(xiàn)鏡像和容器這兩個(gè)詞。映像的實(shí)例稱為容器。映像是虛擬計(jì)算機(jī)的設(shè)置。如果運(yùn)行此映像,將擁有它的一個(gè)實(shí)例,我們將其稱為容器。可以有多個(gè)運(yùn)行相同映像的容器。

第二課:在 Docker 中啟動(dòng) RStudio

學(xué)習(xí)目標(biāo)

  • 在 Docker 中啟動(dòng) RStudio
  • 將磁盤與 Docker 鏡像鏈接
  • 載入容器

安裝

首先參考 install Docker 進(jìn)行安裝,沒有必要完成鏈接中所有的教程,有需要再回看它們。

在 Docker 中啟動(dòng) RStudio

要啟動(dòng) Docker,我們需要做的第一件事是打開一個(gè) Unix Shell。如果你在 Mac 或 Windows 上,在最后一步,你安裝了一個(gè)叫做Docker快速啟動(dòng)終端;現(xiàn)在打開它——它看起來應(yīng)該像一個(gè)普通的 shell 提示符(~$),但實(shí)際上它指向的是一個(gè) Docker 默認(rèn)運(yùn)行的 linux 虛擬機(jī),而在本教程的其余部分,除非另有說明,你應(yīng)該在這里完成所有操作。如果您在 linux 機(jī)器上,那么您可以使用普通的舊終端提示符。

在 Mac上,你也可以選擇終端并配置 Docker。特別是如果你得到錯(cuò)誤不能連接到Docker守護(hù)進(jìn)程。Docker 守護(hù)進(jìn)程在此主機(jī)上運(yùn)行嗎?。在教程的某個(gè)時(shí)候,運(yùn)行下面的命令可能會解決你的問題:

eval "$(docker-machine env default)"

接下來,我們將要求Docker運(yùn)行一個(gè)已經(jīng)存在的映像,我們將使用來自 Rockerverse Docker映像,它將允許我們在容器內(nèi)運(yùn)行RStudio,并且已經(jīng)安裝了許多有用的R包。

docker run --rm -p 8787:8787 -e PASSWORD=yourpassword rocker/verse

--rm-p-e是允許你自定義如何運(yùn)行容器的標(biāo)志。-p告訴 Docker 你將使用一個(gè)端口在你的瀏覽器中看到 RStudio(在一個(gè)位置,我們隨后指定為端口 8787:8787)。—rm 確保當(dāng)我們退出容器時(shí),容器被刪除。如果我們不這樣做,每次我們運(yùn)行一個(gè)容器,它的一個(gè)版本將被保存到我們的本地計(jì)算機(jī)。這最終會導(dǎo)致大量磁盤空間的浪費(fèi),直到我們手動(dòng)刪除這些容器。稍后,我們將向你展示如何保存容器(如果你想這樣做的話)。最后,-ePASSWORD 環(huán)境變量設(shè)置為 yourpassword。在堆棧中運(yùn)行帶有RStudio的容器時(shí),Rocker 需要你設(shè)置密碼。出于安全考慮,我們建議你將 yourpassword 更改為您自己獨(dú)特的字符串。

如果你嘗試運(yùn)行一個(gè)沒有在本地安裝的 Docker 容器,那么Docker會自動(dòng)在Docker Hub(一個(gè)在線的Docker 鏡像存儲庫)上搜索該容器,如果它存在,就下載它。

上面的命令將導(dǎo)致 RStudio-Server 不可見地啟動(dòng)。要連接到它,打開一個(gè)瀏覽器,輸入http://,然后加上你的 ip 地址,再加上:8787。如果您運(yùn)行的是 Mac 或 Windows 機(jī)器,您將在啟動(dòng) Docker Quickstart終端時(shí)出現(xiàn)在終端中的第一行文本中找到 ip 地址。例如,你應(yīng)該會看到:

                        ##         .
                  ## ## ##        ==
               ## ## ## ## ##    ===
           /"""""""""""""""""\___/ ===
      ~~~ {~~ ~~~~ ~~~ ~~~~ ~~~ ~ /  ===- ~~~
           \______ o           __/
             \    \         __/
              \____\_______/


docker is configured to use the default machine with IP 192.168.99.100
For help getting started, check out the docs at https://docs.docker.com

你應(yīng)該在瀏覽器中鍵入 URL http://192.168.99.100:8787 。

如果你在一臺 Linux 機(jī)器上運(yùn)行,你可以使用 localhost 作為 ip 地址,例如:http://localhost:8787

這將會將你導(dǎo)向 RStudio 登錄界面,使用下面的信息登錄:

username: rstudio password: password(上面你設(shè)置過這個(gè)東西)

現(xiàn)在你就可以在瀏覽器中使用 RStudio 工作了,就像你使用 Rstudio 桌面版一樣。

下面是一個(gè)截圖示例:

現(xiàn)在試試運(yùn)行下面的代碼吧:

# make x the numbers from 1 to 5, and y the numbers from 6-10
x <- 1:5
y <- 6:10

# plot x against y
plot(x, y)

因?yàn)槲覀儎偛艈?dòng)鏡像時(shí)使用了 --rm 標(biāo)記,所以在這個(gè)機(jī)器上創(chuàng)建的任何東西在關(guān)閉后都會消失。你可以試試將上面的代碼保存為一個(gè)文件,然后關(guān)閉瀏覽器,在終端上用 Control+C 關(guān)掉容器,然后重新啟動(dòng)容器,看是否創(chuàng)建的文件是否依然存在。

將磁盤與 Docker 鏡像連接以便于訪問和保存數(shù)據(jù)文件

既然數(shù)據(jù)文件會消失,那么我們退出容器后該如何保存我們的工作呢?一個(gè)解決的辦法是將一個(gè)磁盤(例如你的本地硬盤)與一個(gè)容器連接起來,這樣你就可以在本地磁盤上訪問和保存數(shù)據(jù)了。

這一次當(dāng)我們啟動(dòng)容器時(shí)使用 -v 標(biāo)記指定我們項(xiàng)目的根目錄,如下所示(你的目錄可能有所不同),:左邊是你本地計(jì)算機(jī)的路徑,右邊是容器里的路徑,一般以 /home/rstudio/ 開始(這個(gè)鏡像已經(jīng)默認(rèn)創(chuàng)建了用戶名 RStudio 和進(jìn)行了相關(guān)配置)。

docker run --rm -p 8787:8787 -v /Users/tiffanytimbers/Documents/DC/r-docker-tutorial:/home/rstudio/r-docker-tutorial rocker/verse

再一次地,在你的瀏覽器進(jìn)行 RStudio。

這一次你在 Docker 容器中啟動(dòng) RStudio 后,你可以查看到下面映射的文件目錄。然后就可以載入數(shù)據(jù)進(jìn)行分析工作了:

# load gapminder data from a csv on your computer
gap5yr <- read.csv(file = 'data/gapminder-FiveYearData.csv')

畫一個(gè)分析圖:

# load ggplot library
library(ggplot2)

# plot GDP against  life expectancy
qplot(gap5yr$lifeExp, gap5yr$gdpPercap)

# save the plot
ggsave(filename = 'data/GDP_LifeExp.pdf')

讓我們將腳本保存為 plot_GDP_LifeExp.R,然后關(guān)閉容器,看在本地目錄下是否能看到腳本和繪圖文件。

小結(jié)

這一課我們學(xué)習(xí)了如何通過容器在瀏覽器中運(yùn)行 RStudio。學(xué)習(xí)了 --rm 標(biāo)志的作用和如何連接磁盤文件。

第三課:安裝 R 包

在 RStudio 內(nèi)安裝 R 包

這跟我們使用 RStudio 桌面版沒什么區(qū)別,試試運(yùn)行:

# install package
install.packages('gapminder')

# load library
library(gapminder)

# peek at data
head(gapminder)

太好了!現(xiàn)在我們已經(jīng)安裝好包并可以進(jìn)行工作。但是等等,如果我們退出了容器會發(fā)生什么?安裝的包會被刪除,因?yàn)槲覀儧]有保存這個(gè)版本的 Docker 鏡像。我們需要?jiǎng)?chuàng)建一個(gè)鏡像,這樣當(dāng)利用它創(chuàng)建一個(gè)新的容器時(shí),gapminder 包也已經(jīng)安裝好了,可以直接使用。

為了做到這一點(diǎn),我們需要運(yùn)行 docker commit(類似 git commit)保存修改。記住,這個(gè)操作需要在關(guān)閉容器前運(yùn)行,一般我們另外打開一個(gè)終端進(jìn)行這個(gè)操作。

我們可以使用下面的命令進(jìn)行查看(類似 linux ps 命令):

docker ps

輸出應(yīng)該類似下面展示,哈希值記錄了容器 ID:

4a6a528b35da        rocker/verse        "/init"             2 minutes ago       Up 2 minutes        0.0.0.0:8787->8787/tcp   silly_meninsky

現(xiàn)在我們在新的終端中運(yùn)行下面命令,并記錄修改信息:

docker commit -m "verse + gapminder" 4a6a528b35da verse_gapminder

-m 指定修改信息,哈希值指定了我們要保存的容器,verse_gapminder 為保存的鏡像設(shè)定了一個(gè)名字。

現(xiàn)在我們的電腦上就有 2 個(gè)鏡像了:

docker images 
REPOSITORY                           TAG                 IMAGE ID            CREATED             SIZE
verse_gapminder                      latest              bb38976d03cf        57 seconds ago      1.955 GB
rocker/verse                         latest              0168d115f220        3 days ago          1.954 GB

現(xiàn)在你可以測試下新鏡像的工作情況。

安裝 R 系統(tǒng)外部依賴

許多 R 包有外部依賴,如 GSL, GDAL, JAGS,為了安裝它們,你需要進(jìn)行如下的操作:

docker ps # find the ID of the running container you want to add a package to
docker exec -it <container-id> bash # a docker command to start a bash shell in your container
apt-get install libgsl0-dev # install the package, in this case GSL

如果安裝報(bào)錯(cuò),先試試 apt-get update

為了保存安裝的依賴,依舊需要進(jìn)行修改的提交:

docker commit -m "verse + gapminder + GSL" <container id>  verse_gapminder_gsl

第四課:對 Docker Hub 推送或拉取鏡像

學(xué)習(xí)目標(biāo)

  • 理解鏡像來自哪里
  • 從 Docker Hub 拉取鏡像
  • 推送鏡像到 Docker Hub

從 Docker Hub 獲取鏡像

Docker Hub 是一個(gè)存儲 Docker 鏡像的地方,當(dāng)我們運(yùn)行下面的命令時(shí),軟件首選檢查鏡像是否存在于你的計(jì)算機(jī)上。如果不存在,它會自動(dòng)去 Docker Hub 搜索和下載。

docker run --rm -p 8787:8787 rocker/verse

如果你想要從 Docker Hub 上拉取鏡像而不運(yùn)行它,可以使用命令:

docker pull rocker/verse

將鏡像放到 Docker Hub

想象一下如果你自己創(chuàng)建了一個(gè)鏡像,然后想要與其他人分享,你可以在 https://hub.docker.com/ 創(chuàng)建一個(gè)賬號。驗(yàn)證完郵箱之后,你就可以將你的鏡像上傳了:

  1. 登錄 https://hub.docker.com/

  2. 點(diǎn)擊創(chuàng)建倉庫

  3. 設(shè)置名字后點(diǎn)擊創(chuàng)建

  4. 使用命令行登錄 Docker Hub

    docker login --username=yourhubusername --email=youremail@company.com
    

    如果沒問題應(yīng)該會看到下面的信息

    WARNING: login credentials saved in /home/username/.docker/config.json
    Login Succeeded
    
  5. 檢查鏡像的 ID

    docker images
    

    然后你會看到類似下面的輸出:

    REPOSITORY              TAG       IMAGE ID         CREATED           SIZE
    verse_gapminder_gsl     latest    023ab91c6291     3 minutes ago     1.975 GB
    verse_gapminder         latest    bb38976d03cf     13 minutes ago    1.955 GB
    rocker/verse            latest    0168d115f220     3 days ago        1.954 GB
    
  6. 標(biāo)記你的鏡像(打標(biāo)簽)

    docker tag bb38976d03cf yourhubusername/verse_gapminder:firsttry
    

    這里鏡像 ID 必須匹配,fisttry 是標(biāo)簽,一般選擇一些容易識別的標(biāo)簽。

  7. 推送你的鏡像:

    docker push yourhubusername/verse_gapminder
    

現(xiàn)在所有人都可以使用你的鏡像了!

保存和加載鏡像

將鏡像推送到 Docker Hub 非常使用,但它有些缺點(diǎn):

  1. 受帶寬限制
  2. 推送意味著發(fā)布(私密需要額外付費(fèi))
  3. 當(dāng)在一些計(jì)算節(jié)點(diǎn)上工作時(shí),如果每一次你都拉取 Docker Hub 的鏡像,速度會很慢

解決方案的在本地對你的鏡像進(jìn)行存檔,這樣你可以在需要的時(shí)候輕松載入。

為了這一目的,你可以使用 docker save 命令。讓我們試試吧:

docker save verse_gapminder > verse_gapminder.tar

如果我們想要從存檔中載入鏡像,使用下面的命令:

docker load --input verse_gapminder.tar

第五課:Dockerfile

前面我們學(xué)習(xí)了一個(gè)可以在 Docker 中運(yùn)行 RStudio 的基礎(chǔ)鏡像,學(xué)習(xí)如何使用 docker commit 修改鏡像的內(nèi)容。這是一個(gè)非常棒的技術(shù),它讓我們可以進(jìn)行重復(fù),但如果我們想要更簡單地修改鏡像中的內(nèi)容,并有一份清晰的記錄,該怎么辦呢?這就是 Dockerfile 的用武之地了。

FROM rocker/verse:latest

這告訴 Docker 以 rocker/verse 基礎(chǔ)鏡像作為開始。FROM 命令必須是第一條指令。

接下來,讓我們基于該基礎(chǔ)鏡像添加一層,讓 gapminder 提取安裝好可以直接使用:

RUN R -e "install.packages('gapminder', repos = 'http://cran.us.r-project.org')"

RUN 命令可以執(zhí)行 Shell 命令,這個(gè)例子中,我們直接通過 Shell 調(diào)用包安裝命令。保存你的 Dockerfile,返回終端,現(xiàn)在我們可以利用下面的命令構(gòu)建一個(gè)自定義鏡像:

docker build -t my-r-image .

-t my-r-image 指定鏡像名字(要小寫),. 指定構(gòu)建鏡像所需要的資源來源,這里指當(dāng)前目錄。查看鏡像:

docker images

現(xiàn)在你可以運(yùn)行你的鏡像:

docker run --rm -p 8787:8787 my-r-image

在 RStudio 控制臺中嘗試運(yùn)行:

library('gapminder')
gapminder

現(xiàn)在該包已經(jīng)是直接可以使用了!

有時(shí)候我們想要添加一些靜態(tài)文件到鏡像中,這可以使用 ADD 命令:

ADD data/gapminder-FiveYearData.csv /home/rstudio/
高級技巧:緩存層

在構(gòu)建和重構(gòu)建你的 Docker 鏡像時(shí),你可能注意到了類似下面的輸出:

Step 2 : RUN R -e "install.packages('gapminder', repos = 'http://cran.us.r-project.org')"
 ---> Using cache
 ---> fa9be67b52d1

注意到使用的是命令的緩存版本。當(dāng)你重新構(gòu)建映像時(shí),Docker 會檢查該映像的以前版本,以查看以前是否執(zhí)行了相同的命令;每一個(gè)步驟都被保存為一個(gè)單獨(dú)的層,Docker 非常聰明,可以重用那些層,如果它們沒有改變,并且和前面一樣的順序。因此,一旦你弄清楚了你的安裝過程的一部分(特別是如果它是一個(gè)緩慢的部分),把它放在你的Dockerfile的頂部,不要在這些行上面或中間放任何東西,特別是那些經(jīng)常變化的東西;這可以大大加快你的構(gòu)建過程。

簡單的說,重構(gòu)建只修改有變動(dòng)的步驟,如果很多命令沒有問題,盡量放到頂部。

小結(jié)

本節(jié),我們學(xué)習(xí)了如何組合一個(gè) Dockerfile 用于按我們自己的想法構(gòu)建鏡像,包括 3 個(gè)命令:

  • FROM 指定基礎(chǔ)鏡像
  • RUN 運(yùn)行命令
  • ADD 添加文件

使用 docker build -t my-r-image . 構(gòu)建。

小抄:

第六課:分享你的分析

既然我們已經(jīng)學(xué)會了如何利用 Dockerfile,我們就能夠?qū)⑽覀兯械姆治霭l(fā)給合作者。我們將分享一個(gè)包含運(yùn)行我們分析的所有依賴的鏡像。

我們通過 Dockerfile 構(gòu)建該鏡像。讓我們還是以之前使用過的 rocker 鏡像開始。這一次我們使用指定的 R 版本,通過這里查看所有可獲取的鏡像列表。版本標(biāo)簽在可重復(fù)性分析中非常有用。

FROM rocker/verse:3.3.2

作為分析的一部分,我們將使用 gapminder 數(shù)據(jù)集,添加下面的內(nèi)容:

RUN R -e "install.packages('gapminder', repos = 'http://cran.us.r-project.org')"

接下來將我們的分析寫成腳本并將其添加到 Dockerfile 中。

library(ggplot2)
library(gapminder)

life_expentancy_plot <- ggplot(data = gapminder) + 
    geom_point(aes(x = lifeExp, y = gdpPercap, colour = continent)) 

將其添加到 Docker 鏡像中的指定目錄中:

ADD analysis.R /home/rstudio/

現(xiàn)在我們可以構(gòu)建這個(gè)鏡像然后檢查是否我們已經(jīng)具備分享的一些內(nèi)容:

docker build -t my-analysis .

查看我們的分析鏡像:

docker images

啟動(dòng)鏡像:

docker run -dp 8787:8787 my-analysis

太好了,我們的分析腳本在里面,而且數(shù)據(jù)包也已經(jīng)安裝好了。

現(xiàn)在將分析推送到 dockerhub。

創(chuàng)建倉庫后,使用下面的命令進(jìn)行登錄。

docker login --username=yourhubusername --email=youremail@company.com

檢查鏡像 ID:

docker images
REPOSITORY                         TAG                 IMAGE ID            CREATED             SIZE
my-analysis                      latest              dc63d4790eaa        2 minutes ago       3.164 GB

給要提交的鏡像打標(biāo)簽:

docker tag dc63d4790eaa yourhubusername/gapminder_my_analysis:firsttry

推送到你創(chuàng)建好的倉庫:

docker push yourhubusername/gapminder_my_analysis

現(xiàn)在你的鏡像任何人都可以使用了。

合作者通過下面的命令可以下載它:

docker pull yourhubusername/gapminder_my_analysis:firsttry

更多資料:

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

友情鏈接更多精彩內(nèi)容