scrapyd部署scrapy項(xiàng)目(windows)

配置

首先在你的項(xiàng)目scrapy.cfg文件中添加你的部署配置

[deploy:localhost] #注意是冒號(hào)
url = http://localhost:6800/
project = projectname

安裝

pip install scrapyd #  scrapyd服務(wù)端
pip install scrapyd-client #scrapy客戶(hù)端

另外windows需要下載crul調(diào)度器(這是linux系統(tǒng)自帶的命令)

部署

首先啟動(dòng)scrapyd服務(wù)器,打開(kāi)cmd,輸入

scrapyd

打開(kāi)cmd,切換到你的scrapy項(xiàng)目根目錄

python c:\Python27\Scripts\scrapyd-deploy localhost -p projectname

返回部署成功信息:

Deploying to project "projectname" in http://localhost:6800/addversion.json
Server response (200):
{"status": "ok", "project": "projectname", "version": "1478140056", "spiders": 13
, "node_name": "my-PC"}

使用curl調(diào)度你的項(xiàng)目(前提是你的電腦裝了curl),打開(kāi)cmd,輸入

curl http://localhost:6800/schedule.json -d project=projectname -d spider=spidername

返回成功信息

{"status": "ok", "jobid": "eb8ccfc0a16d11e6ac2ff48e389a05a1", "node_name": "my
-PC"}

在windows測(cè)試通過(guò),有空再寫(xiě)一個(gè)linux上同時(shí)部署多臺(tái)機(jī)器的

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀(guān)點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • Spring Cloud為開(kāi)發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見(jiàn)模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 136,657評(píng)論 19 139
  • 序言第1章 Scrapy介紹第2章 理解HTML和XPath第3章 爬蟲(chóng)基礎(chǔ) 第4章 從Scrapy到移動(dòng)應(yīng)用第5...
    SeanCheney閱讀 9,309評(píng)論 3 20
  • scrapy學(xué)習(xí)筆記(有示例版) 我的博客 scrapy學(xué)習(xí)筆記1.使用scrapy1.1創(chuàng)建工程1.2創(chuàng)建爬蟲(chóng)模...
    陳思煜閱讀 13,087評(píng)論 4 46
  • 冬天有到北方滑雪、賞冰雕或去南方海濱城市沖浪等各種玩法,但都不及泡溫泉來(lái)的愜意。當(dāng)你疲憊的時(shí)候,泡一泡溫泉,在淋漓...
    簡(jiǎn)約組合閱讀 742評(píng)論 1 2
  • 2016年底,我26歲,離開(kāi)了穩(wěn)定的國(guó)企,背著相機(jī)選擇獨(dú)自一個(gè)人來(lái)到武漢學(xué)習(xí)兒童攝影。 說(shuō)到武漢,說(shuō)到兒童攝影都是...
    Jila閱讀 213評(píng)論 0 0

友情鏈接更多精彩內(nèi)容