簡(jiǎn)介

一般批量爬取視頻或者圖片的套路是，使用爬蟲獲得文件鏈接集合，然后通過 writeFile 等方法逐個(gè)保存文件。然而，頭條的視頻，在需要爬取的 html 文件（服務(wù)端渲染輸出）中，無法捕捉視頻鏈接。視頻鏈接是頁面在客戶端渲染時(shí)，通過某些 js 文件內(nèi)的算法或者解密方法，根據(jù)視頻的已知 key 或者 hash 值，動(dòng)態(tài)計(jì)算出來并添加到 video 標(biāo)簽的。這也是網(wǎng)站的一種反爬措施。

我們?cè)跒g覽這些頁面時(shí)，通過審核元素，可以看到計(jì)算后的文件地址。然而在批量下載時(shí)，逐個(gè)手動(dòng)的獲取視頻鏈接顯然不可取。開心的是，puppeteer 提供了模擬訪問 Chrome 的功能，使我們可以爬取經(jīng)過瀏覽器渲染出來的最終頁面。

今日頭條里有很多有意思的頭條號(hào)玩家，他們發(fā)布了很多視頻在里面。如果大家有批量下載某個(gè)頭條號(hào)視頻的需求，這個(gè)爬蟲就派上用場(chǎng)了。當(dāng)然，其他視頻站也都大同小異，更改下部分代碼設(shè)置就可以使用啦。

項(xiàng)目啟動(dòng)

命令

npm i
npm start
// 安裝 puppeteer 的過程稍慢，耐心等待。

單個(gè)文件下載命令

npm run single
// 在文件 single.js 中設(shè)置視頻名稱和 src 即可。

配置文件

// 配置相關(guān)
module.exports =  {
  originPath: 'https://www.ixigua.com', // 頁面請(qǐng)求地址
  savePath: 'D:/videoZZ' // 存放路徑
}

// 單個(gè)視頻下載設(shè)置
const folderName = 'D:/videoLOL'
const fileName = 'S8預(yù)選賽TOP5：Haro李青無解操作支配戰(zhàn)局「LOL七周年」'
const videoSrc = 'http://v11-tt.ixigua.com/e2b7cbd320031f6c19890001503a6ca0/5b9fd7bb/video/m/2203ce04dd18e0e426381abfe64ea44f19b115bbe0a000027c1f6e94a77/'

// 初始化方法
const start = async () => {
  method.mkdirSaveFolder(folderName)
  let video = {
    src: videoSrc,
    title: fileName
  }
  downloadVideo(video)
}

技術(shù)點(diǎn)

puppeteer

puppeteer 提供一個(gè)高級(jí) API 來控制 Chrome 或者 Chromium。
puppeteer 主要作用：

• 利用網(wǎng)頁生成 PDF、圖片
• 爬取SPA應(yīng)用，并生成預(yù)渲染內(nèi)容（即“SSR” 服務(wù)端渲染）
• 可以從網(wǎng)站抓取內(nèi)容
• 自動(dòng)化表單提交、UI測(cè)試、鍵盤輸入等

使用到的 API：

• puppeteer.launch() 啟動(dòng)瀏覽器實(shí)例
• browser.newPage() 創(chuàng)建一個(gè)新頁面
• page.goto() 進(jìn)入指定網(wǎng)頁
• page.screenshot() 截圖
• page.waitFor() 頁面等待，可以是時(shí)間、某個(gè)元素、某個(gè)函數(shù)
• page.$eval() 獲取一個(gè)指定元素，相當(dāng)于 document.querySelector
• page.$$eval() 獲取某類元素，相當(dāng)于 document.querySelectorAll
• page.$('#id .className') 獲取文檔中的某個(gè)元素，操作類似jQuery

代碼示例

const puppeteer = require('puppeteer');
 
(async () => {
  const browser = await puppeteer.launch();
  const page = await browser.newPage();
  await page.goto('https://example.com');
  await page.screenshot({path: 'example.png'});
 
  await browser.close();
})()

視頻文件下載方法

• 下載視頻主方法

const downloadVideo = async video => {
  // 判斷視頻文件是否已經(jīng)下載
  if (!fs.existsSync(`${config.savePath}/${video.title}.mp4`)) {
    await getVideoData(video.src, 'binary').then(fileData => {
      console.log('下載視頻中：', video.title)
      savefileToPath(video.title, fileData).then(res =>
        console.log(`${res}: ${video.title}`)
      )
    })
  } else {
    console.log(`視頻文件已存在：${video.title}`)
  }
}) 

• 獲取視頻數(shù)據(jù)

getVideoData (url, encoding) {
  return new Promise((resolve, reject) => {
    let req = http.get(url, function (res) {
      let result = ''
      encoding && res.setEncoding(encoding)
      res.on('data', function (d) {
        result += d
      })
      res.on('end', function () {
        resolve(result)
      })
      res.on('error', function (e) {
        reject(e)
      })
    })
    req.end()
  })
}

• 將視頻數(shù)據(jù)保存到本地

savefileToPath (fileName, fileData) {
  let fileFullName = `${config.savePath}/${fileName}.mp4`
  return new Promise((resolve, reject) => {
    fs.writeFile(fileFullName, fileData, 'binary', function (err) {
      if (err) {
        console.log('savefileToPath error:', err)
      }
      resolve('已下載')
    })
  })
}

爬取結(jié)果截圖

說明

此爬蟲僅用于個(gè)人學(xué)習(xí)，如果侵權(quán)，即刻刪除！