DataX 流量和臟數(shù)據(jù)控制

job的配置

  1. Job基本配置
    Job基本配置定義了一個Job基礎的、框架級別的配置信息,包括:
{
  "job": {
    "content": [
      {
        "reader": {
          "name": "",
          "parameter": {}
        },
        "writer": {
          "name": "",
          "parameter": {}
        }
      }
    ],
    "setting": {
      "speed": {},
      "errorLimit": {}
    }
  }
}
  1. Job Setting配置
{
  "job": {
    "content": [
      {
        "reader": {
          "name": "",
          "parameter": {}
        },
        "writer": {
          "name": "",
          "parameter": {}
        }
      }
    ],
    "setting": {
      "speed": {
        "channel": 1,
        "byte": 104857600
      },
      "errorLimit": {
        "record": 10,
        "percentage": 0.05
      }
    }
  }
}
  • job.setting.speed(流量控制)
    Job支持用戶對速度的自定義控制,channel的值可以控制同步時的并發(fā)數(shù),byte的值可以控制同步時的速度。
  • job.setting.errorLimit(臟數(shù)據(jù)控制)
    Job支持用戶對于臟數(shù)據(jù)的自定義監(jiān)控和告警,包括對臟數(shù)據(jù)最大記錄數(shù)閾值(record值)或者臟數(shù)據(jù)占比閾值(percentage值),當Job傳輸過程出現(xiàn)的臟數(shù)據(jù)大于用戶指定的數(shù)量/百分比,DataX Job報錯退出。

原文:https://www.2cto.com/net/201612/574864.html

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

  • 近期受MPA考核影響,資金市場持續(xù)收緊,那么MPA究竟是如何影響資金市場的呢? 在MPA考核七個大類18個指標中,...
    Wo蘭蘭閱讀 1,233評論 0 1
  • 童年世界,筆下生輝! “博”采眾長為已用,“雅”人深致好人生。 圈圈點點,成就非凡! 腹有書畫,氣自華, 一手好書...
    書香齋神畫藝術館閱讀 234評論 0 1

友情鏈接更多精彩內容