背景及痛點(diǎn)[#%E8%83%8C%E6%99%AF%E5%8F%8A%E7%97%9B%E7%82%B9]業(yè)務(wù)背景[#%E4%B8%9A%E5%8A%A1%E8%83%8C%...
背景及痛點(diǎn)[#%E8%83%8C%E6%99%AF%E5%8F%8A%E7%97%9B%E7%82%B9]業(yè)務(wù)背景[#%E4%B8%9A%E5%8A%A1%E8%83%8C%...
背景 隨著大數(shù)據(jù)處理結(jié)果的實(shí)時(shí)性要求越來(lái)越高,越來(lái)越多的大數(shù)據(jù)處理從離線轉(zhuǎn)到了實(shí)時(shí),其中以flink為主的實(shí)時(shí)計(jì)算在大數(shù)據(jù)處理中占有重要地位。 Flink消費(fèi)kafka等實(shí)時(shí)...
前言 flink消費(fèi)cdc數(shù)據(jù)canal formatdebezium formatCanalJson反序列化源碼解析 flink cdc connector背景mysql-...
背景 自定義聚合函數(shù) 實(shí)例講解 背景 在網(wǎng)站性能測(cè)試中,我們經(jīng)常會(huì)選擇 TP50、TP95 或者 TP99 等作為性能指標(biāo)。接下來(lái)我們講講這些指標(biāo)的含義、以及在flink中如...
CDC簡(jiǎn)介 Canal CanalJson反序列化源碼解析 CDC簡(jiǎn)介 CDC,Change Data Capture,變更數(shù)據(jù)獲取的簡(jiǎn)稱,使用CDC我們可以從數(shù)據(jù)庫(kù)中獲取已...
背景 LookupableTableSource 實(shí)例講解 源碼解析JdbcTableSourceJdbcLookupFunction 背景 在流式計(jì)算中,維表是一個(gè)很常見(jiàn)的...
使用 示例 源碼解析創(chuàng)建TableSource數(shù)據(jù)生成器DataGeneratorDataGenTableSource 使用 在flink 1.11中,內(nèi)置提供了一個(gè)Data...
前言 數(shù)據(jù)流處理hive基本信息獲取流、批判斷寫(xiě)入格式判斷構(gòu)造分區(qū)提交算子 詳解StreamingFileWriter 簡(jiǎn)述StreamingFileSink 分區(qū)信息提交提...
在大數(shù)據(jù)處理領(lǐng)域,數(shù)據(jù)傾斜是一個(gè)非常常見(jiàn)的問(wèn)題,今天我們就簡(jiǎn)單講講在flink中如何處理流式數(shù)據(jù)傾斜問(wèn)題。 我們先來(lái)看一個(gè)可能產(chǎn)生數(shù)據(jù)傾斜的sql. 在這個(gè)sql里,我們統(tǒng)計(jì)...
@LittleMagic 嗯,其實(shí)我想看一下hudi是怎么做的,但是一直沒(méi)時(shí)間研究。
Flink SQL FileSystem Connector分區(qū)提交與自定義小文件合并策略本文已授權(quán)「Flink中文社區(qū)」微信公眾號(hào)發(fā)布并標(biāo)注原創(chuàng)。 Prologue 之前筆者在介紹Flink 1.11 Hive Streaming新特性時(shí)提到過(guò),F(xiàn)link SQ...
樓主,想請(qǐng)問(wèn)幾個(gè)問(wèn)題:
1.在合并的時(shí)候,如何保證事務(wù),也就是合并的同時(shí)讀取數(shù)據(jù)不發(fā)生臟讀。
2.如何保證事務(wù)的完整性呢,如果因?yàn)楦鞣N原因?qū)е率×?,怎么回滾呢?
Flink SQL FileSystem Connector分區(qū)提交與自定義小文件合并策略本文已授權(quán)「Flink中文社區(qū)」微信公眾號(hào)發(fā)布并標(biāo)注原創(chuàng)。 Prologue 之前筆者在介紹Flink 1.11 Hive Streaming新特性時(shí)提到過(guò),F(xiàn)link SQ...
modules概念 通過(guò)hive module使用hive函數(shù)內(nèi)置函數(shù)自定義函數(shù) sql 客戶端的使用 原理分析和源碼解析實(shí)現(xiàn) modules概念 flink 提供了一個(gè)mo...
背景 實(shí)例講解引入pom構(gòu)造數(shù)據(jù)源構(gòu)造redis配置實(shí)現(xiàn)RedisMapper 動(dòng)態(tài)生成key 背景 redis作為一個(gè)高吞吐的存儲(chǔ)系統(tǒng),在生產(chǎn)中有著廣泛的應(yīng)用,今天我們主要...
背景 示例 源碼解析AbstractJdbcCatalogPostgresCatalog 背景 1.11.0 之前,用戶如果依賴 Flink 的 source/sink 讀寫(xiě)...
背景zeppelin不提供per job模式實(shí)時(shí)平臺(tái)開(kāi)發(fā)周期長(zhǎng) 基于zeppelin開(kāi)發(fā)一個(gè)簡(jiǎn)易實(shí)時(shí)平臺(tái) 開(kāi)發(fā)zeppelin Interpreter提交sql任務(wù)提交jar...
文章轉(zhuǎn)自:https://blog.csdn.net/qq_37865420/article/details/107103505 1、(千億級(jí)kafka集群性能調(diào)優(yōu))集群信息...