Quick Start #[https://paimon.apache.org/docs/0.9/spark/quick-start/#quick-start] Prepar...
Manifest Manifest List #[https://paimon.apache.org/docs/0.9/concepts/spec/manifest/#man...
Schema 該Schema文件的版本從 0 開始計(jì)數(shù),目前保留了所有版本的Schema文件??赡艽嬖谝蕾嚺fSchema版本的舊文件,因此刪除此類文件時(shí)應(yīng)謹(jǐn)慎行事。 Sche...
規(guī)范概述 這是 Paimon 表格格式的規(guī)范說明,此文檔對(duì) Paimon 的底層文件結(jié)構(gòu)和設(shè)計(jì)進(jìn)行了標(biāo)準(zhǔn)化處理。 術(shù)語 Schema: 字段、主鍵定義、分區(qū)鍵定義及選項(xiàng)。 S...
Paimon 支持針對(duì)多個(gè)并發(fā)寫入任務(wù)的樂觀并發(fā)控制。 每個(gè)作業(yè)都會(huì)按照自身的節(jié)奏寫入數(shù)據(jù),并在提交時(shí)基于當(dāng)前的快照應(yīng)用增量文件(刪除或添加文件)來生成新的快照。 這里可能會(huì)...
窗口是處理無限流的核心。Windows將流分割成有限大小的"桶",我們可以在這些桶上進(jìn)行計(jì)算。本文檔主要介紹在Flink中如何執(zhí)行窗口,以及程序員如何從它提供的功能中獲得最大...
操作符將一個(gè)或多個(gè)數(shù)據(jù)令轉(zhuǎn)換為一個(gè)新的數(shù)據(jù)令。程序可以將多種轉(zhuǎn)換組合成復(fù)雜的數(shù)據(jù)流拓?fù)洹?本節(jié)將介紹基本的轉(zhuǎn)換、應(yīng)用這些轉(zhuǎn)換后的有效物理分區(qū)以及對(duì)Flink s操作符鏈接的深...
此頁面的目標(biāo)是為需要使用自定義狀態(tài)序列化的用戶提供指導(dǎo)方針,介紹了如何提供自定義狀態(tài)序列化器,以及實(shí)現(xiàn)允許狀態(tài)模式演化的序列化器的指導(dǎo)方針和最佳實(shí)踐。 如果您只是使用Flin...
Apache Flink流媒體應(yīng)用程序通常設(shè)計(jì)為無限期運(yùn)行或長時(shí)間運(yùn)行。與所有長期運(yùn)行的服務(wù)一樣,需要更新應(yīng)用程序以適應(yīng)不斷變化的需求。這同樣適用于應(yīng)用程序所針對(duì)的數(shù)據(jù)模式;...
Flink提供了不同的狀態(tài)后端,用于指定狀態(tài)存儲(chǔ)的方式和位置。 狀態(tài)可以位于Java的堆或堆外。根據(jù)您的狀態(tài)后端,F(xiàn)link還可以管理應(yīng)用程序的狀態(tài),這意味著Flink處理內(nèi)...
Flink中的每個(gè)函數(shù)和運(yùn)算符都可以是有狀態(tài)的(有關(guān)詳細(xì)信息,請(qǐng)參見使用狀態(tài)[https://ci.apache.org/projects/flink/flink-docs-...
Working with State[http://www.itdecent.cn/p/fa59ed63cf62]描述了操作符的狀態(tài),在恢復(fù)時(shí),該狀態(tài)是均勻地分布在操作符的...