18年10月從北京來(lái)了上海之后,入職的一家金融公司。剛開始入職時(shí),公司數(shù)據(jù)量不是很大,用Excel就基本可以完成日常數(shù)據(jù)需要。
我作為部門初期技術(shù)加入后,開始部署信息管理部的數(shù)據(jù)庫(kù),申請(qǐng)了新的服務(wù)器,安裝了MySQL和ETL工具及調(diào)度工具,因?yàn)轭A(yù)算有限ETL工具使用的是免費(fèi)kettle,調(diào)度工具使用的也是免費(fèi)的Azkaban,當(dāng)初第一次安裝Azkaban費(fèi)了不少力氣。
環(huán)境部署好了之后,接下來(lái)就是干了。一方面以前做Excel的同事邊學(xué)習(xí)SQL邊繼續(xù)原先的工作。我最初是搭建ods層,將不同系統(tǒng)數(shù)據(jù)對(duì)接至部門數(shù)據(jù)庫(kù),從建表開始一步步對(duì)接,一周后回頭看數(shù)據(jù)庫(kù)從空庫(kù)變成如今的樣子還挺感慨。
ods層完畢后,開始將Excel同事負(fù)責(zé)的表通過(guò)SQL翻譯成邏輯,形成自動(dòng)化的表,不再需要同事到點(diǎn)就去crm系統(tǒng)下載數(shù)據(jù),貼數(shù)據(jù),再用PowerQuery處理。我們每周進(jìn)行SQL培訓(xùn),以前的同事開始學(xué)習(xí)SQL,半年后Excel成了輔助工具,信息管理部也完成了“技術(shù)”轉(zhuǎn)型。但當(dāng)時(shí)的主要目標(biāo)是還是解決因數(shù)據(jù)量大導(dǎo)致Excel無(wú)法完成日常報(bào)表需求的難題。
后來(lái)隨著公司的發(fā)展,擁有了投顧和財(cái)商業(yè)務(wù)線,加上部門團(tuán)隊(duì)的壯大,對(duì)接了多個(gè)系統(tǒng)數(shù)據(jù)后,為保證數(shù)據(jù)的可用性、數(shù)據(jù)質(zhì)量和數(shù)據(jù)安全。因此部門提出了“數(shù)據(jù)治理”的概念,我開始負(fù)責(zé)數(shù)據(jù)治理項(xiàng)目(具體數(shù)據(jù)質(zhì)量在工作中的應(yīng)用會(huì)在單獨(dú)的文章中詳細(xì)描述)。
數(shù)據(jù)治理初顯成效后,轉(zhuǎn)為數(shù)據(jù)倉(cāng)庫(kù)搭建。因?yàn)楣緲I(yè)務(wù)線并行,因此根據(jù)業(yè)務(wù)線與數(shù)據(jù)隔離的要求做了不同的主題數(shù)倉(cāng)。因公司有自己的推廣團(tuán)隊(duì),作為公司花錢最多的部門,在數(shù)據(jù)方面予以最大的支持。因此我又調(diào)去做了推廣的數(shù)據(jù),因推廣涉及數(shù)據(jù)鏈條最多,最廣,最長(zhǎng),因此直到現(xiàn)在我仍在做推廣相關(guān)數(shù)據(jù)。
我在這家公司即將四年了,這些年部門同事面試一批走掉一批又來(lái)一批,我成了那個(gè)最“老”最“熟”的人。
見證了東家的起伏成長(zhǎng),我從中也學(xué)到很多,希望接下來(lái)能夠?qū)⑽覍?duì)工作的見解以文字的形式分享出來(lái)。