10月19日,2021杭州·云棲大會在杭州云棲小鎮(zhèn)正式開幕。云棲大會是科技界最重要的盛會,已成為中國科技創(chuàng)新成果全景展示和數(shù)字智能新品發(fā)布的平臺。
作為深耕SAAS行業(yè)十年的服務(wù)商,萬里牛已經(jīng)取得了很多可喜的成果。萬里牛大數(shù)據(jù)架構(gòu)師陳曉亮在10月22日的“大數(shù)據(jù)平臺技術(shù)論壇”上,以“萬里牛實時數(shù)倉的演進(jìn)之路”為題進(jìn)行了主題演講,重點分享應(yīng)用Holo來建設(shè)實時數(shù)倉的經(jīng)驗,并對行業(yè)發(fā)展進(jìn)行了分析。
客戶需要什么,我們就解決什么
我們的客戶主要是從事電商、跨境電商和實體門店的企業(yè)客戶。
“我們總結(jié)了用戶在業(yè)務(wù)過程中的一些數(shù)據(jù)痛點。首先,業(yè)務(wù)環(huán)節(jié)產(chǎn)生了大量數(shù)據(jù)卻不會通過數(shù)據(jù)分析來反哺業(yè)務(wù);其次,實際工作中數(shù)據(jù)還是會被人工統(tǒng)計,不僅難以保證準(zhǔn)確性而且費時費力,與市場節(jié)奏脫節(jié);再者,辛苦做出的數(shù)據(jù)分析被用于改進(jìn)業(yè)務(wù)流程后,卻無法快速評估實際產(chǎn)生效果。”
用戶的訴求促使我們快速建設(shè)數(shù)據(jù)中臺,實現(xiàn)各個應(yīng)用數(shù)據(jù)之間的融合,消除了數(shù)據(jù)孤島,同時構(gòu)建了基礎(chǔ)的離線數(shù)據(jù)倉庫,并且通過數(shù)據(jù)資產(chǎn)管理系統(tǒng)和可視化系統(tǒng)的配合實現(xiàn)了零代碼交互式數(shù)據(jù)分析能力。
數(shù)據(jù)中臺2.0時代:HOLO建立實時數(shù)倉
“2.0時代我們增加了實時數(shù)倉能力,技術(shù)選型采用了比較成熟的Lambda架構(gòu)。數(shù)據(jù)同步部分多了Binlog通道,實時將數(shù)據(jù)傳輸?shù)紿olo建立實時數(shù)倉。同時Holo還承擔(dān)聯(lián)邦查詢和實時數(shù)據(jù)引擎的任務(wù)。目前萬里牛的數(shù)據(jù)中臺架構(gòu),能夠為客戶提供實時和準(zhǔn)實時數(shù)據(jù)分析能力。同時數(shù)據(jù)中臺接手部分場景下業(yè)務(wù)系統(tǒng)的數(shù)據(jù)查詢服務(wù),利用Holo的能力開放ODS層數(shù)據(jù)訪問。”
阿里云&萬里牛,未來皆有可能
隨著大數(shù)據(jù)發(fā)展進(jìn)入普惠期,數(shù)據(jù)倉庫、數(shù)據(jù)湖、湖倉一體成為業(yè)內(nèi)熱點,離線實時一體化數(shù)倉和新一代基于云原生的湖倉一體平臺成為行業(yè)趨勢。阿里云提供的一系列大數(shù)據(jù)組件,讓萬里牛數(shù)據(jù)團(tuán)隊如虎添翼。
“萬里牛也聯(lián)合了阿里巴巴聚石塔特別技術(shù)小組全程為萬里牛商家保駕護(hù)航。雙十一前夕萬里牛已提前對所有服務(wù)器、數(shù)據(jù)庫和網(wǎng)絡(luò)帶寬進(jìn)行了彈性升級擴(kuò)容,配置相比平時提升10倍以上。萬里牛系統(tǒng)已經(jīng)完成聚石塔壓測認(rèn)證,單店鋪最大可承受數(shù)據(jù)壓力超過300萬單/天。同時萬里牛與阿里云成立專項小組進(jìn)行駐場,保障大促期間系統(tǒng)的響應(yīng)和處理速度,降低風(fēng)險系數(shù)。”