資料倉儲概念(二) - ODS

來源:互聯網
上載者:User
        ODS(英語:Operational Data Store)是一種資料架構或資料庫設計的概念,出現原因是來自於當需要整合來自多個系統的資料,結果又要給一或多個系統使用時。

一、概念

        ODS (Operational Data Store)操作型資料存放區,ODS具備資料倉儲的部分特徵和OLTP系統的部分特徵,它是“整合的、當前或接近當前的、不斷變化的”資料,一般不保留資料的變動軌跡,是資料倉儲體繫結構中的一個可選部分。

        ODS的資料具有面向主題、整合的、可變的和資料是當前的或是接近當前的4個基本特徵。同樣也可以看出ODS是介於DB和DW 之間的一種資料存放區技術,和原來面嚮應用的分散的DB相比,ODS中的資料群組織方式和資料倉儲(DW)一樣也是面向主題的和整合的,所以對進入ODS的資料也象進入資料倉儲的資料一樣進行整合處理。另外ODS只是存放當前或接近當前的資料,如果需要的話還可以對ODS中的資料進行增、刪和更新等操作,雖然DW中的資料也是面向主題和整合的,但這些資料一般不進行修改,所以ODS和DW的區別主要體現資料的可變性、當前性、穩定性、匯總度上。

二、ODS與DW比較

ODS DW
主要是和源系統資料表結構相同,表結構隨著源系統變化 面向主題的表模型,模型相對穩定
一般只保留最新資料或較短時間段的資料 曆史資料,記錄軌跡
追求時間視窗短,滿足報表資料的實效性 批處理時間視窗較長
Update、Insert、Merge操作 主要是Insert操作

三、ODS與DW應用實施

實施方案 特點 風險
資料倉儲(DW) 一般包含一個資料準備層,先進行來源資料採集和清洗;有穩定成熟的模型; 投入大、風險高
操作型資料存放區(ODS) 主要是快速採集來源資料;一般也會採用DW的一些技術;可以部分保留較少天數的曆史資料,不能滿足企業的中遠期決策需求;缺點是數沒有穩定的資料層; 投資小、但涉及技術較多
ODS+DW 一般ODS用於報表資料來源,同時為DW提供資料;DW作決策支援,提供曆史資料; 一般需要分步實施,降低風險

實施方案

實施結果 優勢 劣勢
ODS 企業能夠把握ODS中的當前綜合資料對企業當前的運營情況隨時掌控 可以滿足企業的即時監控和即時業務需求 不能解決企業的中遠決策需求
DW 企業能夠分析DW中的曆史資料,進行中遠期的規劃 可以解決企業的中遠決策需求 不能滿足企業的即時監控和即時業務需求

四、常用術語

ETL(Extract Transform  Load) 例如IBM Datastage、Informatic  PowerCenter
DM(Data Mart)資料集市 資料集市也可叫做“小資料倉儲”。如果說資料倉儲是建立在企業級的資料模型之上的話。那麼資料集市就是企業級資料倉儲的一個子集,他主要面向部門級業務,並且只面向某個特定的主題。資料集市可以在一定程度上解決訪問資料倉儲的瓶頸
Cognos 報表開發展現工具
Cube 資料立方體,Cognos基於檔案的多維資料群組織,用於多維分析
主要資料 主要的業務資料,例如客戶資訊、卡、帳戶
Metadata中繼資料 資料的資料,包括資料來源中繼資料、ETL規則中繼資料、OD中繼資料、報表中繼資料、介面檔案中繼資料、商務規則中繼資料等

五、ODS優缺點

主要優點:

1、提供T+1同構表給MIS系統使用,減輕了對源交易系統的資料訪問壓力;
2、屏蔽了眾多的、異構的資料庫,例如DB2/400、sqlserver,物理上集中存放到oracle資料庫,降低了MIS系統部署難度;
3、可以統一進行清洗和簡單的處理,例如統一Trim;
4、提供部分整合後的主要資料層供使用者訪問,可以降低源系統變化帶來的影響;
5、對多個應用系統公用的資料指標可以統一加工,提供公用加工層表;
6、提供各源系統批處理結束標誌,方便MIS日報開發;
7、對MIS系統的批次工作可以提供統一調度;
8、提供部分錶的歷史資料儲存,方便MIS使用;

缺點和不足:

1、改善源系統的資料品質的能力有限,例如:如果源系統沒有最後修改日期欄位,ODS也較難提供增量資料給後面的應用系統;
2、增大了資料錯誤的機率;如果通過ETL工具也可以直接存取多個源系統資料並完成資料加工,在資料準確性上保障更高;
3、因為不能掌握全部的源系統資料,例如繁多的登記薄,一段時間內還需要由需求推動同構表的分析和採集工作;
4、沒有穩定的、面向主題的資料模型;
5、不能大量地儲存曆史資料;
6、批處理時間視窗內不能提供資料訪問;

聯繫我們

該頁面正文內容均來源於網絡整理,並不代表阿里雲官方的觀點,該頁面所提到的產品和服務也與阿里云無關,如果該頁面內容對您造成了困擾,歡迎寫郵件給我們,收到郵件我們將在5個工作日內處理。

如果您發現本社區中有涉嫌抄襲的內容,歡迎發送郵件至: info-contact@alibabacloud.com 進行舉報並提供相關證據,工作人員會在 5 個工作天內聯絡您,一經查實,本站將立刻刪除涉嫌侵權內容。

A Free Trial That Lets You Build Big!

Start building with 50+ products and up to 12 months usage for Elastic Compute Service

  • Sales Support

    1 on 1 presale consultation

  • After-Sales Support

    24/7 Technical Support 6 Free Tickets per Quarter Faster Response

  • Alibaba Cloud offers highly flexible support services tailored to meet your exact needs.