10:1),高效查詢主要依賴特殊設計的存儲結構對查詢的優化,但這里優化的效果還取決于數據庫結構和查詢語句的設計。2.高數據壓縮比,號稱一般能夠達到10:1以上的數據壓縮率" />

亚洲免费在线-亚洲免费在线播放-亚洲免费在线观看-亚洲免费在线观看视频-亚洲免费在线看-亚洲免费在线视频

INFOBRIGHT 數據倉庫

系統 1665 0

最近有部分工作涉及到了 ?Infobright 數據倉庫 ,就瀏覽了一些相關的資料,感覺很受啟發。下面寫一些感想,如有謬誤,還請指正。

簡單的來講,Infobright 主要有下面的一些優點:

1. TB 級的數據存儲和高效查詢。大數據量存儲主要依賴自己提供的高速數據加載工具(百G/小時)和高數據壓縮比(>10:1),高效查詢主要依賴特殊設計的存儲結構對查詢的優化,但這里優化的效果還取決于數據庫結構和查詢語句的設計。

2. 高數據壓縮比,號稱一般能夠達到 10:1 以上的數據壓縮率。高數據壓縮比主要依賴列式存儲和 patent-pending 的靈活壓縮算法。

3. 與主要 BI 分析工具的兼容性。兼容性這點主要依賴與 MySQL 的集成,作為 MySQL 的存儲引擎自然地能夠保證與 BI 分析工具的兼容。

除了上面的優點外,它也有一些限制:

1. 不支持數據更新。這使對數據的修改變得很困難,這樣就限制了它作為實時數據服務的數據倉庫來使用。用戶要么忍受數據的非實時或非精確,這樣對最(較)新數據的分析準確性就降低了許多;要么將它作為歷史庫來使用,帶來的問題是實時庫用什么?很多用戶選擇數據倉庫系統,不是因為存儲空間不夠,而是數據加載性能和查詢性能無法滿足要求。

2. 不支持高并發。雖然單庫 10 多個并發對一般的應用來說也足夠了,但較低的機器利用率對投資者來說總是一件不爽的事情,特別是在并發小請求較多的情況下。

3. 沒有提供主從備份和橫向擴展的功能。如果沒有主從備份,想做備份的話,也可以主從同時加載數據,但只能校驗最終的數據一致性,這會使得從機在數據加載時停服務的時間較長;橫向擴展方面,倒不是 Infobright 的錯,它本身就不是分布式的存儲系統,但如果把它搞成一個分布式的系統,應該是一件比較好玩的事情。

在架構方面,Infobright 給我展示了不少新想法,算是受益頗多吧。首先是按列存儲,然后把列數據切成小塊(Data Pack),進行壓縮和統計(DPN, Data Pack Node),然后再對多塊數據之間進行知識關聯(Knowledge Node),最后對整個表形成知識網格(Knowledge Grid)。雖然說 Infobright 沒有提供索引結構,但它 Knowledge Grid 中的 Numerical Histogram、Character Map 和 Pack-to-Pack 結構,怎么看都和? bitmap 索引 脫不了關系。只是它的組織形式不像傳統數據庫中的索引罷了。

其實我們在設計類似的分布式表格系統時,也可以實現類似于 Knowledge Grid 的結構。這個結構未必跟 Infobright 的一樣,但是如果在壓縮的基礎上,基于系統查詢模式(分布式系統的查詢模式一般相對簡單,復雜的也做不來),存儲一些輔助的塊統計信息以及塊之間的關聯信息,對于減少查詢的資源消耗,提高查詢效率會非常有幫助,這也正好是針對分布式表格系統很難建立索引這一缺點的彌補。

參考鏈接:

這篇文章 對 Infobright 及其安裝方法進行了基本介紹,最后的一個查詢速度對比有些夸張(105:1),我覺得這可能跟查詢條件正好能匹配上 Knowledge Grid 中的信息所致; 這個博客 很有趣,從 2010 年 3 月 8 日到 5 月 8 日之間的文章全是? Infobright ?相關的,寫的還是挺詳細的; Brighthouse: An Analytic DataWarehouse for Ad-hoc Queries ?是一篇相關的 08 年 VLDB paper;此外官網上的白皮書不能直接下載,但在搜索引擎中能搜到一些。

?

轉自: http://blog.solrex.org/articles/infobright-data-warehouse.html

INFOBRIGHT 數據倉庫


更多文章、技術交流、商務合作、聯系博主

微信掃碼或搜索:z360901061

微信掃一掃加我為好友

QQ號聯系: 360901061

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描下面二維碼支持博主2元、5元、10元、20元等您想捐的金額吧,狠狠點擊下面給點支持吧,站長非常感激您!手機微信長按不能支付解決辦法:請將微信支付二維碼保存到相冊,切換到微信,然后點擊微信右上角掃一掃功能,選擇支付二維碼完成支付。

【本文對您有幫助就好】

您的支持是博主寫作最大的動力,如果您喜歡我的文章,感覺我的文章對您有幫助,請用微信掃描上面二維碼支持博主2元、5元、10元、自定義金額等您想捐的金額吧,站長會非常 感謝您的哦!!!

發表我的評論
最新評論 總共0條評論
主站蜘蛛池模板: 9999人体做爰大胆 | 精品视频一区在线观看 | 国产野花视频天堂视频免费 | 久草免费看 | 99这里有精品视频 | 在线观看精品国语偷拍 | julia中文在线 | 伊人久久影视 | 免费一级片在线 | 国产精品久久天天影视 | 久久久国产乱子伦精品 | 久久狠狠第一麻豆婷婷天天 | 在线aa | 毛片基地免费视频a | 久久久久久天天夜夜天天 | 性做久久久久久坡多野结衣 | 国产精品视频第一区二区 | 国产在线自在拍91精品黑人 | 曰本毛片 | 午夜伦4480yy妇女久久久 | 国产福利91精品一区二区三区 | 日韩中文字幕视频 | 日韩伦理亚洲欧美在线一区 | 激情综合五月亚洲婷婷 | 老司机午夜影院 | 日日摸夜夜添夜夜添影院视频 | 欧美理论在线 | 午夜国产福利在线观看 | 91精品国产爱久久久久久 | 手机看片福利盒子久久 | 国内女高中生一级毛片 | 欧美日韩麻豆 | 99久久精品国产综合一区 | 国产成人精品午夜二三区 | 久草视频网 | 亚洲精品久久玖玖玖玖 | 精品国产调教最大网站女王 | 91久久精品视频 | 91成人影院未满十八勿入 | 在线亚洲精品国产波多野结衣 | 国产成年人网站 |