Time of Update: 2016-07-12
標籤:上次實現了flume+kafka+hbase+ELK:http://www.cnblogs.com/super-d2/p/5486739.html這次我們可以加上storm: storm-0.9.5簡單配置如下:安裝依賴wget http://download.oracle.com/otn-pub/java/jdk/8u45-b14/jdk-8u45-linux-x64.tar.gztar zxvf jdk-8u45-linux-x64.tar.gzcd
Time of Update: 2016-07-10
標籤:半個月前看到部落格園有人說.NET不行那篇文章,我只想說你們有時間去抱怨不如多寫些實在的東西。 1、SQLSERVER優點和缺點? 優點:支援索引、事務、安全性以及容錯性高 缺點:資料量達到100萬以上就需要開始最佳化了,一般我們會對
Time of Update: 2016-11-30
標籤:第三方 運算式 分析師 excel 資料來源 OpenFEA是一站式大資料敏捷分析系統,融合了記憶體計算、叢集運算、機器學習、互動分析、可視化分析等技術,涵蓋資料收集、資料探索、構建模型、模型發布等功能,分析效能卓越,使用簡便,無需複雜編程即可快速實現大資料分析,助力資料分析師激揚資料,塑造業務標杆。
Time of Update: 2016-11-02
標籤:完整 關注 業務 sdn 技術 結構化 基礎上 nbsp 環境
Time of Update: 2016-10-25
標籤:訊息 zookeeper 隊列 映射 kafka 設定檔 變化 自動 領導 Chubby: 保持高可用性和可靠性,不追求讀寫的高輸送量,所有的讀寫請求都有主控伺服器完成,其他的備份伺服器
Time of Update: 2016-09-12
標籤:第一部分 安裝準備準備三台主機節點:hc11.spads 192.168.160.181hc12.spads 192.168.160.182hc13.spads 192.168.160.183 準備軟體包:elasticsearch-2.2.0.tar.gz註:將以上軟體包上傳至各主機節點/opt/softwareRes/目錄下。第二部分 安裝配置 elasticsearch-2.2.01、各主機節點分別解壓軟體包
Time of Update: 2016-09-08
標籤:大資料通用處理平台SparkFlinkHadoop分布式儲存HDFS資源調度YarnMesos機器學習工具MahoutSpark MlibTensorFlow (Google 系)Amazon Machine LearningDMTK (微軟分布式機器學習工具) 資料分析/資料倉儲(SQL類)PigHivekylinSpark SQL,Spark DataFrameImpalaPhoenixELK8.1
Time of Update: 2016-09-07
標籤:千歲大王連結:https://www.zhihu.com/question/27974418/answer/39845635來源:知乎著作權歸作者所有,轉載請聯絡作者獲得授權。Google內部早就開始玩大資料,發現時代跟不上他們的節奏,擔心技術後繼無人,於是發表了三篇論文(搜下gfs bigtable mapreduce)。有幾個工作不飽和,整天沒事乾的人,想搞個開源的網頁搜尋(lucene
Time of Update: 2016-08-14
標籤:1.1 HBase中的append函數 1.2 HBase中的API原子操作put函數註:原子操作,先使用checkeand函數進行檢查,先檢查,再操作。 1.3 HBase中的API原子操作delete函數 1.4 HBase中的API原子操作計數器函數 2 HBase過濾器
Time of Update: 2016-08-06
標籤:下面的 ES基於版本(V2.3.4)ES之預設1.預設自動發先同一區域網路的所有叢集節點2.預設一個索引庫會有5個分區,(分區越多,效率越好)由於這兩個預設,所以統一索引庫的分區對分布在不同機器上,API搜尋時會有這樣的問題ES的搜尋類型 1.為什麼會有這個東西? ,會出現這兩個問題: &
Time of Update: 2016-08-04
標籤:機器資料的來源 何為機器資料,就對其字面意思理解,機器產生的資料。那機器資料具體都是怎樣的?比如:日誌資料、監控攝像圖傳過來的資料、手機傳過來的資料、感應器傳過來的、掃碼.....幾乎遍布生活的點點滴滴。機器資料的傳統解決方案 對於這樣的資料,以前的IT營運監控、視頻監視軟體、動力環境系統都有實現過,主要對裝置的健康度閾值做臨界警示,而視頻中就是對攝像圖的傳過來的影像分
Time of Update: 2016-08-02
標籤:splunk 日誌分析 大資料 營運智能 Splunk企業級營運智能&巨量資料分析平台新手入門視頻課程上線http://edu.51cto.com/course/course_id-6696.html2016年8月2日到5日,移動端購買可享受9.5折。本文出自 “君子見機,達人知命”
Time of Update: 2016-07-31
標籤:大資料開發基礎上之圖說筆記1、Hadoop2概覽 1.1Hadoop2的組成、演化: 1.2Hadoop2.0——Hadoop1.0演化與改進:2、HDFS系統概覽 2.1HDFS系統的主要特性與適用情境: 2.2HDFS的體繫結構: 2.3HDFS的構成
Time of Update: 2016-07-21
標籤:對於現代企業以及公司的未來創新發展,企業內部全面實施資訊化戰略劃早已成為現在企業發展的一個重要環節,在資訊化戰略實施過程中,如何把企業內部管理和創新相結合,利用資訊化架構模式打通也是目前資訊化進程的一個重點問題所在。以下我們邀請到了遼寧興隆大家庭集團營運部負責人伊敬初來從業務的角度談談百貨行業在資訊化利用方面的創新。問1:在大資料,互連網橫流的時代,您選擇什麼樣的方式來突破創新?答:考慮到我們業務的需求,尤其是非常規的隨處工作需求,覺得是時候選擇可以整合到移動端的辦公軟體,而且能夠針對我們
Time of Update: 2016-07-13
標籤:解決方案 如何賺錢 技術人才 互連網 市場需求 據瞭解,互連網上每一秒鐘傳輸的視頻,需要花費一個人5年的時間才能看完。可以說,用“海量、爆炸性增長”來形容大資料,已經不是什麼新鮮事了。 650) this.width=650;" src="http://s3.51cto.com/wyfs02/M01/84/16/
Time of Update: 2016-07-05
標籤: 上講,講述了大概九種的技術種類以及他們的領域。那麼既然有吃飯的,那就必須有做飯的。因此大資料技術結構的選型,必須有的組成部分至少三種(來源、計算、儲存)最簡單的資料處理架構:最少單元的資料處理方案,當然這個不是最好的,為什麼呢,問題:1.串流資料(Streaming)時,資料量小時,資料存放區到HDFS中,20M或者100K,這種情況是有的。這種計算結果的儲存極大浪費了儲存空間。HDFS不適用於大批量小檔案的儲存,(只是不適用,
Time of Update: 2016-06-30
標籤:專業培訓 最新動向 就業市場 工程師 公開課 升職啦
Time of Update: 2016-06-30
標籤:轉行 時間都去哪了? ——記我將要到來的工作四周年 不知不覺間,工作馬上就要滿四周年了。從初出校門的楞小夥,變成了人夫,也即將成為人父,總是會感歎,“時間都去哪了?” 還記得剛工作那時,每天上班都很煎熬,領導分配的工作,很多東西都不會,需要請教項目組的其他同事,有時候,老是請教別人覺得很簡單的問題,也會讓自己覺得很臉紅。所以,自己就告訴自己,一定要自己好好努力,
Time of Update: 2016-06-23
標籤:工作這麼多年了,從零開始學習 大資料,現在把提綱儲存一下。一、Hadoop入門,瞭解什麼是Hadoop1、Hadoop產生背景2、Hadoop在大資料、雲端運算中的位置和關係3、國內外Hadoop應用案例介紹4、國內Hadoop的就業情況分析及課程大綱介紹5、分布式系統概述6、Hadoop生態圈以及各組成部分的簡介7、Hadoop核心MapReduce例子說明二、Distributed File SystemHDFS,是資料庫管理員的基礎課程1、Distributed
Time of Update: 2016-06-23
標籤:大資料 hadoop 2.7.2 單機版 local (standalone) mode 安裝 對APACHE的開源項目做了一個簡單的分析之後,下一步就是去一窺hadoop的真容了。直接存取HADOOP官網地址,這裡就是學習hadoop的官方渠道了,以下內容摘自官網: What Is Apache