zookeeper，kafka，jstorm，memcached，mysql流式資料處理平台部署

標籤：zookeeper   kafka   jstorm   mysql   memcached   

一．平台環境介紹:

1．系統資訊：

項目	資訊
系統版本:	Ubuntu14.04.2 LTS \n \l
使用者：	*****
密碼：	******
Java環境：	openjdk-7-jre
語言：	en_US.UTF-8，en_US:en
磁碟：	每台vda為系統硬碟(50G),vdb為資料盤(200G)掛載於/storage目錄 hcloud15最為DB，第二塊磁碟為2000G
主機範圍：	192.168.21.7~192.168.21.15,192.168.21.17,192.168.21.18（11台）
主機名稱：	以IP地址為準，依次為hcloud07~hcloud18

2．服務元件分布：

服務名稱	分布主機
Zookeeper	hcloud12,hcloud13,hcloud14
Kafka	hcloud07,hcloud08
Jstorm	hcloud09,hcloud10,hcloud11
Memcached	hcloud13,hcloud14
Mysql	hcloud15
Web-UI	hcloud17

二．平台環境配置:

三．Zookeeper配置:

1.安裝主程式及需要的組件：

apt-get install  -y libzookeeper-java libzookeeper-mt2 zookeeper zookeeperd

2.修改設定檔：

   2.1．zookeeper主設定檔

vim /etc/zookeeper/conf/zoo.cfg##修改資料目錄dataDir=/storage/lib/zookeeper##所有zookeeper主機server.1=hcloud12:2888:3888server.2=hcloud13:2888:3888server.3=hcloud14:2888:3888##

   2.2 做啟動前準備

mkdir -p/storage/lib/zookeepercd /storage/lib/zookeeperln -s/etc/zookeeper/conf/myid    myidvim myid ##填入zookeeper主機的編號，第一台是若是1,依次往後類推1##

3.測試啟動及定義自動啟動：

   3.1測試啟動

invoke-rc.d zookeeper start#正常情況下會啟動成功，若失敗請根據失敗資訊尋找原因，或查看日誌tail -f/var/log/zookeeper/zookeeper.lo

   3.2隨機自動啟動

update-rc.dzookeeper defaults

四．Jstorm配置:

1. 下載解壓主程式包

cd /srvwget http://42.121.19.155/jstorm/jstorm-2.0.4-SNAPSHOT.tar.gztar zxfjstorm-2.0.4-SNAPSHOT.tar.gz

2.修改設定檔

vim  conf/storm.yaml##注意縮排，加入zookeeper主機的IP地址，和jstorm監聽的連接埠 storm.zookeeper.servers:     - "192.168.21.12"     - "192.168.21.13"     - "192.168.21.14" supervisor.slots.ports:    - 6800    - 6801    - 6802    - 6803    - 6804    - 6805    - 6806- 6807##Nimbus和Supervisor節點設定檔相同

3.測試啟動及定義自動啟動：

3.1測試啟動

3.1.1在nimbus節點上執行：

nohup jstorm nimbus &  查看$JSTORM_HOME/logs/nimbus.log檢查有無錯誤

3.1.2在supervisor節點上執行

nohup jstorm supervisor &查看$JSTORM_HOME/logs/supervisor.log檢查有無錯誤

3.2隨機自動啟動

3.2.1Nimbus節點

vim /srv/jstorm/StartNimbus.sh ##加入環境變數，和啟動命令 exportJSTORM_HOME=/srv/jstorm export PATH=$PATH:$JSTORM_HOME/bin  nohup $JSTORM_HOME/bin/jstorm nimbus >$JSTORM_HOME/StartNimbus.log &## chmod  +x /srv/jstorm/StartNimbus.sh vim/etc/rc.local##添加以下一行，開機就會自動執行StartNimbus.sh指令碼啟動jstorm /srv/jstorm/StartNimbus.sh##

3.2.2Supervisor節點

vim /srv/jstorm/StartSupervisor.sh  ##加入環境變數，和啟動命令 export JSTORM_HOME=/srv/jstorm  exportPATH=$PATH:$JSTORM_HOME/bin  nohup$JSTORM_HOME/bin/jstorm supervisor > $JSTORM_HOME/StartSupervisor.log &  chmod  +x /srv/jstorm/StartSupervisor.sh  vim/etc/rc.local##添加一下一行  /srv/jstorm/StartSupervisor.sh##

五．Kafka配置:

1.下載解壓主程式包

cd  /srvwget http://www.eu.apache.org/dist//kafka/0.8.2.1/kafka_2.9.2-0.8.2.1.tgztar zxf  kafka_2.9.2-0.8.2.1.tgz

2.修改設定檔

cdkafka_2.9.2-0.8.2.1/vim config/server.properties##broker.id=1    #第二個節點依次類推log.retention.hours=48zookeeper.connect=192.168.21.12:2181,192.168.21.13:2181,192.168.21.14:2181##填入zookeeper的主機的IP

3.測試啟動及自動啟動

vim/srv/kafka_2.9.2-0.8.2.1/StartKafka.sh##原理同Jstorm一樣exportKAFKA_HOME=/srv/kafka_2.9.2-0.8.2.1nohup$KAFKA_HOME/bin/kafka-server-start.sh $KAFKA_HOME/config/server.properties \>$KAFKA_HOME/StartKafka.log &##chmod  +x /etc/init.d/StartKafka.shvim /etc/rc.loca##添加一行/srv/kafka_2.9.2-0.8.2.1/StartKafka.sh##

六．Memcached配置:

1.安裝主程式

vim /etc/memcached.conf##將以下行注釋# -l 127.0.0.1##

2.啟動以及自動啟動

啟動：invoke-rc.d  memcached start隨機自動啟動：update-rc.d  memcacheddefaults

七．Mysql配置：

1.安裝主程式

apt-get instlal mysql-server-5.5##安裝過程需要輸入mysql密碼

2.修改設定檔

2.1.修改資料庫的data路徑(mysql的預設data路徑在/var/lib/mysql目錄下)

invoke-rc.d mysql  stopmkdir -p /storage/lib/mysqlchown -Rmysql:mysql  /storage/libcp -pR  /var/lib/mysql  /storage/lib/vim /etc/apparmor.d/usr.sbin.mysqld##做如下修改，注意末尾逗號#  /var/lib/mysql/ r,#  /var/lib/mysql/** rwk,/storage/lib/mysql/r,/storage/lib/mysql/** rwk,##

2.2.修改主配檔案

vim /etc/my     sql/my.cnf##做如下修改：#datadir                = /var/lib/mysqldatadir         =/storage/lib/mysql##

3.啟動和自啟動

3.1.啟動

/etc/init.d/apparmor restartinvoke-rc.d mysql  start

3.2自啟動

update-rc.d mysql defaults

八．Jstorm，Zookeeper的Web-UI配置：

1.Jstorm-Web-UI

安裝tomcat部署Web-UI程式

apt-get  install tomcat7 –ycd/usr/share/tomcat7/mkdir  -p  .jstorm##複製jstorm主機的設定檔到/usr/share/tomcat7/.jstorm/目錄下cp-f $JSTORM_HOME/conf/storm.yaml ~/.jstorm/cd /srvwget http://42.121.19.155/jstorm/jstorm-2.0.4-SNAPSHOT.tar.gztar zxfjstorm-2.0.4-SNAPSHOT.tar.gzcd/var/lib/tomcat7/webappscp /srv/jstorm/jstorm-ui-0.9.6.2.war  ./mv ROOT ROOT.oldln -sjstorm-ui-2.0.4-SNAPSHOT ROOT

2.Zookeeper-Web-UI

2.1. 下載

3.jstorm 與Apache 整合

3.1Apache載入ajp模組

Apache2.2 以上可以使用ajp方式，簡單方便；

執行以下命令查看Apache已經載入的模組：

apachectl -t -D DUMP_MODULES

執行以下命令載入proxy_ajp 模組：

a2enmod  proxy_ajp

可以使用查看命令查看已開啟的模組：

apachectl -t -D DUMP_MODULES

650) this.width=650;" src="http://s4.51cto.com/wyfs02/M01/75/B3/wKioL1ZAi7_xiTwKAAAgyH70Nas173.png" title="9.png" alt="wKioL1ZAi7_xiTwKAAAgyH70Nas173.png" />

3.2配置Apache 虛擬目錄：

vim /etc/apache2/sites-enabled/js.conf##<VirtualHost*:80>       ServerName localhost      DocumentRoot"/var/lib/tomcat7/webapps/"        ProxyRequests Off       ProxyPreserveHost On<Proxy*>            Order Deny,Allow            Deny from all            Allow from all</Proxy>        ProxyPass /jstorm  ajp://localhost:8009/       ProxyPassReverse /jstorm  ajp://localhost:8009/ </VirtualHost>##

3.3配置tomcat

vim /etc/tomcat7/server.xml#將下行注釋取消<Connectorport="8009" protocol="AJP/1.3" redirectPort="8443"/>

3.4參考連結

https://confluence.atlassian.com/jira/configuring-apache-reverse-proxy-using-the-ajp-protocol-183468775.html

http://chirag.bodar.in/configure-apache-httpd-24-with-tomcat-7x-on-ubuntu-1204-1304-and-1404

本文出自 “lijp” 部落格，請務必保留此出處http://jiapeng.blog.51cto.com/6706171/1711170

zookeeper，kafka，jstorm，memcached，mysql流式資料處理平台部署