spark叢集更換python安裝環境

標籤：spark叢集   BMI   生產環境   整合   環境變數   建立   獨立   需要   軟連結   

由於需要用到很多第三方的包，比如numpy，pandas等，而生產環境又無法上網單個包安裝太麻煩，因此考慮把之前安裝的python的獨立環境換成Anaconda的整合式開發環境。以下是具體步驟： 1安裝Anaconda3-5.0.1-Linux-x86_64.sh指令碼 2給/opt/modules/anaconda3/bin/python3.6建立軟連結

ln -s /opt/modules/anaconda3/bin/python /usr/bin/python3
3修改root環境變數
/root/.bashrc
/root/.bash_profile
修改hdfs使用者環境變數，因為叢集操作大多有hdfs使用者完成。
su - hdfs
~/.bashrc
export PATH="/usr/bin:$PATH"
4修改pyspark2命令
vi /usr/bin/pyspark2
修改spark2-submit命令
vi /usr/bin/spark2-submit
修改PYSPARK_PYTHON這個變數
幾個節點都要修改，之後spark更換到新的python，常用的包都有了。

spark叢集更換python安裝環境