PostgreSQL叢集 http://icyriver.net/?p=176

 

 

PL/Proxy
和PostgreSQL
叢集的結構關係可以用清楚地表示，對PL/Proxy和PostgreSQL叢集還不太瞭解的朋友可以看Skype Plans for PostgreSQL to Scale to 1 Billion Users
這篇文章。

以下操作是在三台不同機器上執行的情況，其中plproxy節點的機器名是P1，資料庫節點的機器名分別是D1和D2。機器硬體設定如下，同時需要Linux-4.2、postgresql-8.3.0和plproxy-2.0.4，pgbouncer的安裝過程略去。

plproxy節點:
hostname: P1
inet addr:10.0.0.1
OS: Linux 2.6.9-42.ELsmp
CPU:Intel(R) Xeon(R) CPU L5320 @ 1.86GHz
MemTotal: 514440 kB

node1節點:
hostname:D1
inet addr:10.0.0.2
OS: Linux 2.6.9-42.ELsmp
CPU:Intel(R) Xeon(R) CPU L5320 @ 1.86GHz
MemTotal: 254772 kB

node2節點:
hostname:D2
inet addr:10.0.0.3
OS: Linux 2.6.9-42.ELsmp
CPU:Intel(R) Xeon(R) CPU L5320 @ 1.86GHz
MemTotal: 254772 kB

1. 在P1, D1,D2上安裝postgresql-8.3.0，並建立URTCluster資料庫

## Compile and install
gunzip postgresql-8.3.0.tar.gz
tar xf postgresql-8.3.0.tar
cd postgresql-8.3.0
./configure –prefix=/home/y/pgsql –with-perl
gmake
gmake check
sudo gmake install

## Add Unix User
sudo adduser postgres
sudo mkdir /home/y/pgsql/data
sudo chown postgres /home/y/pgsql/data

## Init DB and Start service
sudo -u postgres /home/y/pgsql/bin/initdb -D /home/y/pgsql/data
sudo -u postgres /home/y/pgsql/bin/postgres -D /home/y/pgsql/data >logfile 2>&1 &

## Create DB and Use Local Connection
sudo -u postgres /home/y/pgsql/bin/createdb URTCluster

##檢查資料庫是否已經建立
sudo -u postgres /home/y/pgsql/bin/psql -d URTCluster

#D1,D2必須允許P1訪問
#編輯postgresql.conf,開啟tcp串連連接埠
sudo vim /home/y/pgsql/data/postgresql.conf
listen_addresses = ‘*’
port = 5432

#添加postgres使用者的認證
sudo vim /home/y/pgsql/data/pg_hba.conf
host URTCluster postgres 10.0.0.0/16 trust

# 重起伺服器
sudo -u postgres /home/y/pgsql/bin/pg_ctl -D /home/y/pgsql/data stop
sudo -u postgres /home/y/pgsql/bin/postgres -D /home/y/pgsql/data >logfile 2>&1 &
sudo -u postgres /home/y/pgsql/bin/pg_ctl -D /home/y/pgsql/data reload

2. 在P1上安裝plproxy-2.0.4

#檢查$PATH變數裡是否有/home/y/pgsql/bin目錄，如果沒有，修改你的.bash_profile檔案，添加/home/y/pgsql/bin到path裡。
echo $PATH

gunzip plproxy-2.0.4.tar.gz
tar xf plproxy-2.0.4.tar
cd plproxy-2.0.4
gmake
sudo gmake install

#建立plproxy
sudo -u postgres /home/y/pgsql/bin/psql -f
/home/y/pgsql/share/contrib/plproxy.sql URTCluster

3. 在P1, D1,D2上安裝plpgsql

sudo -u postgres /home/y/pgsql/bin/createlang plpgsql URTCluster

4. 在P1上建立schema

sudo -u postgres /home/y/pgsql/bin/psql -d URTCluster
URTCluster=# create schema plproxy;

5. 在P1上初始化設定

#plproxy的配置是通過三個函數（過程）實現的，這三個函數的標準模版如下：

#這個函數是讓plproxy可以找到對應的叢集
CREATE OR REPLACE FUNCTION plproxy.get_cluster_partitions(cluster_name text)
RETURNS SETOF text AS $$
BEGIN
IF cluster_name =’URTCluster’ THEN
RETURN NEXT ‘dbname=URTCluster host=10.0.0.2′;
RETURN NEXT ‘dbname=URTCluster host=10.0.0.3′;
RETURN;
END IF;
RAISE EXCEPTION ‘Unknown cluster’;
END;
$$ LANGUAGE plpgsql;

#這個函數是plproxy用於判斷是否給前端返回已經cache過的結果用的
CREATE OR REPLACE FUNCTION plproxy.get_cluster_version(cluster_name text)
RETURNS int4 AS $$
BEGIN
IF cluster_name = ‘URTCluster’ THEN
RETURN 1;
END IF;
RAISE EXCEPTION ‘Unknown cluster’;
END;
$$ LANGUAGE plpgsql;

#這個函數是擷取不同的叢集的配置
create or replace function plproxy.get_cluster_config(cluster_name text, out key text, out val text)
returns setof record as $$
begin
key := ’statement_timeout’;
val := 60;
return next;
return;
end;
$$ language plpgsql;

#把這三個函數放在一個URTClusterInit.sql檔案裡，並執行
sudo -u postgres /home/y/pgsql/bin/psql -f URTClusterInit.sql -d URTCluster -h 10.0.0.1

6. 在D1，D2節點上設定

#給每個資料庫節點都建立一張表users
CREATE TABLE users (
username text,
email text
);

#給每個資料庫節點都建立一個插入函數
CREATE OR REPLACE FUNCTION insert_user(i_username text, i_emailaddress text)
RETURNS integer AS $$
INSERT INTO users (username, email) VALUES ($1,$2);
SELECT 1;
$$ LANGUAGE SQL;

#把函數儲存在 URTClusterNodesInit_1.sql檔案裡，並執行
sudo -u postgres /home/y/pgsql/bin/psql -f URTClusterNodesInit_1.sql -h 10.0.0.2 -d URTCluster
sudo -u postgres /home/y/pgsql/bin/psql -f URTClusterNodesInit_1.sql -h 10.0.0.3 -d URTCluster

7. 在P1節點上設定

#在 plproxy 節點上建立一個同名的插入函數，用於進行叢集檢索
CREATE OR REPLACE FUNCTION insert_user(i_username text, i_emailaddress text)
RETURNS integer AS $$
CLUSTER ‘URTCluster’;
RUN ON hashtext(i_username);
$$ LANGUAGE plproxy;

#在 plproxy 節點上建立一個查詢函數，用於進行叢集檢索
CREATE OR REPLACE FUNCTION get_user_email(i_username text)
RETURNS text AS $$
CLUSTER ‘URTCluster’;
RUN ON hashtext(i_username) ;
SELECT email FROM users WHERE username = i_username;
$$ LANGUAGE plproxy;

#把函數儲存在 URTClusterProxyExec.sql檔案裡，並執行
sudo -u postgres /home/y/pgsql/bin/psql -f URTClusterProxyExec_1.sql -h 10.0.0.1 -d URTCluster

8. 在P1上測試結果

sudo -u postgres /home/y/pgsql/bin/psql -d URTCluster

SELECT insert_user(’Sven’,’sven@somewhere.com’);
#被儲存到D2， 可以用select hashtext(’Sven’) & 1驗證，被hash到 partition 1

SELECT insert_user(’Marko’, ‘marko@somewhere.com’);
#被儲存到D2， 可以用select hashtext(’Marko’) & 1驗證，被hash到 partition 1

SELECT insert_user(’Steve’,’steve@somewhere.cm’);
#被儲存到D1， 可以用select hashtext(’Steve’) & 1驗證，，被hash到 partition 0

SELECT get_user_email(’Sven’);
SELECT get_user_email(’Marko’);
SELECT get_user_email(’Steve’);

icyriver
, internet
, postgresql
, programming
, technique

 

«
PostgreSQL 資料庫叢集和PL/Proxy配置安裝指南四川汶川地震
»PostgreSQL和Slony-I的安裝和配置

Published by wesley.he

May 12th, 2008

in icyriver
and technique
.

瀏覽次數: 13775

Tags: icyriver
, internet
, postgresql
, programming
, technique
.

隨著Mysql
被Sun
收購，不少web開發人員和架構師開始關注PostgreSQL。的確，PostgreSQL
和Slony-I
、PL/Proxy
、Pgbouncer
已經可以為我們提供一套比較完整的企業級資料庫儲存解決方案，其web架構如所示：

其中，PostgreSQL
和PL/Proxy
的安裝和配置已經在上一篇Blog介紹過，下面是Slony-I
的安裝配置簡明指南，實現主副資料庫的同步。後面我會再介紹Pgbouncer
的安裝和配置

1. 主副資料庫機器

Master:
hostname: M_DB
inet addr:10.0.0.11
OS: Linux 2.6.9-42.ELsmp
CPU:Intel(R) Xeon(R) CPU L5320 @ 1.86GHz
MemTotal: 254772 kB
PgSQL: postgresql-8.3.0

Slave:
hostname:S_DB
inet addr:10.0.0.12
OS: Linux 2.6.9-42.ELsmp
CPU:Intel(R) Xeon(R) CPU L5320 @ 1.86GHz
MemTotal: 514440 kB
PgSQL: postgresql-8.3.0

#在M_DB和S_DB上安裝postgresql-8.3.0, 安裝和配置過程參見我的上一篇Blog
，確保超級使用者是postgres，資料庫名是URT。

#檢查M_DB和S_DB上的超級使用者postgres是否可以訪問對方的機器

#分別在M_DB和S_DB上執行
sudo -u postgres /home/y/pgsql/bin/createlang plpgsql URT

#分別在M_DB和S_DB上的URT資料庫裡建立相同的表accounts。

2. 安裝Slony-I

#分別在M_DB和S_DB上安裝Slony-I
tar xfj slony1-1.2.13.tar.bz2
cd slony1-1.2.13
./configure –with-pgconfigdir=/home/y/pgsql/bin
gmake all
sudo gmake install

3. Slony Config

建立urt_replica_init.sh檔案:
##############################
#!/bin/sh

SLONIK=/home/y/pgsql/bin/slonik
#slonik可執行檔位置

CLUSTER=URT
#你的叢集的名稱

SET_ID=1
#你的複製集的名稱

MASTER=1
#主伺服器ID

HOST1=M_DB
#源庫IP或主機名稱

DBNAME1=URT
#需要複製的來源資料庫

SLONY_USER=postgres
#源庫資料庫超級使用者名稱

SLAVE=2
#從伺服器ID

HOST2=S_DB
#目的庫IP或主機名稱

DBNAME2=URT
#需要複製的目的資料庫

PGBENCH_USER=postgres
#目的庫使用者名稱

$SLONIK <<_EOF_

#這句是定義叢集名
cluster name = $CLUSTER;

#這兩句是定義複製節點
node $MASTER admin conninfo = ‘dbname=$DBNAME1 host=$HOST1 user=$SLONY_USER ‘;
node $SLAVE admin conninfo = ‘dbname=$DBNAME2 host=$HOST2 user=$PGBENCH_USER ‘;

#初始化叢集和主節點，id從1開始，如果只有一個叢集，那麼肯定是1
#comment裡可以寫一些自己的注釋，隨意
init cluster ( id = $MASTER, comment = ‘Primary Node’ );

#下面是從節點
store node ( id = $SLAVE, comment = ‘Slave Node’ );

#配置主從兩個節點的串連資訊，就是告訴Slave伺服器如何來訪問Master伺服器
#下面是主節點的串連參數
store path ( server = $MASTER, client = $SLAVE,
conninfo = ‘dbname=$DBNAME1 host=$HOST1 user=$SLONY_USER ‘);

#下面是從節點的串連參數
store path ( server = $SLAVE, client = $MASTER,
conninfo = ‘dbname=$DBNAME2 host=$HOST2 user=$PGBENCH_USER ‘);

#設定複製中角色，主節點是原始提供者，從節點是接受者
store listen ( origin = $MASTER, provider = 1, receiver = 2 );
store listen ( origin = $SLAVE, provider = 2, receiver = 1 );

#建立一個複製集，id也是從1開始
create set ( id = $SET_ID, origin = $MASTER, comment = ‘All pgbench tables’ );

#向自己的複製集種添加表，每個需要複製的表添加一條set命令，id從1開始，逐次遞加，步進為1；
#fully qualified name是表的全稱：模式名.表名
#這裡的複製集id需要和前面建立的複製集id一致
set add table ( set id = $SET_ID, origin = $MASTER,
id = 1, fully qualified name = ‘public.accounts’,
comment = ‘Table accounts’ );

_EOF_
########################

#在M_DB或者S_DB上執行
./urt_replica_init.sh

4. Slony Start

建立Master.slon檔案:
########################
cluster_name=”URT”
conn_info=”dbname=URT host=M_DB user=postgres”
########################

建立Slave.slon檔案:
########################
cluster_name=”URT”
conn_info=”dbname=URT host=S_DB user=postgres”
########################

#在M_DB上執行
/home/y/pgsql/bin/slon -f master.slon >> master.log &

#在S_DB上執行
/home/y/pgsql/bin/slon -f slave.slon >> slave.log &

5. Slony Subscribe

建立urt_replica_subscribe.sh檔案:
########################
#!/bin/sh

SLONIK=/home/y/pgsql/bin/slonik
#slonik可執行檔位置

CLUSTER=URT
#你的叢集的名稱

SET_ID=1
#你的複製集的名稱

MASTER=1
#主伺服器ID

HOST1=M_DB
#源庫IP或主機名稱

DBNAME1=URT
#需要複製的來源資料庫

SLONY_USER=postgres
#源庫資料庫超級使用者名稱

SLAVE=2
#從伺服器ID

HOST2=S_DB
#目的庫IP或主機名稱

DBNAME2=URT
#需要複製的目的資料庫

PGBENCH_USER=postgres
#目的庫使用者名稱

$SLONIK <<_EOF_

#這句是定義叢集名
cluster name = $CLUSTER;

#這兩句是定義複製節點
node $MASTER admin conninfo = ‘dbname=$DBNAME1 host=$HOST1 user=$SLONY_USER’;
node $SLAVE admin conninfo = ‘dbname=$DBNAME2 host=$HOST2 user=$PGBENCH_USER ‘;

#提交複製集
subscribe set ( id = $SET_ID, provider = $MASTER, receiver = $SLAVE, forward = no);
_EOF_
########################

#在M_DB或者S_DB上執行
./urt_replica_subscribe.sh

6. 測試
修改M_DB上URT資料裡的accounts表，S_DB上的accounts表也會隨之改變

是Slony-I內部架構，可以看到Slony-I用到了很多線程來實現事件和資料的傳遞和分發。

icyriver
, internet
, postgresql
, programming
, technique