MySQL
MySQL資料同步主要有三種方式:
1.利用MySQL自身的資料庫同步功能
2.利用MySQL資料庫的特性(資料庫存在固頂目錄,並且以檔案形式儲存),進行資料庫目錄同步以達到資料同步目的
3.利用專用的MySQL資料庫同步軟體
1.利用MySQL自身的資料庫同步功能(下面參考自網上的文章,寫的非常詳細了)
MySQL從3.23.15版本以後提供資料庫複寫功能。利用該功能可以實現兩個資料庫同步,主從模式,互相備份模式的功能.
資料庫複製功能的設定都在mysql的設定檔案中體現。mysql的設定檔(一般是my.cnf),在unix環境下在/etc/mysql/my.cnf或者在mysql使用者的home目錄下的my.cnf。
windows環境中,如果c:根目錄下有my.cnf檔案則取該設定檔。當運行mysql的winmysqladmin.exe工具時候,該工具會把c:根目錄下的my.cnf命名為mycnf.bak。並在winnt目錄下建立my.ini。mysql伺服器啟動時候會讀該設定檔。所以可以把my.cnf中的內容拷貝到my.ini檔案中,用my.ini檔案作為mysql伺服器的設定檔。
設定方法:
設定範例環境:
作業系統:window2000professional
mysql:4.0.4-beta-max-nt-log
Aip:10.10.10.22
Bip:10.10.10.53
A:設定
1.增加一個使用者最為同步的使用者帳號:
GRANTFILEON*.*TObackup@'10.10.10.53'IDENTIFIEDBY‘1234’
2.增加一個資料庫作為同步資料庫:
createdatabasebackup
B:設定
1.增加一個使用者最為同步的使用者帳號:
GRANTFILEON*.*TObackup@'10.10.10.22'IDENTIFIEDBY‘1234’
2.增加一個資料庫作為同步資料庫:
createdatabasebackup
主從模式:A->B
A為master
修改Amysql的my.ini檔案。在mysqld配置項中加入下面配置:
server-id=1
log-bin
#設定需要記錄log可以設定log-bin=c:mysqlbakmysqllog設定記錄檔的目錄,
#其中mysqllog是記錄檔的名稱,mysql將建立不同副檔名,檔案名稱為mysqllog的幾個記錄檔。
binlog-do-db=backup#指定需要日誌的資料庫
重起資料庫服務。
用showmasterstatus命令看日誌情況。
B為slave
修改Bmysql的my.ini檔案。在mysqld配置項中加入下面配置:
server-id=2
master-host=10.10.10.22
master-user=backup#同步處理的使用者帳號
master-password=1234
master-port=3306
master-connect-retry=60預設稍候再試60秒
replicate-do-db=backup告訴slave只做backup資料庫的更新
重起資料庫
用showslavestatus看同步配置情況。
注意:由於設定了slave的配置資訊,mysql在資料庫目錄下產生master.info
所以如有要修改相關slave的配置要先刪除該檔案。否則修改的配置不能生效。
雙機互備模式。
如果在A加入slave設定,在B加入master設定,則可以做B->A的同步。
在A的設定檔中mysqld配置項加入以下設定:
master-host=10.10.10.53
master-user=backup
master-password=1234
replicate-do-db=backup
master-connect-retry=10
在B的設定檔中mysqld配置項加入以下設定:
log-bin=c:mysqllogmysqllog
binlog-do-db=backup
注意:當有錯誤產生時*.err記錄檔。同步的線程退出,當糾正錯誤後要讓同步機制進行工作,運行slavestart
重起AB機器,則可以實現雙向的熱備。
測試:
向B批量插入大資料量表AA(1872000)條
A資料庫每秒鐘可以更新2500條資料。
2.資料庫目錄同步,方法和檔案同步一樣,設定好需要同步的兩個資料庫目錄就可以了!
缺點很明顯,資料同步只能單向進行,可以作為備份方案
3.用專用的MySQL同步軟體進行同步
這方面的軟體有SQLBalance和MyReplicator,優點是方便直觀,還有很多爭強功能!
缺點和2一樣,只能單項同步!
當然你也可以修改鏡像網站的程式為提交資料到母資料庫,讀取則在當前鏡像下的資料,不過,修改起來麻煩!普通使用者修改也非常難!呵呵,大家瞭解一下就可以!給大家一個思路!有能力的朋友可以試試阿!
4.關於MySQL論壇的資料同步
由於資料來源的不可控制(不好表達),論壇資料是即時的,而且還要考慮來自鏡像論壇的資料,如何?鏡像論壇與母論壇資料同步呢?
用1中介紹的MySQL內建的資料庫同步功能互相備份模式就可以實現的!
不過,具體的應用我沒有測試!穩定性不敢保證!
有能力的朋友推薦用下面這種思路來同步,相對來說減少點效率,但能減少發生的錯誤!
比如鏡像論壇資料同步:
1.母論壇和鏡像論壇的資料全寫在母論壇資料庫裡,主從模式,讀取只在本地讀取,這個需要修改程式!
2.每次寫資料,都同時提交到兩個資料庫中,安全,但是效率很差,也得修改程式!
MSSQL
MSSQL資料同步利用資料庫複寫技術實現資料同步更新(來自網路,也是非常完美的教程)
複製的概念
複製是將一組資料從一個資料來源拷貝到多個資料來源的技術,是將一份資料發布到多個儲存網站上的有效方式。使用複製技術,使用者可以將一份資料發布到多台伺服器上,從而使不同的伺服器使用者都可以在許可權的許可的範圍內共用這份資料。複製技術可以確保分布在不同地點的資料自動同步更新,從而保證資料的一致性。
SQL複製的基本元素包括
出版伺服器、訂閱伺服器、散發者、出版物、文章
SQL複製的工作原理
SQLSERVER主要採用出版物、訂閱的方式來處理複製。來源資料所在的伺服器是出版伺服器,負責發表資料。出版伺服器把要發表的資料的所有改變情況的拷貝複製到散發者,散發者包含有一個散發資料庫,可接收資料的所有改變,並儲存這些改變,再把這些改變分發給訂閱伺服器
SQLSERVER複製技術類型
SQLSERVER提供了三種複製技術,分別是:
1、快照式複寫(呆會我們就使用這個)
2、事務複製
3、合併式複寫
只要把上面這些概念弄清楚了那麼對複製也就有了一定的理解。接下來我們就一步一步來實現複製的步驟。
第一先來配置出版伺服器
(1)選中指定[伺服器]節點
(2)從[工具]下拉式功能表的[複製]子功能表中選擇[發布、訂閱伺服器和分發]命令
(3)系統彈出一個對話方塊點[下一步]然後看著提示一直操作到完成。
(4)當完成了出版伺服器的設定以後系統會為該伺服器的樹形結構中添加一個複製監視器。同時也產生一個散發資料庫(distribution)
第二建立出版物
(1)選中指定的伺服器
(2)從[工具]菜單的[複製]子功能表中選擇[建立和管理髮布]命令。此時系統會彈出一個對話方塊
(3)選擇要建立出版物的資料庫,然後單擊[建立發布]
(4)在[建立發布嚮導]的提示對話方塊中單擊[下一步]系統就會彈出一個對話方塊。對話方塊上的內容是複製的三個類型。我們現在選第一個也就是預設的快照發布(其他兩個大家可以去看看協助)
(5)單擊[下一步]系統要求指定可以訂閱該發布的資料庫伺服器類型,SQLSERVER允許在不同的資料庫如ORACLE或ACCESS之間進行資料複製。但是在這裡我們選擇運行"SQLSERVER2000"的資料庫伺服器
(6)單擊[下一步]系統就彈出一個定義文章的對話方塊也就是選擇要出版的表
(7)然後[下一步]直到操作完成。當完成出版物的建立後建立出版物的資料庫也就變成了一個共用資料庫。
第三設計訂閱
(1)選中指定的訂閱伺服器
(2)從[工具]下拉式功能表中選擇[複製]子功能表的[提取訂閱]
(3)按照單擊[下一步]操作直到系統會提示檢查SQLSERVER代理服務的運行狀態,執行複製操作的前提條件是SQLSERVER代理服務必須已經啟動。
(4)單擊[完成]。完成訂閱操作。
完成上面的步驟其實複製也就是成功了。但是如何來知道複製是否成功了呢?這裡可以通過這種方法來快速看是否成功。展開出版伺服器下面的複製——發布內容——右鍵發布內容——屬性——擊活——狀態然後點立即運行代理程式接著點代理程式屬性擊活調度把調度設定為每一天發生,每一分鐘,在0:00:00和23:59:59之間。接下來就是判斷複製是否成功了開啟C:/ProgramFiles/MicrosoftSQLServer/MSSQL/REPLDATA/unc/XIAOWANGZI_database_database下面看是不是有一些以時間做為檔案名稱的檔案夾差不多一分中就產生一個。要是你還不信的話就開啟你的資料庫看在訂閱的伺服器的指定訂閱資料庫下看是不是看到了你剛才所發布的表—
一個手工同步的方案
--定時同步伺服器上的資料
--例子:
--測試環境,SQLServer2000,遠程伺服器名:xz,使用者名稱為:sa,無密碼,測試資料庫:test
--伺服器上的表(查詢分析器串連到伺服器上建立)
createtable[user](idintprimarykey,numbervarchar(4),namevarchar(10))
go
--以下在區域網路(本機操作)
--原生表,state說明:null表示新增記錄,1表示修改過的記錄,0表示無變化的記錄
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[user]')andOBJECTPROPERTY(id,N'IsUserTable')=1)
droptable[user]
GO
createtable[user](idintidentity(1,1),numbervarchar(4),namevarchar(10),statebit)
go
--建立觸發器,維護state欄位的值
createtriggert_stateon[user]
afterupdate
as
update[user]setstate=1
from[user]ajoininsertedbona.id=b.id
wherea.stateisnotnull
go
--為了方便同步處理,建立連結的伺服器到要同步的伺服器
--這裡的遠程伺服器名為:xz,使用者名稱為:sa,無密碼
ifexists(select1frommaster..sysserverswheresrvname='srv_lnk')
execsp_dropserver'srv_lnk','droplogins'
go
execsp_addlinkedserver'srv_lnk','','SQLOLEDB','xz'
execsp_addlinkedsrvlogin'srv_lnk','false',null,'sa'
go
--建立同步處理的預存程序
ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[dbo].[p_synchro]')andOBJECTPROPERTY(id,N'IsProcedure')=1)
dropprocedure[dbo].[p_synchro]
GO
createprocp_synchro
as
--setXACT_ABORTon
--啟動遠程伺服器的MSDTC服務
--execmaster..xp_cmdshell'isql/S"xz"/U"sa"/P""/q"execmaster..xp_cmdshell''netstartmsdtc'',no_output"',no_output
--啟動原生MSDTC服務
--execmaster..xp_cmdshell'netstartmsdtc',no_output
--進行分布交易處理,如果表用識別欄位做主鍵,用下面的方法
--BEGINDISTRIBUTEDTRANSACTION
--同步刪除的資料
deletefromsrv_lnk.test.dbo.[user]
whereidnotin(selectidfrom[user])
--同步新增的資料
insertintosrv_lnk.test.dbo.[user]
selectid,number,namefrom[user]wherestateisnull
--同步修改的資料
updatesrv_lnk.test.dbo.[user]set
number=b.number,name=b.name
fromsrv_lnk.test.dbo.[user]a
join[user]bona.id=b.id
whereb.state=1
--同步後更新原生標誌
update[user]setstate=0whereisnull(state,1)=1
--COMMITTRAN
go
--建立作業,定時執行資料同步的預存程序
ifexists(SELECT1frommsdb..sysjobswherename='資料處理')
EXECUTEmsdb.dbo.sp_delete_job@job_name='資料處理'
execmsdb..sp_add_job@job_name='資料處理'
--建立作業步驟
declare@sqlvarchar(800),@dbnamevarchar(250)
select@sql='execp_synchro'--資料處理的命令
,@dbname=db_name()--執行資料處理的資料庫名
execmsdb..sp_add_jobstep@job_name='資料處理',
@step_name='資料同步',
@subsystem='TSQL',
@database_name=@dbname,
@command=@sql,
@retry_attempts=5,--重試次數
@retry_interval=5--稍候再試
--建立調度
EXECmsdb..sp_add_jobschedule@job_name='資料處理',
@name='時間安排',
@freq_type=4,--每天
@freq_interval=1,--每天執行一次
@active_start_time=00000--0點執行
go