lnmp環境,其他頁面內容都做了緩衝了,沒有多大的負載,就是這個瀏覽量統計功能,給mysql帶來不小的壓力,請問諸位有什麼解決辦法嗎?
回複內容:
lnmp環境,其他頁面內容都做了緩衝了,沒有多大的負載,就是這個瀏覽量統計功能,給mysql帶來不小的壓力,請問諸位有什麼解決辦法嗎?
怎麼都說不要用MySQL來做,每秒200並發對MySQL來說不算啥難事啊。而且換成Redis、Memcached,持久化姑且不說,業務代碼和營運部署量都不小。
我給你幾個建議,盡量讓你的營運部署和業務代碼改動小一些。
你可以做主從分離,不要在一個庫上高並發插入同時還做大量統計運算。分離之後,查詢在從庫是做(甚至是匯入Hive之類專門的分布式系統來做),主庫上可以去掉索引,提升插入的效能。這個方法,業務代碼幾乎不用任何改動(改個資料庫設定檔就好了)。MySQL營運部署也可以選個業務低穀線上做。
如果你可以接受少量業務代碼(PHP)改動,還有兩個建議:
1. 分庫,分表,每個表的資料總量小了,操作起來效能會好一些,特別是對從庫的MyISAM表。你插入之前可能會有一些查詢,例如查詢這個IP在不在庫裡,以前統計過沒。
2. 使用HandlerSocket外掛程式,繞過SQL Parser,直接操作隱藏檔。如果業務上有可能,還可以使用bulk insert(批量插入)。MySQL InnoDB還推出了類似HandlerSocket的InnoDB NoSQL Plugin,用的memcached協議,共用InnoDB Buffer,再也不用操心MySQL和Memcached之前怎麼維護資料一致性了。
這種事情不要用MySQL做。弄個redis或者memcachedb就好了。
直接log在檔案裡不就可以了。。。何必一定mysql。。。
先存放在memcached裡面 然後 比如到100次再寫入資料庫,每天來次統計,把沒有滿足100的資料一起統計到mysql裡面
可以搞個隊列慢慢插啊
定時數一下log,做個標記,然後再寫進MySQL
方案一:直接寫檔案,每天跑一次指令碼統計總數(並發太高的話,IO可能受不了)
方案二:把日誌到寫隊列,由一個後端伺服器從隊列然後寫到mysql,每天跑指令碼統計總數
方案二:使用開源的日誌收集服務程式
不要立刻寫入mysql,可以先寫入一個文本中,每增加一定數量如100次,寫一次資料庫
1. 不要用php來做,用nginx來做
2. php寫入緩衝系統,然後定時從緩衝系統往資料庫刷資料
3. 用 redis
感覺可以拿redis在前面給mysql擋一下先。
瀏覽量統計這類型的操作並不適合即時寫資料庫,即使當時撐住了,其架構的擴充性也不夠好,建議還是做好歸併,減少寫DB的頻率。
思路好像不對啊。
頁面瀏覽量統計通常不這樣做,因為頁面瀏覽這種資料不是完全準確的,有些可能是搜尋引擎訪問的,所以不需要弄得這麼精確。
可以參考下面這篇文章:(網站統計中的資料收集原理及實現)
http://developer.51cto.com/art/201210...
對即時性沒要求的話可以直接分析 nginx 日誌來做頁面訪問量統計。
最簡單的方法是用blackhole引擎,這個的插入速度非常快~
具體的可以看:
http://dev.mysql.com/doc/refman/5.0/e...
用redis解決,以文章id作為key,每瀏覽一次值加1,每隔半個小時再寫到mysql裡面。
瀏覽量統計這類型的操作並不適合即時寫資料庫,即使當時撐住了,其架構的擴充性也不夠好,建議還是做好歸併,減少寫DB的頻率。