樂天 ROMA 分散式儲存

GOOGLE時看到一個東西 ROMA 這個是日本樂天研究所針對分散式儲存所做的一個應用方案。由RUBY開發，相容Memcached。原文參考

安裝流程：
一、環境：
1.debian

二、安裝ruby,gem
apt-get install ruby rubygems

三、安裝 eventmachine
gem install eventmachine

四、下載roma http://github.com/roma/roma/downloads
1.解開tar檔

2.cd roma-roma-4f69a05/ruby/server/bin/

3.建立nodes設定檔
(1)ruby mkroute localhost_11211 localhost_11212 --enabled_repeathost

如果成功會看到下列訊息：
nodes => localhost_11211localhost_11212
Routing table has created.
查一下目前目錄下，是否有這兩個檔localhost_11211.route,localhost_11212.route

4.啟動ROMA
ruby romad localhost -p 11211 -d --enabled_repeathost 失敗了
錯誤訊息：roma-roma-4f69a05/ruby/server/bin/../lib/roma/routing/rttable.rb:6:in `require': no such file to load -- json (LoadError)
查一下gem套件
gem list
json (1.2.0)
json_pure (1.2.0)
真怪，有裝json套件，查了一下google

修改一下rttable.rb，加入紅字那行
require 'yaml'
require 'rubygems'
require 'json'

再來一次，成功了
10:24AM 0:02.20 ruby romad localhost -p 11211 -d --enabled_repeathost

看一下logfile有錯誤訊息
E, [2010-01-13T11:50:45.803857 #42013] ERROR -- : /usr/home/abc/roma-roma-4f69a05/ruby/server/bin/../lib/roma/romad.rb:525:Send command failed that node-id is localhost_11211,command is whoami

找不到原因，用php 測式，也無法做資料寫入讀出，奇怪，改天再研究

後來問了一下作者，才知道，原來只支援ruby 1.9以上，目前debain or freebsd
內建的package只有1.8.7，所以手動下載1.9版安裝，終於可以用了。

memcached and roma測式 100條程序，每條執行100 次結果如下：
ROMA：
391/sec(寫入每秒處理量)
395/sec(讀取每秒處理量)

Memcached ：
389/sec(寫入每秒處理量)
396/sec(讀取每秒處理量)



參考資料
http://code.google.com/p/roma-prj/wiki/QuickStart

php memcached 快取機制配置架構

因為工作關系，遇到某個專案，原架構是把所有圖片儲存在mysql裡，但是到流量高時，會造成mysql loading過大，讀圖速度異常的慢，思考之後決定把圖片，也cache一份在memcached裡面
原先的mysql就當備援使用，下圖為新架構的配置圖：





















1.第一次讀取時，先從mysql抓出資料，然後寫入一份到memcached，之後再讀取相同資料時，直接從memcached抓出，不透過mysql，另外在讀取資料的程式，加入304的判斷，如果內容沒有異動時，直接回傳304 Not Modified。

2.本次配置了三台memcached主機，各使用10g的空間，並搭配Consistent Hashing演算法，來達到分散式儲存的功能。

3.因為是在php4的開發環境，並沒有memcached function所以從網路上找了兩個class，一個負責處理memcached存取，一個負責Consistent Hashing演算法(演算法參考)，本來是想直接使用pecl的套件，但是考慮到需另外complie，因為有風險，加上也很懶，所以就算了。

一、memcached主機安裝：
1.參考下列網址：http://blog.wu-boy.com/2007/09/22/120/

2.memcached 管理工具：
因為之前測式memcached發現有時候會突然自已掛掉，也不知道為什麼，好像都會有此問題，所以google一下，找到了deamon tools這個工具，可以監控某程序，讓它在掛掉時自動重啟。

參考網址如下：
1.安裝 deamon tools
2.設定 deamon tools for memcached

3.安裝php memcached管理工具：
此工具可以監控多台memcached目前的使用狀態。
下載位置：http://livebookmark.net/journal/2008/05/21/memcachephp-stats-like-apcphp/

下載之後放到 apache目錄下，打開檔案修改memcached server清單，加入自已的主機資訊，因為有三台，所以加了三組。
$MEMCACHE_SERVERS[] = '192.168.1.5:11211';
$MEMCACHE_SERVERS[] = '192.168.1.6:11211';
$MEMCACHE_SERVERS[] = '192.168.1.7:11211';

正常情況下會顯示如下圖：


二、memcached配置都完成後，接下來就是程式部份。
1.先include兩隻class：
include_once('ConsistentHash.class.php'); //處理演算法
include_once('MemCachedClient.class.php'); //處理memcached存取

2.判斷圖片內容是否有更新並輸出cache資料：

//快取時間三小時
$exp_time = 10800;
//因為我的讀圖程式有三個參數，分別是img=圖片名稱,width=圖片寬度,height=圖片高度
$key = sprintf("%s++%s++%s",$img,$width,$height);
$mc_key = md5($key);
$servers = array(
'192.168.1.5:11211',
'192.168.1.6:11211',
'192.168.1.7:11211'
);
$objCHash = new ConsistentHash($servers);
//利用演算法，取出該key所分配到的server是那一台
$host = $objCHash->Lookup($mc_key,1);
unset($objCHash);
//取得memcached資料
if(!empty($host)){
$mcObj = new MemCachedClient(array($host));
$mc_data = $mcObj->get($mc_key);
if(!empty($mc_data)){
$etag = md5($mc_data);
//利用header的etag判斷內容是否有異動，如果沒異動的話，就送出304 Not Modified反之就輸出memcached讀出的內容
header("Etag: $etag");
if (trim($_SERVER['HTTP_IF_NONE_MATCH']) == $etag){
header("HTTP/1.1 304 Not Modified");
exit;
}
header("Content-Type: image/jpeg");
echo $mc_data;
exit;
}
}

3.在讀出mysql資料後，同時寫入一份至memcached：
if(!empty($row)){
$mcObj->add($mc_key,$row,$exp_time);
}

三、結果：

1.從mysql connection流量圖來看，流量大約下降了三分之二。
2.firefox使用firebug來讀取圖片，時間上未加上304檢查時，時間與直接讀mysql差異不大，但是加上304判斷後，圖片讀取速度大概下降20~25%，不過還沒壓測過，等改天再用jemter壓測，再把結果po上來

find指令+grep用法一

find /usr/local/ -name "*.php" -exec grep -l 'function do_action' {} \;

/usr/local 要尋找的路徑
*.php 要尋找的檔案類型
-exec 找到符合的檔案後接著執行那個指令
-l 顯示檔路路徑
function do_action 檔案內容有這個keyword的檔名

replaceWith

tag替換函式

範例:
$("label").filter("[@for=forsale_bid]").replaceWith("

aaaa

");
把label for屬性為forsale_bid的tag替換成 div aaaa /div

unique

JQuery.unique( array ) Returns: Array
去除陣列中重覆值

inarray

jQuery.inArray( value, array ) Returns: Number
搜尋value值在array中的index值