Shardingcluster介紹
這是一種可以水平擴展的模式，在數據量很大時特給力，實際大規模應用一般會採用這種架構去構建monodb系統。
要構建一個 MongoDB Sharding Cluster，需要三種角色：
Shard Server: mongod 實例，用於存儲實際的數據塊，實際生產環境中一個shard server角色可由幾臺機器組個一個relica set承擔，防止主機單點故障
Config Server: mongod 實例，存儲了整個 Cluster Metadata，其中包括 chunk 信息。
Route Server: mongos 實例，前端路由，客戶端由此接入，且讓整個集羣看上去像單一數據庫，前端應用可以透明使用。
機器分配和配置
本例架構示例圖:
1. 分別在3臺機器運行一個mongod實例（稱爲mongod shard11，mongod shard12，mongod shard13）組織replica set1，作爲cluster的shard1
2. 分別在3臺機器運行一個mongod實例（稱爲mongod shard21，mongod shard22，mongod shard23）組織replica set2，作爲cluster的shard2
3. 每臺機器運行一個mongod實例，作爲3個config server
4. 每臺機器運行一個mongs進程，用於客戶端連接
|
主機 |
IP |
端口信息 |
|
Server1 |
172.16.101.244 |
mongod shard11:27017 |
|
Server2 |
172.16.101.242 |
mongod shard12:27017 |
|
Server3 |
172.16.101.241 |
mongod shard13:27017 |
軟件準備
1. 創建用戶
groupadd mongodb
useradd -g mongodb mongodb
passwd mongodb ([email protected])
2. 安裝monodb軟件
chown -R mongodb:mongodb /data/ -- 這裏需要把安裝文件的權限賦給mongodb
su – mongodb
tar zxvf mongodb-linux-x86_64-1.8.2.tar
3. 創建數據目錄
根據本例sharding架構圖所示，在各臺sever上創建shard數據文件目錄
Server1:
su – monodb
cd /usr/local/server/monodb
mkdir –p data/shard11
mkdir –p data/shard21
touch data/shard11.log
touch data/shard21.log
Server2:
su – monodb
cd /usr/local/server/monodb
mkdir data
mkdir -p data/shard12
mkdir -p data/shard22
touch data/shard12.log
touch data/shard22.log
Server3:
su – monodb
cd /usr/local/server/monodb
mkdir -p data/shard13
mkdir -p data/shard23
touch data/shard13.log
touch data/shard23.log
配置relica sets
1. 配置shard1所用到的replica sets:
Server1:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard1 --port 27017 --dbpath /usr/local/server/mongodb/data/shard11--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard11.log --logappend--fork
Server2:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard1 --port 27017 --dbpath /usr/local/server/mongodb/data/shard12--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard12.log --logappend--fork
Server3:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard1 --port 27017 --dbpath /usr/local/server/mongodb/data/shard13--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard13.log --logappend--fork
初始化replica set
用mongo連接其中一個mongod，執行:
./bin/mongo --port 27017
> config = {_id: 'shard1', members: [
{_id: 0, host: '172.16.101.244:27017'},
{_id: 1, host: '172.16.101.242:27017'},
{_id: 2, host: '172.16.101.241:27017'}]
}
> rs.initiate(config);
同樣方法，配置shard2用到的replica sets:
server1:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard2 --port 27018 --dbpath /usr/local/server/mongodb/data/shard21--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard21.log --logappend--fork
server2:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard2 --port 27018 --dbpath /usr/local/server/mongodb/data/shard22--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard22.log --logappend--fork
server3:
cd /usr/local/server/mongodb/bin
./bin/mongod --shardsvr --replSet shard2 --port 27018 --dbpath /usr/local/server/mongodb/data/shard23--oplogSize 2048 --logpath /usr/local/server/mongodb/data/shard23.log --logappend--fork
初始化replica set
用mongo連接其中一個mongod，執行:
./bin/mongo --port 27018
> config = {_id: 'shard2', members: [
{_id: 0, host: '172.16.101.244:27018'},
{_id: 1, host: '172.16.101.242:27018'},
{_id: 2, host: '172.16.101.241:27018'}]
}
> rs.initiate(config);
到此就配置好了二個replica sets，也就是準備好了二個shards
配置三臺config server
Server1:
cd /usr/local/server/mongodb/
mkdir -p data/config
touch data/config.log
./bin/mongod --configsvr --dbpath /usr/local/server/mongodb/data/config --port20000 --logpath /usr/local/server/mongodb/data/config.log --logappend --fork
#config server也需要dbpath
Server2:
cd /usr/local/server/mongodb/
mkdir -p /usr/local/server/mongodb/data/config
touch data/config.log
./bin/mongod --configsvr --dbpath /usr/local/server/mongodb/data/config --port20000 --logpath /usr/local/server/mongodb/data/config.log --logappend --fork
Server3:
cd /usr/local/server/mongodb/
mkdir -p /usr/local/server/mongodb/data/config
touch data/config.log
./bin/mongod --configsvr --dbpath /usr/local/server/mongodb/data/config --port20000 --logpath /usr/local/server/mongodb/data/config.log --logappend --fork
配置mongs
在server1,server2,server3上分別執行：
touch data/ mongos.log
./bin/mongos --configdb172.16.101.244:20000,172.16.101.242:20000,172.16.101.241:20000 --port 30000 --chunkSize64 --logpath /usr/local/server/mongodb/data/mongos.log --logappend --fork
#mongs不需要dbpath
Configuring the Shard Cluster
連接到其中一個mongos進程，並切換到admin數據庫做以下配置
1. 連接到mongs，並切換到admin
./bin/mongo 172.16.101.244:30000/admin
>db
Admin
2. 加入shards
如裏shard是單臺服務器，用>db.runCommand( { addshard :“<serverhostname>[:<port>]” } )這樣的命令加入，如果shard是replica sets，用replicaSetName/<serverhostname>[:port][,serverhostname2[:port],…]這樣的格式表示，例如本例執行：
>db.runCommand({addshard:"shard1/172.16.101.244:27017,172.16.101.242:27017,172.16.101.241:27017",name:"s1", maxsize:20480});
>db.runCommand({addshard:"shard2/172.16.101.244:27018,172.16.101.242:27018,172.16.101.241:27018",name:"s2", maxsize:20480});
注意：在添加第二個shard時，出現error:test database 已經存在的錯誤，這裏用mongo命令連接到第二個replica set，用db.dropDatabase()命令把test數據庫給刪除然後就可加入
3. 可選參數
Name:用於指定每個shard的名字，不指定的話系統將自動分配
maxSize:指定各個shard可使用的最大磁盤空間，單位megabytes
4. Listing shards
>db.runCommand( { listshards : 1 } )
如果列出了以上二個你加的shards，表示shards已經配置成功
5. 激活數據庫分片
命令：
> db.runCommand({enablesharding : “<dbname>”});
通過執行以上命令，可以讓數據庫跨shard，如果不執行這步，數據庫只會存放在一個shard，一旦激活數據庫分片，數據庫中不同的collection將被存放在不同的shard上，但一個collection仍舊存放在同一個shard上，要使單個collection也分片，還需單獨對collection作些操作
Collecton分片
要使單個collection也分片存儲，需要給collection指定一個分片key，通過以下命令操作：
> db.runCommand( { shardcollection : “<namespace>”,key :<shardkeypatternobject> });
db.runCommand({shardcollection:"test.c1", key: {id: 1}}););
{ "collectionsharded" :"test.c1", "ok" : 1 }
注：
a. 分片的collection系統會自動創建一個索引（也可用戶提前創建好）
b. 分片的collection只能有一個在分片key上的唯一索引，其它唯一索引不被允許
One note: a sharded collection can have only one unique index, which must existon the shard key. No other unique indexes can exist on the collection.
分片collection例子
> db.runCommand({shardcollection:"test.c1", key: {id: 1}}););
> for (vari=0; i<=2000000; i++) {db.c1.save({id: i, value1: "1234567890",value2: "1234567890", value3: "1234567890", value4:"1234567890"}); };
> db.c1.stats()
{
“sharded” : true,
“ns” : “test.c1″,
“count” : 200003,
“size” : 25600384,
“avgObjSize” : 128,
“storageSize” : 44509696,
“nindexes” : 2,
“nchunks” : 15,
“shards” : {
“s1″ : {
“ns” : “test.c1″,
“count” : 141941,
“size” : 18168448,
“avgObjSize” : 128,
“storageSize” : 33327616,
“numExtents” : 8,
“nindexes” : 2,
“lastExtentSize” : 12079360,
“paddingFactor” : 1,
“flags” : 1,
“totalIndexSize” : 11157504,
“indexSizes” : {
“_id_” : 5898240,
“id_1″ : 5259264
},
“ok” : 1
},
“s2″ : {
“ns” : “test.c1″,
“count” : 58062,
“size” : 7431936,
“avgObjSize” : 128,
“storageSize” : 11182080,
“numExtents” : 6,
“nindexes” : 2,
“lastExtentSize” : 8388608,
“paddingFactor” : 1,
“flags” : 1,
“totalIndexSize” : 4579328,
“indexSizes” : {
“_id_” : 2416640,
“id_1″ : 2162688
},
“ok” : 1
}
},
“ok” : 1
}