安科网

mongodb分片集群(sharding with replica set)配置

Hathaway

Hathaway

2012-06-04

关注 关注

一共有4台机器，各自挂接一个存储，希望实现：

1.尽量节约存储

2.高可用性

3.存储大量数据

配置方案：

1.每一台机器做一个分片的主数据库

2.每一台机器做一个分片的后备数据库

3.每一台机器做一个分片的仲裁服务

4.两个两个一组交叉作对方的后备

5.有三台机器开配置服务

6.有一台机器开路由服务（生产环境可以在每一台WindowsApp服务器上开路由服务，App服务器集群做负载均衡）

这样的话，任何一台服务器完全离线（或者交叉的两台服务器离线），都能保证整个系统正常运行。不过在服务器和服务器起来之后需要：

1.在升级成为主数据库的那个后备数据库上运行rs.StepDown(100)来让它让出主数据库的位置，因为每一个分片的活动数据库都应该由独立服务器担当，以获得最好的性能

2.配置服务和后备数据库起来之后不需要做任何调整

192.168.129.142

mkdir-p/usr/data/shard1

mkdir-p/usr/data/shard2

mkdir-p/usr/data/shard3

mkdir-p/usr/data/config1

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10001--dbpath/usr/data/shard1/--logpath/usr/data/shard1/log.log--replSetshard1--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10002--dbpath/usr/data/shard2/--logpath/usr/data/shard2/log.log--replSetshard2--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10003--dbpath/usr/data/shard3/--logpath/usr/data/shard3/log.log--replSetshard3--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--configsvr--port20001--dbpath/usr/data/config1/--logpath/usr/data/config1/log.log--rest

psaux|grepmongodb|grep-vgrep

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongo--port10001

config={_id:'shard1',members:[

{_id:0,host:'192.168.129.142:10001'},

{_id:1,host:'192.168.129.172:10001'},

{_id:2,host:'192.168.129.173:10001',arbiterOnly:true}

]}

rs.initiate(config)

rs.status()

192.168.129.172

mkdir-p/usr/data/shard2

mkdir-p/usr/data/shard1

mkdir-p/usr/data/shard4

mkdir-p/usr/data/config2

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10002--dbpath/usr/data/shard2/--logpath/usr/data/shard2/log.log--replSetshard2--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10001--dbpath/usr/data/shard1/--logpath/usr/data/shard1/log.log--replSetshard1--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10004--dbpath/usr/data/shard4/--logpath/usr/data/shard4/log.log--replSetshard4--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--configsvr--port20002--dbpath/usr/data/config2/--logpath/usr/data/config2/log.log--rest

psaux|grepmongodb|grep-vgrep

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongo--port10002

config={_id:'shard2',members:[

{_id:0,host:'192.168.129.172:10002'},

{_id:1,host:'192.168.129.142:10002'},

{_id:2,host:'192.168.129.175:10002',arbiterOnly:true}

]}

rs.initiate(config)

rs.status()

192.168.129.173

mkdir-p/usr/data/shard3

mkdir-p/usr/data/shard4

mkdir-p/usr/data/shard1

mkdir-p/usr/data/config3

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10003--dbpath/usr/data/shard3/--logpath/usr/data/shard3/log.log--replSetshard3--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10004--dbpath/usr/data/shard4/--logpath/usr/data/shard4/log.log--replSetshard4--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10001--dbpath/usr/data/shard1/--logpath/usr/data/shard1/log.log--replSetshard1--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--configsvr--port20003--dbpath/usr/data/config3/--logpath/usr/data/config3/log.log--rest

psaux|grepmongodb|grep-vgrep

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongo--port10003

config={_id:'shard3',members:[

{_id:0,host:'192.168.129.173:10003'},

{_id:1,host:'192.168.129.175:10003'},

{_id:2,host:'192.168.129.142:10003',arbiterOnly:true}

]}

rs.initiate(config)

rs.status()

192.168.129.175

mkdir-p/usr/data/shard4

mkdir-p/usr/data/shard3

mkdir-p/usr/data/shard2

mkdir-p/usr/data/master

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10004--dbpath/usr/data/shard4/--logpath/usr/data/shard4/log.log--replSetshard4--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10003--dbpath/usr/data/shard3/--logpath/usr/data/shard3/log.log--replSetshard3--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongod--fork--shardsvr--port10002--dbpath/usr/data/shard2/--logpath/usr/data/shard2/log.log--replSetshard2--rest

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongos--fork--port40000--logpath/usr/data/master/log.log--chunkSize1

"192.168.129.142:20001,192.168.129.172:20002,192.168.129.173:20003"

psaux|grepmongodb|grep-vgrep

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongo--port10004

config={_id:'shard4',members:[

{_id:0,host:'192.168.129.175:10004'},

{_id:1,host:'192.168.129.173:10004'},

{_id:2,host:'192.168.129.172:10004',arbiterOnly:true}

]}

rs.initiate(config)

rs.status()

/usr/local/mongodb-linux-x86_64-1.6.4/bin/mongo--port40000

useadmin

db.runCommand({addshard:'shard1/192.168.129.142:10001,192.168.129.172:10001'})

db.runCommand({addshard:'shard2/192.168.129.172:10002,192.168.129.142:10002'})

db.runCommand({addshard:'shard3/192.168.129.173:10003,192.168.129.175:10003'})

db.runCommand({addshard:'shard4/192.168.129.175:10004,192.168.129.173:10004'})

db.runCommand({listshards:1})

db.runCommand({enablesharding:'test'})

db.runCommand({shardcollection:'test.data',key:{_id:1}})

printShardingStatus()

插入大量数据后的结果：

db.data.stats()

{

"sharded":true,

"ns":"test.data",

"count":1992002,

"size":2103555152,

"avgObjSize":1056.0005220878293,

"storageSize":2464232960,

"nindexes":1,

"nchunks":23,

"shards":{

"shard1":{

"ns":"test.data",

"count":1271788,

"size":1343008448,

"avgObjSize":1056.0002516142627,

"storageSize":1568785152,

"numExtents":25,

"nindexes":1,

"lastExtentSize":267987712,

"paddingFactor":1,

"flags":1,

"totalIndexSize":52658176,

"indexSizes":{

"_id_":52658176

},

"ok":1

},

"shard2":{

"ns":"test.data",

"count":98494,

"size":104009808,

"avgObjSize":1056.001462017991,

"storageSize":111137536,

"numExtents":12,

"nindexes":1,

"lastExtentSize":25047552,

"paddingFactor":1,

"flags":1,

"totalIndexSize":4087808,

"indexSizes":{

"_id_":4087808

},

"ok":1

},

"shard3":{

"ns":"test.data",

"count":487410,

"size":514705248,

"avgObjSize":1056.000590878316,

"storageSize":607047424,

"numExtents":20,

"nindexes":1,

"lastExtentSize":107698688,

"paddingFactor":1,

"flags":1,

"totalIndexSize":20250624,

"indexSizes":{

"_id_":20250624

},

"ok":1

},

"shard4":{

"ns":"test.data",

"count":134310,

"size":141831648,

"avgObjSize":1056.0021442930533,

"storageSize":177262848,

"numExtents":14,

"nindexes":1,

"lastExtentSize":36068352,

"paddingFactor":1,

"flags":1,

"totalIndexSize":5570560,

"indexSizes":{

"_id_":5570560

},

"ok":1

}

},

"ok":1

}

printShardingStatus()

---ShardingStatus---

shardingversion:{"_id":1,"version":3}

shards:

{

"_id":"shard1",

"host":"shard1/192.168.129.142:10001,192.168.129.172:10001"

}

{

"_id":"shard2",

"host":"shard2/192.168.129.172:10002,192.168.129.142:10002"

}

{

"_id":"shard3",

"host":"shard3/192.168.129.173:10003,192.168.129.175:10003"

}

{

"_id":"shard4",

"host":"shard4/192.168.129.175:10004,192.168.129.173:10004"

}

databases:

{"_id":"admin","partitioned":false,"primary":"config"}

{"_id":"test","partitioned":true,"primary":"shard1"}

test.datachunks:

{"_id":{$minKey:1}}-->>{"_id":ObjectId("4d01c5bc926adb17b8000001")}on:shard2{"t":8000,"i":0}

{"_id":ObjectId("4d01c5bc926adb17b8000001")}-->>{"_id":ObjectId("4d01c620926adb17b800d1dd")}on:shard2{"t":10000,"i":0}

{"_id":ObjectId("4d01c620926adb17b800d1dd")}-->>{"_id":ObjectId("4d01c669926adb17b80180bf")}on:shard4{"t":9000,"i":0}

{"_id":ObjectId("4d01c669926adb17b80180bf")}-->>{"_id":ObjectId("4d01c6b6926adb17b8022fa1")}on:shard2{"t":12000,"i":0}

{"_id":ObjectId("4d01c6b6926adb17b8022fa1")}-->>{"_id":ObjectId("4d01c6fd926adb17b802de83")}on:shard1{"t":5000,"i":1}

{"_id":ObjectId("4d01c6fd926adb17b802de83")}-->>{"_id":ObjectId("4d01c74c926adb17b8038d65")}on:shard4{"t":11000,"i":0}

{"_id":ObjectId("4d01c74c926adb17b8038d65")}-->>{"_id":ObjectId("4d01c795926adb17b8043c47")}on:shard4{"t":13000,"i":0}

{"_id":ObjectId("4d01c795926adb17b8043c47")}-->>{"_id":ObjectId("4d01c7e6926adb17b804eb29")}on:shard1{"t":6000,"i":2}

{"_id":ObjectId("4d01c7e6926adb17b804eb29")}-->>{"_id":ObjectId("4d01c82f926adb17b8059a0b")}on:shard1{"t":6000,"i":4}

{"_id":ObjectId("4d01c82f926adb17b8059a0b")}-->>{"_id":ObjectId("4d01c8d4926adb17b806f7cf")}on:shard1{"t":12000,"i":1}

{"_id":ObjectId("4d01c8d4926adb17b806f7cf")}-->>{"_id":ObjectId("4d01c963926adb17b8085593")}on:shard3{"t":7000,"i":2}

{"_id":ObjectId("4d01c963926adb17b8085593")}-->>{"_id":ObjectId("4d01ca1c926adb17b809b357")}on:shard3{"t":7000,"i":4}

{"_id":ObjectId("4d01ca1c926adb17b809b357")}-->>{"_id":ObjectId("4d01caf7926adb17b80b306a")}on:shard3{"t":7000,"i":6}

{"_id":ObjectId("4d01caf7926adb17b80b306a")}-->>{"_id":ObjectId("4d01cbc2926adb17b80d09fd")}on:shard3{"t":13000,"i":2}

{"_id":ObjectId("4d01cbc2926adb17b80d09fd")}-->>{"_id":ObjectId("4d01cc54926adb17b80e67c1")}on:shard3{"t":14000,"i":1}

{"_id":ObjectId("4d01cc54926adb17b80e67c1")}-->>{"_id":ObjectId("4d01cec7926adb125c00d1dc")}on:shard1{"t":14000,"i":2}

{"_id":ObjectId("4d01cec7926adb125c00d1dc")}-->>{"_id":ObjectId("4d01ced2926adb125c022fa0")}on:shard1{"t":14000,"i":4}

{"_id":ObjectId("4d01ced2926adb125c022fa0")}-->>{"_id":ObjectId("4d01cedf926adb125c038d64")}on:shard1{"t":14000,"i":6}

{"_id":ObjectId("4d01cedf926adb125c038d64")}-->>{"_id":ObjectId("4d01ceeb926adb125c04eb28")}on:shard1{"t":14000,"i":8}

{"_id":ObjectId("4d01ceeb926adb125c04eb28")}-->>{"_id":ObjectId("4d01cf1a926adb125c07a6ab")}on:shard1{"t":14000,"i":10}

{"_id":ObjectId("4d01cf1a926adb125c07a6ab")}-->>{"_id":ObjectId("4d01cf3c926adb125c0a622e")}on:shard1{"t":14000,"i":12}

{"_id":ObjectId("4d01cf3c926adb125c0a622e")}-->>{"_id":ObjectId("4d01cf52926adb125c0d1db1")}on:shard1{"t":14000,"i":14}

{"_id":ObjectId("4d01cf52926adb125c0d1db1")}-->>{"_id":ObjectId("4d01d58c926adb16480096f4")}on:shard1{"t":14000,"i":16}

{"_id":ObjectId("4d01d58c926adb16480096f4")}-->>{"_id":{$maxKey:1}}on:shard1{"t":14000,"i":17}

另，这套配置插入1万条1KB数据的时间大约在1.4秒，如果使用最简单单进程配置的话速度稍快，在1.2秒，性能下降不是很厉害，可以接受。

在这里我们配置路由服务1M数据作为一个分块，大约在10M数据量的时候，数据开始写入shard3，在500M数据量的时候，数据开始移到shard2和shard4。

经过测试发现达到1000万数据量之后，有sharding的数据库进行无索引查询耗时8秒（最大的sharding数据量在350万），而没有sharding的数据库耗时260秒…………

集群服务器 mongodb data 数据库

Hathaway

Hathaway

0 关注 0 粉丝 0 动态

关注 关注

相关推荐

分布式文档存储数据库之MongoDB分片集群的问题

　　1、什么是分片？比如用户要查询年龄大于30的用户，该怎么查询呢？而年龄大于30的用户的数据，可能server1上有一部分数据，server2上有部分数据，我们怎么才能够把所有满足条件的数据全部查询到呢？

sushuanglei 2020-11-12

Docker 搭建集群MongoDB的实现步骤

由于公司业务需要，我们打算自己搭建 MongoDB 的服务，因为 MongoDB 的云数据库好贵，我们这次采用副本集的方式来搭建集群，三台服务器，一主、一副、一仲裁。Replica Set 副本集：一个副本集就是一组 MongoDB 实例组成的集群，由一个

newcome 2020-09-09

深入了解MongoDB 分布式集群

在分布式应用系统中，mongodb 已经成为 NoSQL 经典数据库。要想很好的使用 mongodb，仅仅知道如何使用它是不够的。只有对其架构原理等有了充分认识，才能在实际运用中使其更好地服务于应用，遇到问题知道怎么处理，而不是抓瞎抹黑。这篇文章就带你进入

zyshappy 2020-08-16

容器云平台No.2~kubeadm创建高可用集群v1.19.1

通过kubernetes构建容器云平台第二篇，最近刚好官方发布了V1.19.0，本文就以最新版来介绍通过kubeadm安装高可用的kubernetes集群。市面上安装k8s的工具很多，但是用于学习的话，还是建议一步步安装，了解整个集群内部运行的组件，以便后

xingyuzhe 2020-09-21

一个小需求，自动重启k8s集群中日志不刷新的POD

日常工作中，所有项目都不是完美的，笔者就经常遇到这种情况，pod状态是running，但是程序却没有响应。发生这种情况的原因有很多种，有可能是因为k8s健康检查的原因，比如使用ps检查进程;或者是程序内部死循环，但是不退出;再或者网络闪断，程序无法重连等等

XiaoMuFireAnt 2020-09-02

如何部署一个Kubernetes集群

在本篇文章中我将以在Mac笔记本中安装两台Ubantu系统的方式，演示如何部署一套具备一个控制节点和一个计算节点的Kubernetes学习集群。要求64位Linux操作系统，且内核版本要求3.10及以上，能满足安装Docker项目所需的要求;机器之间要保持

gracecxj 2020-08-25

为什么集群需要 Overlay 网络

为什么这么设计是一系列关于计算机领域中程序设计决策的文章，我们在这个系列的每一篇文章中都会提出一个具体的问题并从不同的角度讨论这种设计的优缺点、对具体实现造成的影响。如果你有想要了解的问题，可以在文章下面留言。服务器 1 的 VTEP 收到 10.0.0.

我爱熊猫 2020-08-07

linux集群自动化搭建(生成密钥对+分发公钥+远程批量执行脚本)

docker run -d --name node3 -p 2224:22 chenqionghe /ubuntu. docker run -d --name node1 -p 2222:22 --link node2:node2 --link node3

luvzhan 2020-07-28

轻松管理Kubernetes集群的7个工具

Kubernetes正在不断加快在云原生环境的应用，但如何以统一、安全的方式对运行于任何地方的Kubernetes集群进行管理面临着挑战，而有效的管理工具能够大大降低管理的难度。k9s持续关注Kubernetes集群，并提供命令以使用集群上定义的资源。Ra

HelloC先生 2020-07-27

lvs-dr实现mysql负载均衡集群

服务器的操作系统均为centos7,vip和rip在同一网段,使用lvs-dr模型来实现mysql集群服务。MariaDB []> grant all on *.* to ‘root‘@‘192.168.%.%‘ identified by ‘123

wanjichun 2020-07-26

向Kubernetes集群域名服务器中插入自定义的解析记录-coredns

向Kubernetes集群域名服务器中插入自定义的解析记录-coredns注意：从Kubenretes 1.14开始，集群内部的域名服务器默认换成了coredns. 找到kube-system命名空间的名称为coredns的configmap：?kubec

clmngu 2020-07-26

用树莓派构建Kubernetes集群

将 Kubernetes 安装在多个树莓派上，实现自己的“家庭私有云”容器服务。Kubernetes从一开始就被设计为云原生的企业级容器编排系统。从微型的边缘计算到大规模的容器环境，无论是公有云还是私有云环境，Kubernetes 都可以管理其中的容器。

shenxiuwen 2020-07-16

单机，分布式和集群的区别

我想大家最最最熟悉的就是单机结构，一个系统业务量很小的时候所有的代码都放在一个项目中就好了，然后这个项目部署在一台服务器上就好了。整个项目所有的服务都由这台服务器提供。此时便出现了集群模式，往下接着看。集群中每台服务器就叫做这个集群的一个“节点”，所有节点

枫叶上的雨露 2020-07-04

redis集群

　　第一次进行全量复制，即将主服务器的数据通过rdb保存起来，然后复制到从服务器中，以后通过sync命令不断复制主服务器执行的命令来完成数据的同步。　　　　启动过程 初始化服务器， 替换sentinel代码，初始化sentinel状态，根据配置文件初始化监

yang0cs 2020-06-28

Redis 主从集群，从机配置内容

# 可以通过将这个值设为 1 来保证每次只有一个slave 处于不能处理命令请求的状态。#如果5秒后,mysater仍没启动过来，则启动failoversentinel failover-timeout mymaster 5000. # 设置连接maste

bruce 2020-06-28

集群与分布式

我想大家最最最熟悉的就是单机结构，一个系统业务量很小的时候所有的代码都放在一个项目中就好了，然后这个项目部署在一台服务器上就好了。整个项目所有的服务都由这台服务器提供。我想缺点是显而易见的，单机的处理能力毕竟是有限的，当你的业务增长到一定程度的时候，单机的

middleware0 2020-06-27

Memcached 服务分布式集群如何实现？

数据总和才是数据库的数据。每台 Memcached 都是部分数据。程序加载所有 mc 的 ip 列表，通过对 key 做 hash 例如：web1 ===>对应 A,B,C,D,E,F,G…（通过哈希算法实。宕机，缓存服务器的更新重新分配比例降到最低

luotuo 2020-06-26

RabbitMQ多台物理机集群搭建

每台机器事先安装好Erlang和RabbitMQ，过程不在赘述，分别启动打开RabbitMQ管理工具，记录下每台机器的节点名称：。分别打开192.168.1.44和192.168.1.56上host文件，修改host值为：。打开192.168.1.44上的

shenzhenzsw 2020-06-26

如何实现集群中的 session 共享存储？

样我们可以根据客户端传来的 sessionID，来获取 session，或在对应 Session 不。存在的情况下，创建一个新的 Session；服务器上的 session 激增，加大服务器的运行压力。粘性 session 是指 Ngnix 每次都将同一用

huangzonggui 2020-06-25

ElasticSearch7.1.1集群搭建

接下来我们就可以在此基础上配置ElasticSearch集群了，均用于保存数据且可被选为master节点。服务 版本elasticsearch 7.1.1jdk 1.82、elasticsearch.yml配置说明：。cluster.name: myes#

IceStreamLab 2020-06-25
Hathaway

Hathaway

W3CSchool教程
HTML 教程
CSS 教程
Bootstrap 教程
Javascript 教程
jQuery 教程
后端教程
C 教程
Java 教程
PHP 教程
Python 教程
Go 教程
移动开发
Android 教程
Swift 教程
Kotlin 教程
jQuery Mobile 教程
ionic 教程
关于我们
新闻动态
联系方式
招聘英才
安科实验室
帮助与反馈

安科网(Ancii)，中国第一极客网

Copyright © 2013 - 2019 Ancii.com

京ICP备18063983号 京公网安备11010802014868号