Mongodb的学习整理（下）

CharlesWang

2018-02-24

聚合 aggregate

聚合(aggregate)主要用于计算数据，类似sql中的sum()、avg()
语法

db.集合名称.aggregate([{管道:{表达式}}])

管道

管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入

ps ajx | grep mongo

在mongodb中，管道具有同样的作用，文档处理完毕后，通过管道进行下一次处理
常用管道
$group：将集合中的文档分组，可用于统计结果
$match：过滤数据，只输出符合条件的文档
$project：修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
$sort：将输入文档排序后输出
$limit：限制聚合管道返回的文档数
$skip：跳过指定数量的文档，并返回余下的文档
$unwind：将数组类型的字段进行拆分

表达式

处理输入文档并输出
语法

表达式:'$列名'

常用表达式
$sum：计算总和，$sum:1同count表示计数
$avg：计算平均值
$min：获取最小值
$max：获取最大值
$push：在结果文档中插入值到一个数组中
$first：根据资源文档的排序获取第一个文档数据
$last：根据资源文档的排序获取最后一个文档数据

$group

将集合中的文档分组，可用于统计结果
_id表示分组的依据，使用某个字段的格式为'$字段'
例1：统计男生、女生的总人数

db.stu.aggregate([

    {$group:

        {

            _id:'$gender',

            counter:{$sum:}

        }

    }

])

Group by null

将集合中所有文档分为一组
例2：求学生总人数、平均年龄

db.stu.aggregate([

    {$group:

        {

            _id:null,

            counter:{$sum:},

            avgAge:{$avg:'$age'}

        }

    }

])

透视数据

例3：统计学生性别及学生姓名

db.stu.aggregate([

    {$group:

        {

            _id:'$gender',

            name:{$push:'$name'}

        }

    }

])

使用$$ROOT可以将文档内容加入到结果集的数组中，代码如下

db.stu.aggregate([

    {$group:

        {

            _id:'$gender',

            name:{$push:'$$ROOT'}

        }

    }

])

$match

用于过滤数据，只输出符合条件的文档
使用MongoDB的标准查询操作
例1：查询年龄大于20的学生

db.stu.aggregate([

    {$match:{age:{$gt:20}}}

])

例2：查询年龄大于20的男生、女生人数

db.stu.aggregate([

    {$match:{age:{$gt:20}}},

    {$group:{_id:'$gender',counter:{$sum:1}}}

])

$project

修改输入文档的结构，如重命名、增加、删除字段、创建计算结果
例1：查询学生的姓名、年龄

db.stu.aggregate([

    {$project:{_id:0,name:1,age:1}}

])

例2：查询男生、女生人数，输出人数

db.stu.aggregate([

    {$group:{_id:'$gender',counter:{$sum:1}}},

    {$project:{_id:0,counter:1}}

])

$sort

将输入文档排序后输出
例1：查询学生信息，按年龄升序

b.stu.aggregate([{$sort:{age:1}}])

例2：查询男生、女生人数，按人数降序

db.stu.aggregate([

    {$group:{_id:'$gender',counter:{$sum:1}}},

    {$sort:{counter:-1}}

])

$limit

限制聚合管道返回的文档数
例1：查询2条学生信息

db.stu.aggregate([{$limit:2}])

$skip

跳过指定数量的文档，并返回余下的文档
例2：查询从第3条开始的学生信息

db.stu.aggregate([{$skip:2}])

例3：统计男生、女生人数，按人数升序，取第二条数据

db.stu.aggregate([

    {$group:{_id:'$gender',counter:{$sum:1}}},

    {$sort:{counter:1}},

    {$skip:1},

    {$limit:1}

])

注意顺序：先写skip，再写limit

$unwind

将文档中的某一个数组类型字段拆分成多条，每条包含数组中的一个值

语法1

对某字段值进行拆分

db.集合名称.aggregate([{$unwind:'$字段名称'}])

构造数据

db.t2.insert({_id:,item:'t-shirt',size:['S','M','L']})

查询

db.t2.aggregate([{$unwind:'$size'}])

语法2

对某字段值进行拆分
处理空数组、非数组、无字段、null情况

db.inventory.aggregate([{

    $unwind:{

        path:'$字段名称',

        preserveNullAndEmptyArrays:<boolean>#防止数据丢失

    }

}])

构造数据

db.t3.insert([

{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },

{ "_id" : , "item" : "b", "size" : [ ] },

{ "_id" : , "item" : "c", "size": "M" },

{ "_id" : , "item" : "d" },

{ "_id" : , "item" : "e", "size" : null }

])

使用语法1查询

db.t3.aggregate([{$unwind:'$size'}])

查看查询结果，发现对于空数组、无字段、null的文档，都被丢弃了
问：如何能不丢弃呢？
答：使用语法2查询

db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])

超级管理员

为了更安全的访问mongodb，需要访问者提供用户名和密码，于是需要在mongodb中创建用户
采用了角色-用户-数据库的安全管理方式
常用系统角色如下：
root：只在admin数据库中可用，超级账号，超级权限
Read：允许用户读取指定数据库
readWrite：允许用户读写指定数据库
创建超级管理用户

use admin

db.createUser({

    user:'admin',

    pwd:'',

    roles:[{role:'root',db:'admin'}]

})

启用安全认证

修改配置文件

sudo vi /etc/mongod.conf

启用身份验证
注意：keys and values之间一定要加空格,否则解析会报错

security:

authorization: enabled

重启服务

sudo service mongod stop

sudo service mongod start

终端连接

mongo -u 'admin' -p '' --authenticationDatabase 'admin'

普通用户管理

使用超级管理员登录，然后进入用户管理操作
查看当前数据库的用户

use test1

show users

创建普通用户

db.createUser({

    user:'t1',

    pwd:'',

    roles:[{role:'readWrite',db:'test1'}]

})

终端连接

mongo -u t1 -p  --authenticationDatabase test1

切换数据库，执行命令查看效果
修改用户：可以修改pwd、roles属性

db.updateUser('t1',{pwd:''})

复制（副本集）

什么是复制

复制提供了数据的冗余备份，并在多个服务器上存储数据副本，提高了数据的可用性，并可以保证数据的安全性
复制还允许从硬件故障和服务中断中恢复数据

为什么要复制

数据备份
数据灾难恢复
读写分离
高（24* 7）数据可用性
无宕机维护
副本集对应用程序是透明

复制的工作原理

复制至少需要两个节点A、B...
A是主节点，负责处理客户端请求
其余的都是从节点，负责复制主节点上的数据
节点常见的搭配方式为：一主一从、一主多从
主节点记录在其上的所有操作，从节点定期轮询主节点获取这些操作，然后对自己的数据副本执行这些操作，从而保证从节点的数据与主节点一致
主节点与从节点进行数据交互保障数据的一致性

复制的特点

N 个节点的集群
任何节点可作为主节点
所有写入操作都在主节点上
自动故障转移
自动恢复

设置复制节点

接下来的操作需要打开多个终端窗口，而且可能会连接多台ubuntu主机，会显得有些乱，建议在xshell中实现
step1:创建数据库目录t1、t2
在Desktop目录下演示，其它目录也可以，注意权限即可

mkdir t1

mkdir t2

step2:使用如下格式启动mongod，注意replSet的名称是一致的

mongod --bind_ip 192.168.196.128 --port  --dbpath ~/Desktop/t1 --replSet rs0

mongod --bind_ip 192.168.196.128 --port  --dbpath ~/Desktop/t2 --replSet rs0

step3:连接主服务器，此处设置192.168.196.128:27017为主服务器

mongo --host 192.168.196.128 --port

step4:初始化

rs.initiate()

初始化完成后，提示符如下图：

step5:查看当前状态

rs.status()

当前状态如下图：

step6:添加复本集

rs.add('192.168.196.128:27018')

step7:复本集添加成功后，当前状态如下图：

step8:连接第二个mongo服务

mongo --host 192.168.196.128 --port

连接成功后，提示符如下图：

step9:向主服务器中插入数据

use test1

for(i=0;i<10;i++){db.t1.insert({_id:i})}

db.t1.find()

step10:在从服务器中插查询
说明：如果在从服务器上进行读操作，需要设置rs.slaveOk()

rs.slaveOk()

db.t1.find()

其它说明

删除从节点

rs.remove('192.168.196.128:27018')

关闭主服务器后，再重新启动，会发现原来的从服务器变为了从服务器，新启动的服务器（原来的从服务器）变为了从服务器

备份

语法

mongodump -h dbhost -d dbname -o dbdirectory

-h：服务器地址，也可以指定端口号
-d：需要备份的数据库名称
-o：备份的数据存放位置，此目录中存放着备份出来的数据
例1

sudo mkdir test1bak

sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

恢复

语法

mongorestore -h dbhost -d dbname --dir dbdirectory

-h：服务器地址
-d：需要恢复的数据库实例
--dir：备份数据所在位置
例2

mongorestore -h 192.168.196.128: -d test2 --dir ~/Desktop/test1bak/test1

与python交互

点击查看官方文档
安装python包
引入包pymongo
连接，创建客户端
获得数据库test1
获得集合stu
添加文档
查找一个文档
查找多个文档1
查找多个文档2
获取文档个数

进入虚拟环境</code><code>

sudo pip install pymongo

或源码安装</code><code>

python setup.py

import pymongo
client=pymongo.MongoClient("localhost", 27017)
db=client.test1
stu = db.stu
s1={name:'gj',age:18}
s1_id = stu.insert_one(s1).inserted_id
s2=stu.find_one()
for cur in stu.find():
    print cur
cur=stu.find()
cur.next()
cur.next()
cur.next()
print stu.count()

mongodb ul aggregate