MongoDB学习总结(一)

1. MongoDB 简介

MongoDB是一个可扩展的高性能,开源,模式自由,面向文档的NoSQL,基于分布式文件存储由 C++ 语言编写,设计之初旨在为 WEB 应用提供可扩展的高性能数据存储解决方案。

2. MongoDB特点

模式自由 :可以把不同结构的文档存储在同一个数据库里

面向集合的存储:适合存储 JSON风格文件的形式,

完整的索引支持:对任何属性可索引,

复制和高可用性:支持服务器之间的数据复制,支持主-从模式及服务器之间的相互复制。复制的主要目的是提供冗余及自动故障转移。

自动分片:支持水平的数据库集群,可动态添加额外的机器。

丰富的查询:支持丰富的查询表达方式,查询指令使用JSON形式的标记,可轻易查询文档中的内嵌的对象及数组。

快速就地更新:查询优化器会分析查询表达式,并生成一个高效的查询计划。

高效的传统存储方式:支持二进制数据及大型对象(如图片等...)。

3. MongoDB与SQL区别

MongoDB与SQL区别  

4. 适用场景

网站数据: 适合实时的插入,更新与查询,并具备网站实时数据存储所需的复制及高度伸缩性。

缓存: 由于性能很高,也适合作为信息基础设施的缓存层。在系统重启之后,搭建的持久化缓存可以避免下层的数据源过载。

大尺寸、低价值的数据: 使用传统的关系数据库存储一些数据时可能会比较贵,在此之前,很多程序员往往会选择传统的文件进行存储。

高伸缩性的场景: 非常适合由数十或者数百台服务器组成的数据库。

用于对象及JSON数据的存储: MongoDB的BSON数据格式非常适合文档格式化的存储及查询。

5. MongoDB的安装与使用

1. MongoDB官网安装包下载地址:http://www.mongodb.org/downloads

MongoDB安装文档:https://docs.mongodb.com/getting-started/shell/installation/

Ubuntu下安装MongoDB:

python@ubuntu:~$ sudo apt-get install mongodb

注意:使用MongoDB,需要先启动服务端,再使用客户端连接数据库。

2. 服务端

MongoDB 默认的存储数据目录为 /data/db,默认端口27017

服务的命令为mongod,可以通过help查看所有参数

python@ubuntu:~$ mongod --help

相关文件存放路径:默认各个文件存放路径如下所示:

可执行文件存放路径:/usr/bin/mongod和/usr/bin/mongo

数据库文件存放路径:/data/db

日志文件存放路径:/var/log/mongodb/mongod.log

配置文件存放路径:/etc/mongod.conf

3. 启动注意事项

1. 首次启动:

启动MongoDB服务:sudo mongod

报出如下错误,表示默认的存储数据目录 /data/db 不存在:

[initandlisten] exception in initAndListen: 29 Data directory /data/db not found., terminating

创建 /data目录和 /data/db 目录,并指定 读/写/执行 权限

python@ubuntu:~$ sudo mkdir -p /data/db

python@ubuntu:~$ sudo chmod777/data/db

2. 再次启动:

再次启动MongoDB服务:sudo mongod

启动成功,但是可能会有三个warning的警告

Warning 1:

[initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/enabled is 'always'.[initandlisten] ** We suggest setting it to 'never'[initandlisten][initandlisten] ** WARNING: /sys/kernel/mm/transparent_hugepage/defrag is 'always'.[initandlisten] ** We suggest setting it to 'never'

Linux的内存分配默认由内核动态分配,而不是由程序自行管理。而MongoDB对内存占用有那么点...严重,所以为了防止MongoDB占用内存过大而被内核"管理",官方推荐关闭动态分配。

默认"always"表示允许动态分配,对应的"never"就是不允许,所以我们将这两个文件内容修改为"naver"后就没有warning了。

# Ctrl + c 退出 MongoDB 数据库服务# 然后进入 root 用户下,执行修改命令python@ubuntu:~$ sudo su[sudo] python 的密码: root@ubuntu:~# sudo echo "never" > /sys/kernel/mm/transparent_hugepage/enabledroot@ubuntu:~# sudo echo "never" >  /sys/kernel/mm/transparent_hugepage/defrag

实际上,除非网站DBA对数据库性能有极限要求,在通常情况下系统动态分配的内存页大小足够我们正常使用,而且更能优化整个系统,所以一般不必理会这个warning。而且这样只是临时修改Linux内核的设置,在Linux服务器重启后则会失效。

Warning 2:

[initandlisten] ** WARNING: soft rlimits too low.rlimits set to 1024 processes, 64000 files. Number of processes should be at least 32000 : 0.5 times number of files.

这个WARNING(如果有的话)含义为: 表示默认分配给MongoDB的进程和文件数量限制过低,需要重新分配值:

mongodb当前限制:1024 processes, 64000 files

mongodb建议要求:processes = 0.5*files=32000(至少)

咱们学习阶段默认用不着这么多的进程和文件,所以也可以不必理会。

# 打开 相关配置文件:root@ubuntu:~# vi /etc/security/limits.conf# 在打开的 文件最下方,添加,然后保存退出mongod  soft  nofile64000mongod  hard  nofile64000mongod  soft  nproc32000mongod  hard  nproc32000

Warning 3:

[initandlisten] ** WARNING: You are running this process as the root user, which is not recommended.

意思是我们在用root权限做这些事,理论上是不安全的。我们可以通过附加--auth参数,来使用用户认证来处理这个情况,这个后面会讲到。

3. 再再次启动:

再再次启动MongoDB服务:sudo mongod

启动后查看进程,以确定是否启动成功

python@ubuntu:~$ ps aux | grep mongod

如果进程中没有mongod的项则没有启动成功,可以通过查看日志来确定错误原因,默认日志文件为/var/log/mongodb/mongod.log,最新的信息在最后面显示。

4. 客户端

客户端命令为mongo,可以通过help查看所有参数。

这个shell即是mongodb的客户端,用来对MongoDB进行操作和管理的交互式环境。

python@ubuntu:~$ mongo --help

终端退出连接

> exit

6. MongoDB数据库命令

1、连接成功后,默认使用test数据库

查看当前数据库名称

db

2、查看所有数据库名称,列出所有在物理上存在的数据库

show dbs

3、切换数据库,如果数据库不存在也并不创建,直到插入数据或创建集合时数据库才被创建

use 数据库名称

4、删除当前指向的数据库,如果数据库不存在,则什么也不做

db.dropDatabase()

7. MongoDB集合命令

创建语法如下:

name是要创建的集合的名称

options是一个文档,用于指定集合的配置,选项​​参数是可选的,所以只需要到指定的集合名称

可以不手动创建集合,向不存在的集合中第一次加入数据时,集合会被创建出来

db.createCollection(name, options)

例1:不限制集合大小

db.createCollection("stu")

例2:限制集合大小,后面学会插入语句后可以查看效果

参数capped:默认值为false表示不设置上限,值为true表示设置上限

参数size:当capped值为true时,需要指定此参数,表示上限大小,当文档达到上限时,会将之前的数据覆盖,单位为字节

db.createCollection("sub", { capped : true, size : 10 } )

查看当前数据库的集合

show collections

删除命令

db.集合名称.drop()

8. MongoDB文档命令

1.MongoDB的数据类型

Object ID:文档ID

String:  字符串,最常用,必须是有效的UTF-8

Boolean:  存储一个布尔值,true或false

Integer:  整数可以是32位或64位,这取决于服务器

Double:  存储浮点值

Arrays:  数组或列表,多个值存储到一个键

Object:  用于嵌入式的文档,即一个值为一个文档

Null:    存储Null值

Timestamp:时间戳,表示从1970-1-1到现在的总秒数

Date:    存储当前日期或时间的UNIX时间格式

创建日期语句如下

注意:参数的格式为YYYY-MM-DD

new Date('2015-11-11')

object id

每个文档都有一个属性,为_id,保证每个文档的唯一性

可以自己去设置_id插入文档

如果没有提供,那么MongoDB为每个文档提供了一个独特的_id,类型为objectID

objectID是一个12字节的十六进制数:

前4个字节为当前时间戳

接下来3个字节为机器ID

接下来的2个字节为MongoDB的服务进程id

最后3个字节为简单的增量值

2. MongoDB的数据增删改查

1、插入语法:

db.集合名称.insert(document)

插入文档时,如果不指定_id参数,MongoDB会为文档分配一个唯一的ObjectId

例1

db.stu.insert({name:'gj',gender:1})

例2

s1={_id:'2015111',name:'hr'}

s1.gender=0

db.stu.insert(s1)

2、更新语法:

db.集合名称.update(

    <query>,

    <update>,

     {multi:boolean<>}

    )

参数query:查询条件,类似sql语句update中where部分

参数update:更新操作符,类似sql语句update中set部分

参数multi:可选,默认是false,表示只更新找到的第一条记录,

值为true表示把满足条件的文档全部更新

例1:全文档更新

db.stu.update({name:'hr'},{name:'mnc'})

例2:指定属性更新,通过操作符$set

db.stu.insert({name:'hr',gender:0})

db.stu.update({name:'hr'},{$set:{name:'hys'}})

例3:修改多条匹配到的数据

db.stu.update({},{$set:{gender:0}},{multi:true})

3、保存语法:

db.集合名称.save(document)

如果文档的_id已经存在则修改,如果文档的_id不存在则添加

例1

db.stu.save({_id:'20160102','name':'yk',gender:1})

例2

db.stu.save({_id:'20160102','name':'wyk'})

4、删除语法:

db.集合名称.remove(

    query,

    {

    justOne:

    })

参数query:可选,删除的文档的条件

参数justOne:可选,如果设为true或1,则只删除一条,默认false,表示删除多条

例1:只删除匹配到的第一条

db.stu.remove({gender:0},{justOne:true})

例2:全部删除

db.stu.remove({})

9. MongoDB数据查询

1、基本查询:

方法find():查询

db.集合名称.find({条件文档})

方法findOne():查询,只返回第一个

db.集合名称.findOne({条件文档})

方法pretty():将结果格式化

db.集合名称.find({条件文档}).pretty()

2、比较运算符:

等于,默认是等于判断,没有运算符

小于$lt

小于或等于$lte

大于$gt

大于或等于$gte

不等于$ne

例1:查询名称等于'zhangsan'的学生

db.stu.find({name:'zhangsan'})

例2:查询年龄大于或等于18的学生

db.stu.find({age:{$gte:18}})

3、逻辑运算符:

查询时可以有多个条件,多个条件之间需要通过逻辑运算符连接

逻辑与:默认是逻辑与的关系

例1:查询年龄大于或等于18,并且性别为true的学生

db.stu.find({age:{$gte:18},gender:true})

逻辑或:使用$or,值为数组,数组中每个元素为json

例2:查询年龄大于18,或性别为false的学生

db.stu.find({$or:[{age:{$gt:18}},{gender:false}]})

and和or一起使用

例3:查询年龄大于18或性别为true的学生,并且学生的姓名为gj

db.stu.find({$or:[{age:{$gte:18}},{gender:true}],name:'gj'})

4、范围运算符:

使用"$in","$nin" 判断是否在某个范围内

例1:查询年龄为18、28的学生

db.stu.find({age:{$in:[18,28]}})

5、支持正则表达式:

mongodb提供的终端shell,同时也是一个js的执行器,可以编写js的代码和函数

使用//或$regex编写正则表达式

例1:查询姓黄的学生

db.stu.find({name:/^黄/})

db.stu.find({name:{$regex:'^黄'}}})

6、自定义查询:

使用$where后面写一个函数(js函数),返回满足条件的数据

例1:查询年龄大于30的学生

db.stu.find({$where:function(){return this.age>30;}})

10. MongoDB中limit与skip的应用

limit

方法limit():用于读取指定数量的文档

语法:

db.集合名称.find().limit(NUMBER)

参数NUMBER表示要获取文档的条数

如果没有指定参数则显示集合中的所有文档

例1:查询2条学生信息

db.stu.find().limit(2)

skip

方法skip():用于跳过指定数量的文档

语法:

db.集合名称.find().skip(NUMBER)

参数NUMBER表示跳过的记录条数,默认值为0

例1:查询从第3条开始的学生信息

db.stu.find().skip(2)

方法limit()和skip()可以一起使用,不分先后顺序

创建数据集

for(i=0;i<15;i++){db.t1.insert({_id:i})}

查询第5至8条数据

db.stu.find().limit(4).skip(5)

db.stu.find().skip(5).limit(4)

11. MongoDB投影

定义:在查询到的返回结果中,只选择必要的字段,而不是选择一个文档的整个字段

如:一个文档有5个字段,需要显示只有3个,投影其中3个字段即可

语法:

参数为字段与值,值为1表示显示,值为0不显示

db.集合名称.find({},{字段名称:1,...})

对于需要显示的字段,设置为1即可,不设置即为不显示

特殊:对于_id列默认是显示的,如果不显示需要明确设置为0

例1

db.stu.find({},{name:1,gender:1})

例2

db.stu.find({},{_id:0,name:1,gender:1})

12. MongoDB排序

定义:方法sort(),用于对结果集进行排序

语法

db.集合名称.find().sort({字段:1,...})

参数1为升序排列

参数-1为降序排列

例1:根据性别降序,再根据年龄升序

db.stu.find().sort({gender:-1,age:1})

13. MongoDB统计个数

定义:方法count()用于统计结果集中文档条数

语法

db.集合名称.find({条件}).count()

也可以与为

db.集合名称.count({条件})

例1:统计男生人数

db.stu.find({gender:true}).count()

例2:统计年龄大于20的男生人数

db.stu.count({age:{$gt:20},gender:true})

14. MongoDB消除重复

方法distinct()对数据进行去重

语法

db.集合名称.distinct('去重字段',{条件})

例:查找年龄大于18的学生,来自哪些省份

db.stu.distinct('hometown',{age:{$gt:18}})

15. MongoDB聚合 aggregate

定义:聚合(aggregate)主要用于计算数据,类似sql中的sum()、avg()

语法:db.集合名称.aggregate([{管道:{表达式}}])

管道:管道在Unix和Linux中一般用于将当前命令的输出结果作为下一个命令的输入

ps ajx | grep mongo

在mongodb中,管道具有同样的作用,文档处理完毕后,通过管道进行下一次处理

常用管道

$group:将集合中的文档分组,可用于统计结果

$match:过滤数据,只输出符合条件的文档

$project:修改输入文档的结构,如重命名、增加、删除字段、创建计算结果

$sort:将输入文档排序后输出

$limit:限制聚合管道返回的文档数

$skip:跳过指定数量的文档,并返回余下的文档

$unwind:将数组类型的字段进行拆分

表达式:处理输入文档并输出

语法:表达式:'$列名'

常用表达式

$sum:  计算总和,$sum:1同count表示计数

$avg:  计算平均值

$min:  获取最小值

$max:  获取最大值

$push:  在结果文档中插入值到一个数组中

$first: 根据资源文档的排序获取第一个文档数据

$last:  根据资源文档的排序获取最后一个文档数据

16. unwind

将文档中的某一个数组类型字段拆分成多条,每条包含数组中的一个值

语法1

对某字段值进行拆分

db.集合名称.aggregate([{$unwind:'$字段名称'}])

构造数据

db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})

查询

db.t2.aggregate([{$unwind:'$size'}])

语法2

对某字段值进行拆分

处理空数组、非数组、无字段、null情况

属性preserveNullAndEmptyArrays值为false表示丢弃属性值为空的文档

属性preserveNullAndEmptyArrays值为true表示保留属性值为空的文档

db.inventory.aggregate([{

$unwind:{

path:'$字段名称',

preserveNullAndEmptyArrays:#防止数据丢失

}

}])

构造数据

db.t3.insert([

{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },

{ "_id" : 2, "item" : "b", "size" : [ ] },

{ "_id" : 3, "item" : "c", "size": "M" },

{ "_id" : 4, "item" : "d" },

{ "_id" : 5, "item" : "e", "size" : null }

])

使用语法1查询

db.t3.aggregate([{$unwind:'$size'}])

查看查询结果,发现对于空数组、无字段、null的文档,都被丢弃了

问:如何能不丢弃呢?

答:使用语法2查询

db.t3.aggregate([{$unwind:{path:'$size',preserveNullAndEmptyArrays:true}}])

17. MongoDB索引

在mysql中已经学习了索引,并知道索引对于查询速度的提升

mongodb也支持索引,以提升查询速度

步骤一:创建大量数据

在命令行中执行如下代码,向集合中插入10万条文档

注意:不要在图形界面中执行,因为软件原因无法插入10万条数据就会中断执行

for(i=0;i<100000;i++){

db.t1.insert({name:'test'+i,age:i})

}

步骤二:数据查找性能分析

查找姓名为'test10000'的文档

db.t1.find({name:'test10000'})

使用explain()命令进行查询性能分析

db.t1.find({name:'test10000'}).explain('executionStats')

其中的executionStats下的executionTimeMillis表示整体查询时间,单位是毫秒

性能分析结果如下图,由于机器的配置原因这个时间也会不同

索引前

性能分析结果

步骤三:建立索引

创建索引

1表示升序,-1表示降序

db.集合.ensureIndex({属性:1})

db.t1.ensureIndex({name:1})

步骤四:对索引属性查询

执行上面的同样的查询,并进行查询性能分析

db.t1.find({name:'test10000'}).explain('executionStats')

性能分析结果如下图

索引后:

索引的命令

建立唯一索引,实现唯一约束的功能

db.t1.ensureIndex({"name":1},{"unique":true})

联合索引,对多个属性建立一个索引,按照find()出现的顺序

db.t1.ensureIndex({name:1,age:1})

查看文档所有索引

db.t1.getIndexes()

删除索引

db.t1.dropIndex('索引名称')

18. MongoDB 备份与恢复

备份

语法:

mongodump -h dbhost -d dbname -o dbdirectory

-h:服务器地址,也可以指定端口号

-d:需要备份的数据库名称

-o:备份的数据存放位置,此目录中存放着备份出来的数据

例1

sudo mkdir test1bak

sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1bak

恢复

语法:

mongorestore -h dbhost -d dbname --dir dbdirectory

-h:服务器地址

-d:需要恢复的数据库实例

--dir:备份数据所在位置

例1

mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1bak/test1

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,948评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,371评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,490评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,521评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,627评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,842评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,997评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,741评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,203评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,534评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,673评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,339评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,955评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,770评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,000评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,394评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,562评论 2 349

推荐阅读更多精彩内容