Mongo使用聚合框架可以对集合中的文档进行变换和组合。原理是用多个构件(筛选filtering、投射projecting、分组grouping、排序sorting、限制limiting、跳过skipping)创建一个管道(pipeline),用于对文档的处理。
eg: db.articles.aggregate({"$project" : {"author" : 1}}, → 集中的文档为{"_id":id,"author":author}
{"$group" : {"_id" : "$author", "count" : {"$sum" : 1}}}, → {"_id":author,"count":num}
{"sort" : {"count" : -1}}, → 对count字段降序处理
{"limit" : 5}); → 返回前五个
逻辑和运算的表达式
统计学生成绩,出勤10%,平时分30%,期末成绩60%,但如果免修则直接100分
db.student.aggregate(
{
"$project" : {
"grade" : {
"$cond" : [ →cond : [boolExpr, trueExpr, falseExpr] 如果bool为true就返回第二个,否者返回第三个参数
"$isExemption",
100,
{
"$add" : [
{"$multiply" : [.1, "$attendanceAvg"]},
{"$multiply" : [.3, "$quizzAvg"]},
{"$multiply" : [.6, "$testAvg"]}
]
}
]
}
}
});
MapReduce:灵活,能够用js表达任意复杂的逻辑,但是非常慢,不应该用在实时的数据分析中。
1)映射(map):将操作映射到集合中的每个文档。
2)洗牌(shuffle):按照键分组,并将产生的键值组成列表放到对应的键中。
3)化简(reduce):把列表中的值化简成一个单值。这个值被返回,然后接着洗牌,知道每个键的列表只有一个值为止,这个值也就是最终的结果。
这里举一个给网页分类的例子,有很多链接,每个链接都含有标签(politics、geek等)用MapReduce找出最热门的主题,热门与否与时间也有关系。
map = function(){
for(let i in this.tags){ → 对每个标签计算出分值
let recency = 1/(new Date() - this.date);
let score = recency * this.score;
emit(this.tags[i], {"urls": [this.url], "score": score});
}
};
化简同一标签的所有值,得到标签的分数
reduce = function(key, emits){
let total = {urls: [], score: 0}; → reduce需要能在之前的map阶段或者前一个reduce的结果上反复执行
for(let i in emits){ → 所以reduce返回的文档必须能作为reduce的第二个参数的一个元素
emits[i].urls.forEach(url => {
total.urls.push(url);
})
total.score += emits[i].score;
}
return total;
}