【一文读懂】百度一下,背后可不只是简单的一下

今天张叔叔给大家科普一下百度一下是如何实现的。百度被称为中国最大的搜索引擎,全球最大的中文搜索引擎,这个的确不是吹嘘。百度每天处理的搜索请求量都是百亿级别,可以用手指数一下“个十百千万...”,你会惊奇的发现,十个手指头都不够百亿单位。

什么是引擎?引擎可以直接理解为发动机,百度搜索引擎顾名思义就是百度为搜索提供的发动机,借此为大家提供孜孜不倦的搜索服务,满足大家每天的搜索请求。搜索引擎到底如何实现的呢,带着问题和好奇心跟张叔叔一起学习吧。

搜索引擎最终提供给大家的是各种各样的搜索结果,那么这些结果从哪来的?简而言之就是通过网络爬虫从网络上爬取的,具体网络爬虫是如何工作的,可以参见叔叔之前的文章《什么是网络爬虫,每天都在忙乎什么》。百度每天都有海量的网络爬虫在计算机网络中忙碌着,它们从各种网站上爬取网页,图片,视频等等信息。这些信息获取到之后,百度可不是简单的就存储到自己的服务器上面,他们要做很多事情来保证我们可以搜索到这些内容。为了讲解方便,叔叔后面就以网页检索为例。

先开动脑筋思考一个问题,如果放在你面前一本书,如何快速的找到这本书中所有的成语“滴水穿石”所在的页码?是不是能想到的唯一方法就是翻遍整本书,一页一页的去查找成语的位置,如果这本书很薄还好,如果像《西游记》原著那么厚,我想找到所有页码大概得需要一整天时间了。如果换个场景,叔叔给你一本词典,让你找到词典中的成语“滴水穿石”,你大概需要多久?是不是不到一分钟就可以找到了。

为什么词典会比一页一页翻书查找得更快?原因很简单,是因为词典前面有一个目录,可根据首字母进行查找,通过首字母可以大大的缩小查找范围,这样便可以快速的找到你要查找的词语了。百度通过网络爬虫获取到海量的网页内容,如果把每一个网页想象成一页纸,那么百度每天就是在一本拥有上亿页的书中帮大家查询内容。为了提高查询的速度,同样需要创建类似于词典中的目录,不过百度搜索引擎中这个东西叫作索引。

索引如何构建的?如果此刻你想到了这个问题,说明你很爱思考。假设今天百度爬虫获取到了两个网页内容A和B,A中讲述的是赵丽颖和冯绍峰结婚了,B中讲述的是赵丽颖的新电影《张叔叔的美好时光》。当百度获取到这两个网页之后,首先提取出网页中的文字内容然后进行分词处理。分词是什么?分词就是把句段篇分割成字词。比如A网页就会被分词成为赵丽颖、冯绍峰、结婚等,B网页被分词成为赵丽颖、张叔叔、美好时光等。此刻我们就得到了一个网页与分词的对应关系,主谓关系是网页包含词语。索引的构建正好是相反的关系,百度会记录赵丽颖这个词语出现在了哪些网页中,很明显赵丽颖出现在了网页A和网页B中,冯绍峰出现在网页A中,张叔叔出现在网页B中。这个地方就好比创建了词典中的目录,当你想查找赵丽颖的时候,可以快速定位到网页A和网页B。索引创建好之后可以支持快速检索了,我们输入的搜索内容百度如何处理的呢?

出于八卦,今天你在百度搜索中填写了“赵丽颖和冯绍峰啥时候结婚的”,你点击“百度一下”按钮之后,你的搜索请求通过计算机网络传递到了百度服务器,百度服务器首先会对你的搜索内容也进行分词处理,最终分词结果为赵丽颖、冯绍峰、时候、结婚。那么通过索引可以快速的获取到赵丽颖所在的网页A和B,冯绍峰获取到了网页A,时候和结婚分别也获取到了各自的网页。对于这四个词所在的网页求交集(交集就是大家都拥有的),最终发现A是最满足条件的结果,百度就把网页A返回给了你,当你点击打开A网页之后就看到了你想看到的信息。

那问题来了,当搜索“赵丽颖”的时候,网页A和网页B都满足条件,返回给搜索者的时候,A和B的顺序如何决定的?

先来思考一个问题,如果网页A重点介绍的是赵丽颖和冯绍峰结婚的消息,还附属介绍了赵丽颖的前任们、代表作等娱乐消息;网页B重点介绍的是赵丽颖的新电影《张叔叔的美好时光》,介绍了电影的导演、演员阵容、内容介绍、上映时间等。如果你现在化身百度的服务器,当用户搜索“赵丽颖”的时候,你更想把哪个网页放到前面让用户看到?

张叔叔掐指一算,你会优先把网页A返回给用户。扪心自问一下,是怎么样的思考过程让你最终选择把A放到前面的?其实是网页内容的重点左右了你的选择,很明显网页A更加偏重介绍赵丽颖这位美女明星,而网页B的介绍重点是电影《张叔叔的美好时光》。如果此处你都抓不住内容重点,说明你们语文老师可能之前是教体育的。同样的,百度在对返回结果进行排序的时候也会考虑哪一个网页与搜索内容“赵丽颖”更相关,百度服务器只会计算,是不会像我们这样思考的,它们是如何计算出来的呢?

给大家介绍一种主流的计算方法:TF-IDF,英文全称term frequency–inverse document frequency,千万不要被这复杂的词汇吓到,有叔叔在,一切且可理解。先把它翻译成中文就是词频-文档频率,词频就是在一个网页中这个词出现的次数,比如网页A中“赵丽颖”出现了10次,在网页B中“赵丽颖”出现了3次,从这个角度来看,是不是网页A更与“赵丽颖”有关了呢。

仅仅依赖词频来判断是不够的,比如有个思维比较另类的同学搜索“的”这个字,因为“的”是一个比较常见的字,那么网页A和网页B中包含“的”的数目就差别不大了,很难判断哪个网页更加偏重“的”。由于“的”的普遍性,也就没有办法展现出哪个网页更符合搜索结果。如果所有网页中都包含“赵丽颖”,网页A和B也就不会那么突出了。那如何体现词语的特殊性呢,于是引入了IDF(文档频率),如果所有文档中都有这个词,那说明大家都有,这个词也就不重要了;如果就几个文档中有这个词,说明这个词在这几篇文档中地位很重要。这个时候再次回忆一下童年,是不是所有小朋友家都有的玩具往往被扔到角落里面,你就独爱那个别人家没有的玩具。

百度就是根据词频-文档频率这个思路,最终算出来网页A比网页B更加满足搜索请求“赵丽颖”(现实中比这个复杂多了喔)。到此为止,是不是对于百度一下背后发生了什么有了一个比较清晰的认识了?

大家经常听到“竞价排名”这个词,这个是什么意思呢?张叔叔先给大家科普一下,据统计表明,绝大多数人只会点击搜索结果的前几个。这个对于商家来说诱惑力很大,如果商家的网站在搜索结果中越是靠前,那么被点击的概率越大,直接导致自己的销量越大。比如有两家卖冰箱的公司A和B,为了让自己的排名比较靠前,A公司就花钱买了百度关键词“冰箱”的排名,当用户搜索“冰箱”的时候,A就会排在B前面,这就造成了很多用户去点击和购买A公司的冰箱。

友情提示:现在百度不是完全按照钱多钱少来确定排名,也会综合考虑其他因素。

如果你或者爸爸妈妈使用了百度APP,你会发现百度每天都会给你推送你喜欢的新闻,那这个是怎么做到的?其实和叔叔之前的文章《当妈妈在淘宝的时候,都发生了什么?》中淘宝通过搜集你妈妈的行为记录来推荐购买其他商品一样,百度也会搜集你平时的搜索和浏览记录,然后就可以分析出你的爱好,之后就能推荐你喜欢的东西了!

百度一下背后的故事有一定的难度喔,希望大家能够仔细思考,下次再百度的时候你就明白这背后的逻辑了!

【张叔叔科普数据】

2018年6月,百度APP日活超过1.5亿,这个只是每天使用百度APP的用户量。不可否认,几乎每天使用电脑的人都或多或少使用百度,这个数量几乎等于中国网民的数量。如果网民每天平均使用三次百度的话,那就会产生百亿级别的搜索请求。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,869评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,716评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,223评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,047评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,089评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,839评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,516评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,410评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,920评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,052评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,179评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,868评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,522评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,070评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,186评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,487评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,162评论 2 356

推荐阅读更多精彩内容

  • 寒天雪地风刺骨,独树一帜始盛开。 不与百花齐争艳,独自绽放天地间。
    守一座城待一个人阅读 154评论 0 1
  • 身边是烈火熊熊燃烧,温度灼得似乎连盔甲都能融化,燕灼小小的身影在被大火席卷的战场上,好像很快就可以化为灰烬。她努力...
    玄芨阅读 262评论 0 0
  • 儿子长大了 马上到北京上大学 你忙忙碌碌 还是二十年前的样子 马尾辫 走起路来 左右摇摆 上下跳跃 几件T恤衫 不...
    峰霞仙子阅读 208评论 5 5
  • 170329 空气湿漉漉的,不同于以往的阴天,走在去教室的路上突然感到时光错位。 脑海里是仙米林场氤氲而起的薄雾,...
    XxXxXxN阅读 168评论 0 0