CDN Web Cache 原理及代理方式

CDN出现之前的网站服务技术

  • Scale up/Scale out
    Scale up:提升服务器硬件配置,无效解决远距离传输的质量问题,需要对整个系统进行硬件升级,灵活性和可扩展性差。
    Scale out:服务器集群
  • Mirroring
    镜像通常用来备份,应用于镜像网站,对整个网站中的内容进行镜像复制,进行多点部署。用户在访问网站时,自主选择速度快的站点,降低主站的负载。
    实现方法:镜像服务器安装可以自动远程备份的软件,间隔一定时间,会向源服务器获取最新内容。
    优:对主站用户分流,应急备份
    劣:用户选择具有盲目性,不能时刻起到就近服务;成本较高,对于源站完全复制。
  • 缓存技术 CDN技术就是缓存技术的分布式实现
    把访问过的媒体数据进行存储,重复使用。
    分层缓存部署:在不同物理层部署多台缓存服务器,上层缓存作为下层缓存的内容存储器,为下层缓存供应所需内容。向用户提供服务的下层缓存向上层缓存服务器提供所需内容,而不是从源站请求。
    优:用户获得内容的时间短,分担主站压力

Cache 设备原理及代理

Cache设备分为Web-cache和流媒体Cache两类。
Web-cache用于普通网页的内容缓存,也提供一定的流媒体、下载支持。
流媒体Cache用于对视频流媒体进行加速,功能单一。
在一次网页访问的过程中,通常是这样的:用户->代理->网关->web服务器。Web-cache设备通常部署在这条访问的路径上,通过正向代理、透明代理的模式,应用最多的地方在网关上。
代理相关软件推荐:squid(开源),nginx(开源),
(内网安全行为审计也是基于此原理,主要指的是透明代理)

  • 正向代理(Forward proxy)

用户需要自行设置代理地址为Web-cache服务器地址,用户对互联网的网络访问全部通过这个代理地址访问。正向代理支持冗余配置,保证系统的稳定性。(通常提到代理,默认指正向代理)

User proxy device web server
[src:user ] [src:user ] [src:proxy device ]
[dst:proxy ] [dst:gateway ] [dst:local ]
[req:www.baidu.com] [req:www.baidu.com] [res:index.html]



动态描述:User配置好代理设备IP并发起网络访问后,所有的数据流量都会经过Proxy device的审核,检测代理缓存是否含有User所需的数据,如有直接返回相应数据,若无,则向serverIp获取信息,并由proxy device返回给User。

  • 正向代理的应用
    1. User无法直接访问web server,需要使用proxy,“Over Wall”就是这个道理

    2. 加速访问web server,一些游戏加速器就是这个道理

    3. 内网用户鉴权,就是上文提到的内网行为审计

    4. 保护访问路径,通过proxy做跳板访问web server不显示User所在ip,“”肉鸡”就是这个道理

    5. Cache缓存设备,细节同动态描述

  • 反向代理(Backward proxy)

反向代理无需User设置,反向代理中的Cache device 地址作为被访问站点的服务器地址,写入了DNS列表,用户无法感知,对于用户透明。区别于正向代理的地方是反向代理仅能对特定站点进行加速,内容分发。多用ISP/ICP和运营商环境,增加User访问速度和提高满意度。当网络中Cache设备数目较多时,需要引入GSLB设定内容分发策略,对全网Cache节点进行负载均衡,

User DNS server proxy web server
src:local src:local
dst:DNS server dst:usr
req:who's www.baidu.com res:proxy address
---- ---------- ----- ---------
src:local src:user
dst:proxy dst:"web server"or local
req:Get index.html res:index.html

特点:主站服务器只与代理cache设备内容交换,不与User直接通信。cache设备的作用是提供负载分担,安全隔离。对于CDN技术来说,智能DNS也是很关键的技术。

  • 透明代理(Transparent proxy)

User无需配置代理,cache设备为指定用户服务有两种办法:a.user路由设备支持WCCP协议,会将指定用户流量转发至cache设备。b.利用四层交换机对指定用户进行流量转发。

User proxy web server
src:local src:User src:gateway
dst:web server dst:web server dst:local
req:Get index.html req:Get index.html res:index.html

特点:User无察觉代理审计,直接对数据包进行修改,可对用户鉴权,再决定是否回应相关数据包给user。(透明代理可以截获用户数据,完成安全认证及访问控制)

  • web cache 实现关键
  • Web-cache 相当于中间人,原本一次点对点的http请求,可能变成多次http请求,实现HTTP协议能力和缓存工作。
  • 根据不同应用场景来确立相应策略,主要针对性能和业务。可以从以下方面考虑:
    并发连接数量、并发流量大小、存储空间大小、cpu处理性能及缓存大小;
    web cache对数据的分析、过滤和安全保障。
  • 面向运营商的Web-cache要求比面向web站的要高很多。

原文: http://www.chieh.cc/posts/tech/2016-04-19-2016-04-19-Web-Cache-原理及代理方式.html  作者: Chieh

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,029评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,395评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,570评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,535评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,650评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,850评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,006评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,747评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,207评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,536评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,683评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,342评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,964评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,772评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,004评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,401评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,566评论 2 349

推荐阅读更多精彩内容

  • Spring Cloud为开发人员提供了快速构建分布式系统中一些常见模式的工具(例如配置管理,服务发现,断路器,智...
    卡卡罗2017阅读 134,633评论 18 139
  • 上一篇《WEB请求处理一:浏览器请求发起处理》,我们讲述了浏览器端请求发起过程,通过DNS域名解析服务器IP,并建...
    七寸知架构阅读 80,944评论 21 356
  • 工作流程 一次HTTP操作称为一个事务,其工作过程可分为四步: 1)首先客户机与服务器需要建立连接。只要单击某个超...
    保川阅读 4,587评论 2 14
  • 看了这么多的干货,小编这次要放鸡汤了,唉唉唉,别走啊,看完了再吐槽啊。 前几天小编看了《小王子》觉得深有感触,当然...
    被子哥阅读 288评论 0 1
  • 群通知:各位同修,在修行中难免出现学佛困惑,大家也知道,每晚八点师父都会给大家讲法,而且经常会抽出时间来给各位讲解...
    幻影卐揭谛阅读 332评论 0 0