第一章:基于HTTP的内存缓存服务


1. 本章实现原理

2. REST接口定义

* PUT /cache/<key>
   请求正文 **-** <value>

* GET /cache/<key>
   响应正文 
   <value>

* DELETE /cache/<key>
   响应正文 
   <value>

* GET /status
   响应正文 
   JSON格式的缓存状态

3.缓存功能流程

  • SET


  • GET


  • DEL


4. Go语言实现HTTP内存缓存服务

  • 本程序的依赖
# 初始化go mod
go mod init cache-server
# 安装第三方依赖库
go get github.com/go-redis/redis
go get github.com/hashicorp/memberlist
go get stathat.com/c/consistent
  • main包的实现
    • 缓存服务的main包只有一个函数,就是main函数,在Go语言中,如果某个项目需要被编译为可执行程序,那么它的源码就需要有一个main包,如果项目不需要被编译为可执行程序,只是实现一个库,则可以没有main包和main函数
# "main.go" 文件名
package main
func main() {
    c := cache.New("inmemory")
}
  • cache包的实现
    • 我们在cache包中实现服务的缓存功能。在cache包中,我们首先声明一个Cache接口
# "cache/cache.go" 文件夹/文件名
package cache

type Cache interface {
    Set(string, []byte) error
    Get(string) ([]byte, error)
    Del(string) error
    GetStat() Stat
}

在go语言中,接口和实现是完全分开的。开发者可以自由声明一个接口,然后以一种或多种方式去实现这个接口,我们看到的就是一个名为Cache的接口名称

  • cache包中的Stat结构体实现
# "cache/stat.go"
package cache

type Stat struct {
    Count     int64
    KeySize   int64
    ValueSize int64
}

func (s *Stat) add(k string, v []byte) {
    s.Count += 1
    s.KeySize += int64(len(k))
    s.ValueSize += int64(len(v))
}

func (s *Stat) del(k string, v []byte) {
    s.Count -= 1
    s.KeySize -= int64(len(k))
    s.ValueSize -= int64(len(v))
}

stat用于记录存储的状态,当我们添加一个key-value时,我们会累积keySize和ValueSize,当我们删除一个key-value时,我们会减去keySize和ValueSize,count则记录我们存储了几对key-value

  • cache包中New函数实现
# "cache/new.go"
package cache

import "log"

func New(typ string) Cache {
    var c Cache
    if typ == "inmemory" {
        c = newInMemoryCache()
    }
    if c == nil {
        panic("unknown cache type" + typ)
    }

    log.Println(typ, "ready to serve")
    return c
}

当我们执行New函数时,如果传入的是 "inmemory", 那么我们返回的是一个cache实例,如果是一个空,那么我们就抛出一个错误,内容为 “unknown cache type”。

  • cache包中 inMemoryCache 的实现
# "cache/inmemory.go"
package cache

import (
    "sync"
)

type inMemoryCache struct {
    c     map[string][]byte
    mutex sync.RWMutex
    Stat
}

func (c *inMemoryCache) Set(k string, v []byte) error {
    /*
        当至少有一个goroutine写时,就会调用这一行,此时他会等待所有其他读写锁释放,然后自己加锁
        在它加锁后其他groutine需要加锁时就需要等待它先解锁,这样当同时有两个set的请求时,
        第一个先被执行的set会开始加锁,然后第二个set请求会等待第一个set请求执行完并且解锁后才会继续执行
        属于自己的set函数
    */
    c.mutex.Lock()
    defer c.mutex.Unlock() // 当函数执行完后解锁,让下一个请求可以执行
    tmp, exist := c.c[k]
    if exist {
        c.del(k, tmp)
    }
    c.c[k] = v
    c.add(k, v)
    return nil
}

func (c *inMemoryCache) Get(k string) ([]byte, error) {
    c.mutex.RLock()
    defer c.mutex.RUnlock()
    return c.c[k], nil
}

func (c *inMemoryCache) Del(k string) error {
    c.mutex.Lock()
    defer c.mutex.Unlock()
    v, exist := c.c[k]
    if exist {
        delete(c.c, k)
        c.del(k, v)
    }
    return nil
}

func (c *inMemoryCache) GetStat() Stat {
    return c.Stat
}

func InMemoryCache() *inMemoryCache {
    return &inMemoryCache{
        make(map[string][]byte),
        sync.RWMutex{},
        Stat{},
    }
}

func newInMemoryCache() *inMemoryCache {
    return &inMemoryCache{make(map[string][]byte), sync.RWMutex{}, Stat{}}
}

inMemoryCache 结构体包含一个成员c,类型是以string为key, 以 []byte 为value的map,用来保存键值对;一个mutex,类型是sync.RWMutex,用来对map的并发访问提供读写锁保护;一个Stat,用来记录缓存的状态,stat作为一个结构体,嵌入到inMemoryCache结构体中,相当于类的继承,将一个类的实例化对象,作为另一个类的类属性。

  • http包的实现
    • http包用来实现我们的HTTP服务,我们在HTTP包里并没有声明接口,而是直接声明了一个Server结构体
# "http/server.go" 文件夹/文件名 http文件夹与main.go 与 cache文件夹同级
package http

import (
    "cache-server/cache"  // 如果报错为找不到,请检查一下go.mod 文件第一行是否为 module cache-server
    "net/http"
)

type Server struct {
    cache.Cache
}

func (s *Server) Listen() {
    http.Handle("/cache/", s.cacheHandler())
    http.Handle("/status", s.statusHandler())
    http.ListenAndServe(":12345", nil)
}

func New(c cache.Cache) *Server{
    return &Server{c}
}
  • http包下的cacheHandler 相关实现
# "http/cache.go"
package http

import (
    "io/ioutil"
    "log"
    "net/http"
    "strings"
)

type cacheHandler struct {
    *Server
}

func (h *cacheHandler) ServeHTTP(w http.ResponseWriter, r *http.Request) {
    key := strings.Split(r.URL.EscapedPath(), "/")[2]
    if len(key) == 0 {
        w.WriteHeader(http.StatusBadRequest)
        return
    }
    m := r.Method
    if m == http.MethodPut {
        b, _ := ioutil.ReadAll(r.Body)
        if len(b) != 0 {
            e := h.Set(key, b)
            if e != nil {
                log.Println(e)
                w.WriteHeader(http.StatusInternalServerError)
            }
        }
        return
    }
    if m == http.MethodGet {
        b, e := h.Get(key)
        if e != nil {
            log.Println(e)
            w.WriteHeader(http.StatusInternalServerError)
            return
        }
        if len(b) == 0 {
            w.WriteHeader(http.StatusNotFound)
            return
        }
        w.Write(b)
        return
    }
    if m == http.MethodDelete {
        e := h.Del(key)
        if e != nil {
            log.Println(e)
            w.WriteHeader(http.StatusInternalServerError)
        }
        return
    }
    w.WriteHeader(http.StatusMethodNotAllowed)
}

func (s *Server) cacheHandler() http.Handler {
    return &cacheHandler{s}
}
  • http包下statusHandler 相关实现
# "http/status.go"
package http

import (
    "encoding/json"
    "log"
    "net/http"
)

type statusHandler struct {
    *Server
}

func (h *statusHandler) ServeHTTP(w http.ResponseWriter, r *http.Request) {
    if r.Method != http.MethodGet {
        w.WriteHeader(http.StatusMethodNotAllowed)
        return
    }
    b, e := json.Marshal(h.GetStat())
    if e != nil {
        log.Println(e)
        w.WriteHeader(http.StatusInternalServerError)
        return
    }
    w.Write(b)
}

func (s *Server) statusHandler() http.Handler {
    return &statusHandler{s}
}

5. 功能演示

  • 请提前配置好$GOPATH环境变量
$ go build *.go
$ ./main
2021/09/01 00:46:59 inmemory ready to serve

当显示inmemory ready to serve时,我们的服务就启动成功了

  • 测试命令
# set 设置key-value
$ curl -v 127.0.0.1:12345/cache/name -XPUT -dxiaofeixia
*   Trying 127.0.0.1...
* TCP_NODELAY set
* Connected to 127.0.0.1 (127.0.0.1) port 12345 (#0)
> PUT /cache/name HTTP/1.1
> Host: 127.0.0.1:12345
> User-Agent: curl/7.64.1
> Accept: *r'/'*
> Content-Length: 10
> Content-Type: application/x-www-form-urlencoded
> 
* upload completely sent off: 10 out of 10 bytes
< HTTP/1.1 200 OK
< Date: Tue, 31 Aug 2021 16:50:47 GMT
< Content-Length: 0
< 
* Connection #0 to host 127.0.0.1 left intact
* Closing connection 0

# get 获取key-value
$ curl 127.0.0.1:12345/cache/name -XGET             
xiaofeixia%

# status 查询存储状态
$ curl 127.0.0.1:12345/status   
{"Count":1,"KeySize":4,"ValueSize":10}% 

# del 删除key-value   删除后可以在查看一下status,是否清0
$ curl 127.0.0.1:12345/cache/name -XDELETE

6. cache-server 与 redis 的 benchmark 比较

....

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,530评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 86,403评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,120评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,770评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,758评论 5 367
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,649评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,021评论 3 398
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,675评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,931评论 1 299
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,659评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,751评论 1 330
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,410评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,004评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,969评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,203评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,042评论 2 350
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,493评论 2 343