ceph rgw:object tagging实现

object tagging也是L版本新增加的特性,在L版本的release notes中描述如下:

S3 Object Tagging API has been added; while APIs are supported for GET/PUT/DELETE object tags and in PUT object API, there is no support for tags on Policies & Lifecycle yet

主要关注点是

  1. PUT/GET/DELETE Object Tags的实现和使用情况
  2. 与lifecycle或policy结合的功能的实现情况

实现

rgw对tagging的实现比较简单,一个rgw object的tags就存储在这个rgw object对应的rados的header对象的xattr中。使用时也是直接从对应对象的xattr查询。相关代码片段见附录。

关注点1:PUT/GET/DELETE Object Tags操作

创建用于测试的bucket和object:testbukcet/testobj。
用curl模拟PUT/GET/DELETE Object Tags的http请求。

PUT Object Tags

将tagging信息以xml格式存在文件中,使用PUT方法设置object tags。
文档:http://docs.aws.amazon.com/AmazonS3/latest/API/RESTObjectPUTtagging.html

 #!/bin/bash
 
access_key="0555b35654ad1656d804"
secret_key="h7GhxuBLTrlhVUyxSPUKUV8r/2EI4ngqJxD7iBdBYLhwluN30JaT3Q=="
date=$(date -R -u)
string_to_sign="PUT\n\n\n${date}\n/testbucket/testobj?tagging"
signature=$(echo -en ${string_to_sign} | openssl sha1 -hmac ${secret_key} -binary | base64)
content_length="126"

curl "http://127.0.0.1:8000/testbucket/testobj?tagging"             \
    -H "Content-Length: ${content_length}"                          \
    -H "Date: ${date}"                                              \
    -H "User-Agent: cmh-test"                                       \
    -H "Authorization: AWS ${access_key}:${signature}"              \
    -H "Expect:"                                                    \
    -X PUT -T ./testtagging.xml -v

GET Object Tags

文档:http://docs.aws.amazon.com/AmazonS3/latest/API/RESTObjectGETtagging.html

#!/bin/bash

access_key="0555b35654ad1656d804"
secret_key="h7GhxuBLTrlhVUyxSPUKUV8r/2EI4ngqJxD7iBdBYLhwluN30JaT3Q=="
date=$(date -R -u)
string_to_sign="GET\n\n\n${date}\n/testbucket/testobj?tagging"
signature=$(echo -en ${string_to_sign} | openssl sha1 -hmac ${secret_key} -binary | base64)

curl "http://127.0.0.1:8000/testbucket/testobj?tagging"             \
    -H "Date: ${date}"                                              \
    -H "User-Agent: cmh-test"                                       \
    -H "Authorization: AWS ${access_key}:${signature}"              \
    -H "Expect:"                                                    \
    -X GET -v

DELETE Object Tags

文档:http://docs.aws.amazon.com/AmazonS3/latest/API/RESTObjectDELETEtagging.html

#!/bin/bash

access_key="0555b35654ad1656d804"
secret_key="h7GhxuBLTrlhVUyxSPUKUV8r/2EI4ngqJxD7iBdBYLhwluN30JaT3Q=="
date=$(date -R -u)
string_to_sign="DELETE\n\n\n${date}\n/testbucket/testobj?tagging"
signature=$(echo -en ${string_to_sign} | openssl sha1 -hmac ${secret_key} -binary | base64)

curl "http://127.0.0.1:8000/testbucket/testobj?tagging"             \
    -H "Date: ${date}"                                              \
    -H "User-Agent: cmh-test"                                       \
    -H "Authorization: AWS ${access_key}:${signature}"              \
    -H "Expect:"                                                    \
    -X DELETE -v

根据前面所说,tagging的内容是存储在testobj对应的rados 对象的xattr中的,在增删tagging前后,可以使用下面的命令看查看testobj的xattr增改。

$ ./bin/rados -p default.rgw.buckets.data listxattr 38d08ed7-3883-49de-ab89-0dea7c8c960f.4162.2_testobj

关注点2:lifecycle根据tag进行对象淘汰

这部分在L版本的release notes的描述中,是不被支持的。但在master版本的代码中是有写的,具体见附录最后“lifecycle机制中的tagging应用”。

附录:代码片段

RGWPutObjTags::execute()

设置obj tagging的代码,可以看到,代码将tag信息以RGW_ATTR_TAGS作为key,存储在对应object的xattr中。

void RGWPutObjTags::execute(){
  op_ret = get_params();
  if (op_ret < 0)
    return;

  if (s->object.empty()){
    op_ret= -EINVAL; // we only support tagging on existing objects
    return;
  }

  rgw_obj obj;
  obj = rgw_obj(s->bucket, s->object);
  store->set_atomic(s->obj_ctx, obj);
  op_ret = modify_obj_attr(store, s, obj, RGW_ATTR_TAGS, tags_bl);
  if (op_ret == -ECANCELED){
    op_ret = -ERR_TAG_CONFLICT;
  }
}

RGWGetObjTags::execute()

获取tag的代码,可以看到,代码获取了对应object的xattr,然后通过RGW_ATTR_TAGS作为key读取。

void RGWGetObjTags::execute(){
  rgw_obj obj;
  map<string,bufferlist> attrs;

  obj = rgw_obj(s->bucket, s->object);

  store->set_atomic(s->obj_ctx, obj);

  op_ret = get_obj_attrs(store, s, obj, attrs);
  if (op_ret < 0) {
    ldout(s->cct, 0) << "ERROR: failed to get obj attrs, obj=" << obj
             << " ret=" << op_ret << dendl;
    return;
  }

  auto tags = attrs.find(RGW_ATTR_TAGS);
  if(tags != attrs.end()){
    has_tags = true;
    tags_bl.append(tags->second);
  }
  send_response_data(tags_bl);
}

RGWDeleteObjTags::execute()

void RGWDeleteObjTags::execute(){
  if (s->object.empty())
    return;

  rgw_obj obj;
  obj = rgw_obj(s->bucket, s->object);
  store->set_atomic(s->obj_ctx, obj);
  map <string, bufferlist> attrs;
  map <string, bufferlist> rmattr;
  bufferlist bl;
  rmattr[RGW_ATTR_TAGS] = bl;
  op_ret = store->set_attrs(s->obj_ctx, s->bucket_info, obj, attrs, &rmattr);
}

lifecycle机制中的tagging应用

在worker线程遍历lifecycle对应的bucket下的objects时,其中有一步就是查询该对象xattr中的tags,与lifecycle规则中的tags进行对比。

bucket_lc_process函数代码片段:

if (prefix_iter->second.obj_tags != boost::none) {
  bufferlist tags_bl;
  // 从object的xattr中获得tags
  int ret = read_obj_tags(store, bucket_info, obj, rctx, tags_bl);
  // read_obj_tags的代码实现,可以看到,它做的就是获取对象的xattr,并使用RGW_ATTR_TAGS作为key获得tags对应的entry。
  /*  
      static int read_obj_tags(RGWRados *store, RGWBucketInfo& bucket_info, rgw_obj& obj, RGWObjectCtx& ctx, bufferlist& tags_bl)
      {
        RGWRados::Object op_target(store, bucket_info, ctx, obj);
        RGWRados::Object::Read read_op(&op_target);
        return read_op.get_attr(RGW_ATTR_TAGS, tags_bl);
      }
  */
  RGWObjTags dest_obj_tags;
  try {
    auto iter = tags_bl.begin();
    // 将bufferlist中的tags信息decode到dest_obj_tags中
    dest_obj_tags.decode(iter);
  } catch (buffer::error& err) {
     ldout(cct,0) << "ERROR: caught buffer::error, couldn't decode TagSet" << dendl;
    return -EIO;
  }
  // 判断当前遍历的object的tags和lifecycle中指定的tags是否相同,如果不相同则跳过该object,否则进行后续的其他验证和删除操作
  if (!includes(dest_obj_tags.get_tags().begin(),
                dest_obj_tags.get_tags().end(),
                prefix_iter->second.obj_tags->get_tags().begin(),
                prefix_iter->second.obj_tags->get_tags().end())){
    ldout(cct, 20) << __func__ << "() skipping obj " << key << " as tags do not match" << dendl;
    continue;
  }
}
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,761评论 5 460
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,953评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,998评论 0 320
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,248评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,130评论 4 356
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,145评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,550评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,236评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,510评论 1 291
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,601评论 2 310
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,376评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,247评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,613评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,911评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,191评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,532评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,739评论 2 335

推荐阅读更多精彩内容