利用robotframework实现大数据测试

最近,测试的系统准备重构,组内商量把系统所有的指标计算逻辑方法梳理出来,形成一份可统一指导开发和测试的文档,并会在后面新需求的补充和维护。鉴于这个前提,对于测试方面,分享一些个人的想法。
由于系统的数据量是数十亿计的,指标也是过百,如果把这份文档整理出来,感觉可以把系统的指标数据准确性校验做成自动化,做成内检测。目前,系统的转化率报表页面的指标已经确定下来并落实到文档了。所以,我对该页面的指标,简单写了一套接口数据自动化校验的测试脚本,欢迎大家提出宝贵的建议。

自动化测试框架目录结构:
自动化框架选型上,选择了Robot Framework(以下简称“RF”)作为这次自动化测试的核心底层框架,同时选择Python + RequestsLibrary第三方库和自己开发的测试库pylib 作为扩展测试库,给RF作为底层库调用。
分层如下:

1、case_test层,放测试用例的脚本,执行测试的入口。
2、data层,放数据文件,实现数据与代码分离。
3、pylib层,放用python开发的测试库,给RF调用。
4、rflib层,放RF的资源文件,可供所有测试用例脚本调用。
5、config层,放配置文件的(这个放在本地不上传git,就不放这目录下面了)。
流程:
1.自动化部署环境
1)开发insert_coversion_rate.py, update_testenv.py测试库;
2)编码RF的资源文件,利用关键字调用测试库里面的变量、函数或方法:
3)测试用例执行之前,先执行测试套件的Setup set_dbdata关键字(初始化 ):
删除数据库存储该页面数据的表—> 新建表并插入所需测试的数据—> RM后端容器,并从compose文件创建新容器。

*** Settings ***
[Ducumentation]RF资源文件
Variables   _config.py
Library  Collections
Library  RequestsLibrary
Library  DateTime
# 导入测试库,模块文件名和类名必须相同
Library     ../pylib/insert_coversion_rate.py           ${hostname}[0]   3   1   4   qa   ${OS}[0]
Library     ../pylib/update_testenv.py
Variables   ../pylib/update_testenv.py
*** Variables ***
${api_url_10}      http://${hostname}[0]:8800/proxy/***/api
${api_url_192}     http://${hostname}[1]:8800/proxy/***/api/

*** Keywords ***
Setup set_dbdata
    drop_collection
    log to console      ------------- delete conversion_rate done --------------
    #insert_mongo_one
    insert_mongo_random
    log to console      ------------- insert data in conversion_rate collection done --------------
    verification_ssh    ${cmd}      ${hostname}[0]
    log to console      ------------- update test_environment done -------------------

2.计算测试的预期值:
在insert_coversion_rate.py脚本里面,封装一个方法,从第一步上传到mongo的数据,再从mongo里取出来并按需求文档的计算逻辑进行运算,然后return 结果,提供接口给testcase调用。

    # 从mongo表取数据,按需求逻辑计算结果
    def calculate_value(self,date_id,os):
        result = self.tdb.conversion_rate.find_one({"date_id": str(date_id), "os": str(os)})
        print(result)
        login_stage_trend = str(round(result["14654"]["fin_result"] / result["14648"]["fin_result"], 4))
        conversion_rate_patch = str(round((result["14648"]["fin_result"] - result["14651"]["fin_result"]) / result["14648"]["fin_result"],4))
        conversion_rate_channel_login = str(round(
            (result["14651"]["fin_result"] - result["14652"]["fin_result"]) / result["14648"]["fin_result"], 4))
        conversion_rate_game_login = str(round(
            (result["14652"]["fin_result"] - result["14653"]["fin_result"]) / result["14648"]["fin_result"], 4))
        conversion_rate_enter_game = str(round(
            (result["14653"]["fin_result"] - result["14654"]["fin_result"]) / result["14648"]["fin_result"], 4))
        download_fail_patch = str((result["14663"]["fin_result"] / (result["14663"]["fin_result"] + result["14650"]["fin_result"])))
        download_fail_patch_list = str((result["14662"]["fin_result"] / (result["14662"]["fin_result"] + result["14649"]["fin_result"])))
        download_fail_server_list = str((result["14664"]["fin_result"] / (result["14664"]["fin_result"] + result["14651"]["fin_result"])))
        login_stage_ranking = login_stage_trend
        return {'trend':login_stage_trend,
                'rate_patch':conversion_rate_patch,
                'rate_channel_login':conversion_rate_channel_login,
                'rate_game_login':conversion_rate_game_login,
                'rate_enter_game':conversion_rate_enter_game,
                'fail_patch':download_fail_patch,
                'fail_patch_list':download_fail_patch_list,
                'fail_server_list':download_fail_server_list,
                'login_ranking':login_stage_ranking
        }

3.获取实际结果
利用RF的第三方库RequestsLibrary,获取系统前端接口返回的实际数据

*** Settings ***
Library     Collections
Library     RequestsLibrary
Library     DateTime
Variables   _config.py
Resource    ../rflib/_resource.robot
Library  ../pylib/insert_coversion_rate.py   ${hostname}[0]   3   1   4   qa   ${OS}[1]
#Suite Setup  Setup set_dbdata

*** Variables ***
${date_id}=             20190303
${os_now}=              android

*** Test Cases ***
login_stage_trend
    [Documentation]     登陆转化率数据校验
    #calculate value 调用计算预期值的方法
    ${result}           calculate value        ${date_id}               ${os_now}
    ${date_start}=      Get Current Date        increment=-24:00:00       result_format=epoch
    ${date_end}=        Get Current Date        result_format=epoch
    create session      get_bid         ${api_url_10}      ${hearders}         #调用资源文件的变量
    # 获取系统页面接口返回的实际结果
    ${resp}=            get request     get_bid        v3/conversion_rate_*****?_end=${date_end}&_start=${date_start}&os=all&public_place=all
    should be true      ${resp}         ${resp.status_code} == 200
    should contain      ${resp.text}    ${result}[trend]
    log     \nresult shoud contain:${result}[trend]\n${resp.text}

4.断言
先校验接口的返回码是否是200,如果接口报错,数据准确性的校验就没必要了;
然后,利用RF内置的关键字,should contain,判断预期值是否被包含在接口返回的数据里面;(其实,最好是用should be equal,可是RF层,接口返回的数据默认是字符串,还没想到怎么取里面具体的值,但目前should cotain 已经可以满足需求)

should be true      ${resp}         ${resp.status_code} == 200
should contain      ${resp.text}    ${result}[trend]

5.终端执行test_case过程,不符合预期值的测试结果:

符合预期值的测试结果:

6.输出测试report和测试log
测试完成输出测试报告和测试日志
Roport 文件
列出本次执行的总体统计信息,背景色为绿色代表测试全部pass,红色代表有测试用例fail的
Log文件
1)包含了本次执行的详细信息比如:总计多少个测试用例,多少个关键测试用例,执行通过了多少,失败了多少;
2)Log文件还有个强大的功能,自己开发RF的测试库给RF调用时,如果报错,可以用debug模式运行,可以打印很详细的报错信息到 log 里面。
总结:
以上,仅是接口数据准确性测试自动化的小试牛刀,当然自动化测试,有各种各样的方法,比如 python + requests + unittest + HTMLTestRunner,或者用Cucumber框架也可以,但弱水三千,只取一瓢。根据项目本身的情况和需求选择就可以了,知行合一嘛。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,456评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,370评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,337评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,583评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,596评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,572评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,936评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,595评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,850评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,601评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,685评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,371评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,951评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,934评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,167评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,636评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,411评论 2 342

推荐阅读更多精彩内容

  • 1.测试与软件模型 软件开发生命周期模型指的是软件开发全过程、活动和任务的结构性框架。软件项目的开发包括:需求、设...
    宇文臭臭阅读 6,702评论 5 100
  • 1****、问:你在测试中发现了一个bug****,但是开发经理认为这不是一个bug****,你应该怎样解决? 首...
    蛋炒饭_By阅读 5,289评论 1 94
  • 1.问:你在测试中发现了一个 bug ,但是开发经理认为这不是一个 bug ,你应该怎样解决。 首先,将问题提...
    qianyewhy阅读 9,230评论 4 123
  • 1、你的测试职业发展是什么? 测试经验越多,测试能力越高。所以我的职业发展是需要时间积累的,一步步向着高级测试工程...
    欧尔麦特fffff阅读 4,610评论 1 41
  • 1、问:你在测试中发现了一个bug,但是开发经理认为这不是一个bug,你应该怎样解决? 首先,将问题提交到缺陷管理...
    小灰辉先生阅读 1,328评论 0 3