C++11 封装支持公司可变参数的query

这里其实有两个封装,一个是HTTP支持发json和返回json,一个是读取json并构造测试用例。
总体来说都是针对网络的。

公司的这个Query是支持Web的,所以需要加上Chrome的两个UA头字段,否则直接用cpp-httplib请求基本失败。两个UA头字段是


image.png

另外POST请求返回的json会做gzip压缩,需要在cpp-httplib增加支持Zlib的宏,因为cpp-httplib会利用Zlib库对gzip格式进行解压缩,否则你直接看到gzip压缩格式的返回结果就是一团乱码。
而cpp-httplib也不会让这种情况发生。直接返回Error Read。

这就是C++语言的一个阴暗面了。错误后永远只看得到错误码,要看到更详细的error和异常堆栈基本不行,一般错误之后就是segement error了,段错误。需要自己逐行去debug看问题。对于多线程或者回调,有些函数断点进不去,最简单的方式就是直接使用std::cout输出。

拥有同样问题的另一个语言是Golang,但是不幸的是,Golang处理起来没那么方便。首先,Golang语言因为语言先天表达能力不足,所以代码写起来特别啰嗦,难看,正确逻辑被淹没在错误处理的茫茫大海中,还有不支持泛型导致大面积用于适配的垃圾代码出现,不利于查看逻辑。其次,Golang安装库都是只读的,不让改。

C++的好处就是大多数库都是头文件,你随便改。其次抽象能力强,代码短,逻辑清晰。基本保证一段代码能清晰执行自己的逻辑。不受所谓错误处理和类型适配的干扰。

增加宏的地方如图所示。


image.png

程序结构如下,


image.png

工程代码如下,
CMakeLists.txt


cmake_minimum_required(VERSION 2.6)
project(http_util_test)

add_definitions(-std=c++14)
add_definitions(-g)


find_package(ZLIB)

find_package(Boost REQUIRED COMPONENTS
    system
    filesystem
    serialization
    program_options
    thread
    )

include_directories(${Boost_INCLUDE_DIRS} /usr/local/include ${CMAKE_CURRENT_SOURCE_DIR}/../../)

LINK_DIRECTORIES(/usr/local/lib)

file( GLOB APP_SOURCES ${CMAKE_CURRENT_SOURCE_DIR}/*.cpp ${CMAKE_CURRENT_SOURCE_DIR}/*.h
    ${CMAKE_CURRENT_SOURCE_DIR}/../impl/*.cpp ${CMAKE_CURRENT_SOURCE_DIR}/../../http/impl/*.cpp ${CMAKE_CURRENT_SOURCE_DIR}/*.cpp)
foreach( sourcefile ${APP_SOURCES} )
        file(RELATIVE_PATH filename ${CMAKE_CURRENT_SOURCE_DIR} ${sourcefile})
    
        string(FIND "${filename}"  "test.cpp" "TEMP")
    if( NOT "${TEMP}" STREQUAL "-1" )
        string(REPLACE ".cpp" "" file ${filename})
        add_executable(${file}  ${APP_SOURCES})
        target_link_libraries(${file} ${Boost_LIBRARIES} ZLIB::ZLIB)
        target_link_libraries(${file}  ssl crypto libgtest.a libgtest_main.a pystring libgmock.a pthread)
    endif()
endforeach( sourcefile ${APP_SOURCES})

config.h

#ifndef _FREDRIC_CONFIG_H_
#define _FREDRIC_CONFIG_H_

#include "query_ele.h"


#include <map>
#include <string>
#include <vector>

// HTTP服务器Host地址
const std::string Host = "tai.appannie.com";

// 所有新增加的GP支持的国家
const std::vector<std::string> GPCountries{
    "IR", "BD", "BH", "EC", "GT", "KG", "LK", "MD", "RS", "TT",
    "AM", "DZ", "BA", "GH", "BO", "BY", "LU", "DO", "HN", "KH",
    "IQ", "JM", "JO", "MO", "SI", "UZ", "MK", "NP", "MA", "PY",
    "SV", "OM", "PA", "TZ", "QA", "TN", "UY", "VE", "YE"};

// 通用的 HTTP头配置
std::map<std::string, std::string> headers{
    {"Authorization", "Bearer {YOUR_API_KEY›}"},
    {"pragma", "no-cache"},
    {"cache-control", "no-cache"},
    {"X-AA-DMS-NAMESPACE", "taiaaauthorisationservice939"},
    {"sec-ch-ua",
     R"(Chromium";v="92", " Not A;Brand";v="99", "Microsoft Edge";v="92")"},
    {"user-agent",
     R"(Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/92.0.4515.131 Safari/537.36 Edg/92.0.902.73)"},
    {"disable-udw-reader-sql-cache", "1"}};

// Query的 json文件存放的位置
const std::string QueryDataPath = "../../data/";

#endif

test_config.h

#ifndef _FREDRIC_TEST_CONFIG_H_
#define _FREDRIC_TEST_CONFIG_H_
#include <map>
#include <string>

#include "query_ele.h"

const std::string StoreProductRankPaidCase = "StoreProductRankPaidCase";
const std::string TopCompanyOverviewTableCase = "TopCompanyOverviewTableCase";
const std::string DownloadChannelTableCase = "DownloadChannelTableCase";

std::map<const std::string, QueryEle> TestEles{
    {StoreProductRankPaidCase,
     {"/ajax/v2/"
      "query?query_identifier=table_change%28top_apps%24gp_overview_paid%29",
      "store_product_rank_paid"}},
    {TopCompanyOverviewTableCase,
     {"/ajax/v2/"
      "query?query_identifier=table_change%28top_company_overview_table_v0_1%"
      "29",
      "top_company_overview_table"}},
    {DownloadChannelTableCase,
     {"/ajax/v2/"
      "query?query_identifier=table_change%28download_channel_table%29",
      "download_channel_table"}}};

#endif

query_ele.h

#ifndef _FREDRIC_QUERY_ELE_H_
#define _FREDRIC_QUERY_ELE_H_
#include <string>

struct QueryEle {
    std::string path{};
    std::string query_body_name{};
};

#endif

check_gp_countries.h

#ifndef _FREDRIC_CHECK_GP_COUNTRIES_H_
#define _FREDRIC_CHECK_GP_COUNTRIES_H_

#include "query_ele.h"

bool send_request_query(const QueryEle& ele);

#endif

check_gp_countries.cpp

#include "check_gp_countrires/check_gp_countries.h"
#include "http/http_util.h"
#include "pystring/pystring.h"
#include "check_gp_countrires/config.h"
#include "json/json.hpp"

#include <fstream>
#include <sstream>


using json = nlohmann::json;

bool send_request_query(const QueryEle& ele) {
    std::string query_path = ele.path;
    std::string query_body_path = QueryDataPath + ele.query_body_name + ".json";
    std::ifstream query_body_file(query_body_path);
    std::stringstream buffer;
    buffer << query_body_file.rdbuf();
    std::string query_body(buffer.str());

    std::vector<std::string> failed_countrires = {};
    for(auto&& country :GPCountries) {
        std::cout << "Country: [" << country << "]" << std::endl; 
        std::string body_str = pystring::replace(query_body, "{COUNTRY_CODE}", country);
        std::string result{};
        bool get_str_res = HttpUtil::post_and_get_str(Host, query_path, headers, body_str, result);

        if(!get_str_res) {
            failed_countrires.emplace_back(std::move(country));
        }
        auto res = json::parse(result);
        auto facet_len = res["data"]["facets"].size();
        if(facet_len == 0) {
            std::cout << "Country: [" << country <<  "]" << " has no data in DB!" << std::endl;
        }
    }
    return failed_countrires.size()  == 0;
}

check_gp_countries_test.cpp

#include "check_gp_countrires/test_config.h"
#include "check_gp_countrires/check_gp_countries.h"
#include <gtest/gtest.h>


bool run_a_test_case(const std::string& case_name) {
    std::cout << "Test Case: [" << case_name << "] Started !" << std::endl;
    auto test_case = TestEles[case_name];
    auto res = send_request_query(test_case);
    std::cout << "Test Case: [" << case_name << "] End !" << std::endl;
    return res;
}

GTEST_TEST(CheckGPCountriesTests, StoreProductRankPaidCase) {
    bool test_result = run_a_test_case(StoreProductRankPaidCase);
    ASSERT_EQ(true, test_result);
}

GTEST_TEST(CheckGPCountriesTests, TopCompanyOverviewTableCase) {
    bool test_result = run_a_test_case(TopCompanyOverviewTableCase);
    ASSERT_EQ(true, test_result);
}

GTEST_TEST(CheckGPCountriesTests, DownloadChannelTableCase) {
    bool test_result = run_a_test_case(DownloadChannelTableCase);
    ASSERT_EQ(true, test_result);
}

data下面都是query的json文件。


image.png

http_util.h

#ifndef _HTTP_UTIL_H_
#define _HTTP_UTIL_H_

#define CPPHTTPLIB_OPENSSL_SUPPORT
#define CPPHTTPLIB_ZLIB_SUPPORT

#include "http/httplib.h"
#include <string>

const int ConnectionTimeout = 30;

class HttpUtil {
    public:
        /**
         * HttpUtil get method
         * 
         * @param: url the url to be used to get a web page from remote server
         * @param: path the path to be used to get a web page from remote server
         * @param: result_name the download result file path
         */
        static bool get(std::string url, std::string path, std::string result_name);

         /**
         * HttpUtil get_file method
         * 
         * @param: host the host to be used to get an item from remote server
         * @param: path the path to be used to get an item from remote server
         * @param: result_name the download result file path
         */
        static bool get_file(std::string host, std::string path, std::string result_name);

        static bool get_str(std::string host, std::string path, const std::map<std::string, std::string> & headers, std::string &result_string);

        static bool post_and_get_str(std::string host, std::string path, const std::map<std::string, std::string> & headers, const std::string& body,std::string &result_string);
};
#endif

http_util.cpp

#include "http/http_util.h"

#include <iostream>
#include <fstream>


bool HttpUtil::get(std::string url, std::string path, std::string result_name) {

    try {
        httplib::Client cli {url};
        cli.set_connection_timeout(ConnectionTimeout);

        auto res = cli.Get(path.c_str());
        if(res->status != 200) {
            std::cerr << "Get [" << url << path << "] failed" << std::endl;
            std::cerr << "Status code : [" << res->status << "]" << "\n"   << "Result body : [" << res->body << "]" 
            << std::endl; 
            return false;
        }
        std::ofstream os {result_name, std::ios_base::out | std::ios_base::binary};
        os << res->body;
       
    } catch(const std::exception & e) {
        std::cerr << "Exception: " << e.what() << std::endl;
        return false;
    }
    return true;
}

bool HttpUtil::get_file(std::string host, std::string path, std::string result_name) {

    try {

        #ifdef CPPHTTPLIB_OPENSSL_SUPPORT
            auto port = 443;
            httplib::SSLClient cli(host, port);
        #else
            auto port = 80;
            httplib::Client cli(host, port);
        #endif

        cli.set_connection_timeout(ConnectionTimeout);

        std::ofstream os {result_name};
        auto res = cli.Get(path.c_str(),
              [&](const char *data, size_t data_length) {
                os << std::string(data, data_length);
                return true;
              });

        if(!res || res->status != 200) {
            return false;
        }
       
    } catch(const std::exception & e) {
        std::cerr << "Exception: " << e.what() << std::endl;
        return false;
    }
    return true;
}

bool HttpUtil::get_str(std::string host, std::string path, const std::map<std::string, std::string> & headers, std::string &result_string) {

     try {
        #ifdef CPPHTTPLIB_OPENSSL_SUPPORT
            auto port = 443;
            httplib::SSLClient cli(host, port);
        #else
            auto port = 80;
            httplib::Client cli(host, port);
        #endif

        cli.set_connection_timeout(ConnectionTimeout);

        httplib::Headers headers_ {};
        for(auto&& item: headers) {
            headers_.insert(item);
        }
        
        auto res = cli.Get(path.c_str(), headers_);
        result_string = res->body;
        return true;
    } catch(const std::exception & e) {
        std::cerr << "Exception: " << e.what() << std::endl;
        return false;
    }
}


bool HttpUtil::post_and_get_str(std::string host, std::string path, const std::map<std::string, std::string> & headers, const std::string& body, std::string &result_string){
    try {
        #ifdef CPPHTTPLIB_OPENSSL_SUPPORT
            auto port = 443;
            httplib::SSLClient cli(host, port);
        #else
            auto port = 80;
            httplib::Client cli(host, port);
        #endif

        cli.set_connection_timeout(ConnectionTimeout);

        httplib::Headers headers_ {};
        for(auto&& item: headers) {
            headers_.insert(item);
        }
        auto res = cli.Post(path.c_str(), headers_, body.c_str(), body.size(), "application/json");
        result_string = res->body;
        return true;
    } catch(const std::exception & e) {
        std::cerr << "Exception: " << e.what() << std::endl;
        return false;
    }
}

程序输出如下,


image.png
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,236评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,867评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,715评论 0 340
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,899评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,895评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,733评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,085评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,722评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,025评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,696评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,816评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,447评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,057评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,009评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,254评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,204评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,561评论 2 343

推荐阅读更多精彩内容