基础方法

1.抽取方法:

"value_handle": [# 内容处理

    {

"name":"extract",

        "regex":"(低|中|高|地下)楼层?",

        "value":""

    },

],

2.父子路由:

"url_page": {

    "seed_urls": {

        "field": "seed_urls",  # 字段名称

        "depict": "种子url",

        "status": True,  # 是否禁用

        "type": [],  # list  # 字段类型

        "select": "xpath",  # 提取方式

        "deep": False,

        "split": True,

        "regex": "//div[@class='section']/div",  # 提取规则

        "child": {

            "seed_url": {

                "field": "seed_url",  # 字段名称

                "depict": "种子url",

                "status": True,  # 是否禁用

                "type": "",  # list  # 字段类型

                "select": "xpath",  # 提取方式

                "deep": False,

                "split": True,

                "regex": "//h4[@class='house-title']/a/@href",  # 提取规则

                "value_handle": [  # 内容处理

                    {

                        "name": "urljoin"

                    }

                ],

            },

            "house_floor": {

                "field": "house_floor",  # 字段名称

                "depict": "所在楼层",

                "status": True,  # 是否禁用

                "type": "",  # 字段类型

                # "separator": "",  # list->str 分隔符 默认按","分割

                "select": "xpath",  # 提取方式

                "deep": False,

                "split": True,

                "regex": "//p[@class='house-txt'][1]/text()[2]",  # 提取规则

                "value_handle": [  # 内容处理

                ],

            },

            "thumbnails": {

                "field": "thumbnails",  # 字段名称

                "depict": "缩略图",

                "status": True,  # 是否禁用

                "type": "",  # list  # 字段类型

                "select": "xpath",  # 提取方式//ul[@class='listUl']/li/div[@class='img_list']/a/img/@src

                "deep": False,

                "split": True,

                "regex": "//img[@class='lazy']/@data-original",  # 提取规则

                "value_handle": [  # 内容处理

                ],

            },

            "house_title": {

                "field": "house_title",  # 字段名称

                "depict": "房源标题",

                "status": True,  # 是否禁用

                "type": "",  # list  # 字段类

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

友情链接更多精彩内容