在获取的json评论中包含如下特殊数据:
f({
"version": "v2",
"errcode": "0",
"errmsg": "",
"result":{
"comments": [
{
"id": "13392158929",
"topped": "0",
"guid": "4bd7882a-5177-4a2c-a872-f32f66426a06",
"content": "外形外观:可以接受屏幕音效:屏幕不灵敏\x26hellip\x3B音效非常非常差今时今日还做出这样的手机\x26hellip\x3B表示无语\x26hellip\x3B买了只能将就用吧!拍照效果:对于老人家来说可以接受运行速度:老人家不玩游戏\x26hellip\x3B还是可以的待机时间:不理想其他特色:没有什么物色\x26hellip\x3B原以为华为崛起:\x26hellip\x3B性价比较低\x26hellip\x3B!",
"creationTime": "2019-11-01 09:55:58",
. . . . . .
"userClientShow": "来自京东Android客户端",
}
,
{
"id": "13391208100",
"topped": "0",
"guid": "d4a74074-3edb-4da1-b201-008bee226dfb",
"content": "不错",
"creationTime": "2019-10-31 23:28:34",
"isTop": false,
"referenceId": "100003599639",
"referenceImage": "jfs/t1/41065/9/5364/252918/5cee30b8E22c3ea99/5d652e51051b7bdf.jpg",
"referenceName": "华为 HUAWEI 麦芒 8 超广角AI三摄 高清珍珠屏 大存储 6GB+128GB 幻夜黑 全网通双4G手机",
"referenceTime": "2019-10-29 21:13:04",
"referenceType": "Product",
. . . . . .
"userClientShow": "来自京东Android客户端",
}
]
}
})
观察这个类JSON有三处问题:
- f(....)所有数据在括号内;
- {}中的最后一个属性:"userClientShow": "来自京东Android客户端", 以逗号结尾(并非每个都有逗号);
- 最难的是里面有:\x26hellip\x3B这样的特殊数据。
处理方案:
1.最简单:content.strip().lstrip('f(').rstrip(')')即可;
- userClientShow带逗号时Json.loads时会抛异常, 可以通过:
re.sub('("userClientShow.*),', '\g<1>', text)
匹配带“,”的userClientShow,然后去掉“,”并将文本替换到原处;
- 麻烦点,观察发现语句:
“形外观:可以接受屏幕音效:屏幕不灵敏\x26hellip\x3B音效非常非常差今时今日还做出这样的手机”
中的特殊“\x26hellip\x3B”需要经过如下变形方可:“\x26hellip\x3B”→“& hellip ;”→“...”
首先: “\x26hellip\x3B”→“& hellip ;”
def _hex(self, __hex):
return chr(int(__hex.group()[2:], 16))
content= re.sub(r'\\x.{2}', self._hex, content)
然后: “& hellip ;”→“...”
text = HTMLParser.HTMLParser().unescape(text)
解决。