使用python进行数据分析<二>(引言)

一.读取txt文件,并使用JSON解析为list.

1.open函数可以指定编码方式为utf-8

  1. [ ]使用列表生成式解析
path = '/Users/lidaoyuan/Desktop/python/test02/govTest/example.txt'
#with open(path, "r", encoding="utf-8") as f:
records = [json.loads(line) for  line in  open(path,"r",encoding="utf-8")]

二.使用pandas对tz元素计数

#使用pandas
frame = DataFrame(records)

# 从frame["tz"]返回的Series对象,有一个value_counts方法.  可以对各个对象计数
print(frame["tz"].value_counts())

三.使用pandas对处理数据,并绘制简易条形图

tz_series = frame["tz"]
clean_tz = tz_series.fillna('Missing')  # fillna函数可以替换缺失值
clean_tz[clean_tz==''] = 'Unknown'   #可以便利clean_tz中的值,判断满足条件者.这里的用法不是很懂.

clean_tz_counts = clean_tz.value_counts()
clean_tz_counts[:10].plot(kind='barh',rot=0)
# import matplotlib.pyplot as plt , 这里手动调用show方法才会弹出绘制的图片,书上没有写. 不知道是什么原因. 
plt.show()

四.

# split() 通过指定分隔符对字符串进行切片,如果参数 num 有指定值,则仅分隔 num 个子字符串
#将frame中a字段对应下的字符串分割,然后提取出第一个.
results = Series([x.split()[0] for x in frame.a.dropna()])


In [61]: results
Out[61]: 
0                  Mozilla/5.0
1       GoogleMaps/RochesterNY
2                  Mozilla/4.0
3                  Mozilla/5.0
4                  Mozilla/5.0
5                  Mozilla/5.0
6                  Mozilla/5.0
7                  Mozilla/5.0
8                   Opera/9.80
9                  Mozilla/5.0
10                 Mozilla/5.0
11                 Mozilla/5.0
12                 Mozilla/5.0
13                 Mozilla/5.0
14                 Mozilla/5.0
15                 Mozilla/5.0
16                 Mozilla/5.0
17      GoogleMaps/RochesterNY
18                 Mozilla/5.0
.......

五.使用numpy找出包含指定字符串的元素.

# 将a字段下为空的从数据中移除.
cframe = frame[frame.a.notnull()]
#使用numpy的where函数,查找出a字段下包含windows字样的元素,并且使用参数x, y 替换对应的结果
operating_system = np.where(cframe['a'].str.contains('Windows'),'Windows','Not use windows')
print(operating_system)

注:

1.同时安装多个版本的python,可以使用 如:python3.6 制定某一版本的python

  1. python 自带的有easy_install 如果要安装pip, 使用 sudo easy_install pip. 同理也可以制定某一版本 sudo easy_install-3.6 pip

  2. 使用pip 也可指定某一版本 pip3.6 install numpy

  3. DataFrame 是pandas中的数据结构,用于将数据表示为一个表格.

  4. callable() 函数用于检查一个对象是否是可调用的。如果返回True,object仍然可能调用失败;但如果返回False,调用对象ojbect
    绝对不会成功。
    对于函数, 方法, lambda 函式, 类, 以及实现了 call 方法的类实例, 它都返回 True。
    callable(object)

  5. getitem() 可以让对象像数组或者字典那样,使用下标取数据

  6. matplotlib.pyplot.show() ,plot出的图像才出现(不知道是什么原因)

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,463评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,868评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,213评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,666评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,759评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,725评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,716评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,484评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,928评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,233评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,393评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,073评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,718评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,308评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,538评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,338评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,260评论 2 352

推荐阅读更多精彩内容