数据整合和数据清洗

1.数据整合

使用SQL语句,structured query language 结构化查询语言,是一种面向对象的语言,又是嵌入式语言,既可以独立使用也可以嵌入到宿主语言中。
install.packages('sqldf') # R中使用sql语言需要安装sqldf包
library(sqldf)
setwd("D:/《用商业案例学R语言数据挖掘》教材代码及数据/data") #设定工作路径
sale <- read.csv("sale.csv")
sqldf("select year,market,sale,profit from sale") #选择字段并展示

year market sale profit
1 2010 东 33912 2641
2 2010 南 32246 2699
3 2010 西 34792 2574
4 2010 北 31884 2673
5 2011 东 31651 2437
6 2011 南 30572 2853
7 2011 西 34175 2877
8 2011 北 30555 2749
9 2012 东 31619 2106
10 2012 南 32443 3124
11 2012 西 32103 2593
12 2012 北 31744 2962

选择一列数据(year),并删除重复值,展示销售数据中的不同年份,使用DISTINCT删除查询结果中的重复行
sqldf("select DISTINCT year from sale")

year
1 2010
2 2011
3 2012

筛选数据,使用where语句查询结果满足要求的行。显示2012年的销售数据
sqldf("select * from sale where year =2012")

year market sale profit
1 2012 东 31619 2106
2 2012 南 32443 3124
3 2012 西 32103 2593
4 2012 北 31744 2962

对观测进行排序,使用order by
sqldf("select year,market,sale,profit from sale order by market") #按照市场排序

year market sale profit
1 2010 东 33912 2641
2 2011 东 31651 2437
3 2012 东 31619 2106
4 2010 北 31884 2673
5 2011 北 30555 2749
6 2012 北 31744 2962
7 2010 南 32246 2699
8 2011 南 30572 2853
9 2012 南 32443 3124
10 2010 西 34792 2574
11 2011 西 34175 2877
12 2012 西 32103 2593

2.数据整合

sale[,c('year','market','sale','profit')] #选择字段并展示

year market sale profit
1 2010 东 33912 2641
2 2010 南 32246 2699
3 2010 西 34792 2574
4 2010 北 31884 2673
5 2011 东 31651 2437
6 2011 南 30572 2853
7 2011 西 34175 2877
8 2011 北 30555 2749
9 2012 东 31619 2106
10 2012 南 32443 3124
11 2012 西 32103 2593
12 2012 北 31744 2962

sale$year

[1] 2010 2010 2010 2010 2011 2011 2011 2011 2012 2012 2012 2012

unique(sale$year)

[1] 2010 2011 2012

sale[1:3,] #展示第一到第三行销售数据

year market sale profit
1 2010 东 33912 2641
2 2010 南 32246 2699
3 2010 西 34792 2574

sale[c(1,3),] #展示第一、第三行,两行的销售数据

year market sale profit
1 2010 东 33912 2641
3 2010 西 34792 2574

sale[c(1,2,3),c('year','profit')] #选择行和列

year profit
1 2010 2641
2 2010 2699
3 2010 2574

sale[sale$year==2012,c('year','profit')]#一个条件的筛选

year profit
9 2012 2106
10 2012 3124
11 2012 2593
12 2012 2962

sale[saleyear==2012&saleprofit>2500,]#多个条件的筛选

year market sale profit
10 2012 南 32443 3124
11 2012 西 32103 2593
12 2012 北 31744 2962

sale[order(sale$profit),] #按照profit排序,默认升序

year market sale profit
9 2012 东 31619 2106
5 2011 东 31651 2437
3 2010 西 34792 2574
11 2012 西 32103 2593
1 2010 东 33912 2641
4 2010 北 31884 2673
2 2010 南 32246 2699
8 2011 北 30555 2749
6 2011 南 30572 2853
7 2011 西 34175 2877
12 2012 北 31744 2962
10 2012 南 32443 3124

sale[order(saleyear,saleprofit,decreasing = T),] #按照year和profit排序,降序

year market sale profit
10 2012 南 32443 3124
12 2012 北 31744 2962
11 2012 西 32103 2593
9 2012 东 31619 2106
7 2011 西 34175 2877
6 2011 南 30572 2853
8 2011 北 30555 2749
5 2011 东 31651 2437
2 2010 南 32246 2699
4 2010 北 31884 2673
1 2010 东 33912 2641
3 2010 西 34792 2574

3.数据纵向合并

one <- read.csv("one.csv")
two1 <- read.csv("two1.csv")

one
x a
1 1 a
2 1 a
3 1 b
4 2 c
5 3 v
6 4 e
7 6 g
two1
x a
1 1 x
2 2 y
3 3 z
4 3 v
5 5 w

rbind(one,two1) #纵向合并》

x a
1 1 a
2 1 a
3 1 b
4 2 c
5 3 v
6 4 e
7 6 g
8 1 x
9 2 y
10 3 z
11 3 v

12 5 w

sqldf("select * from one union select * from two1") #去除重复值

x a
1 1 a
2 1 b
3 1 x
4 2 c
5 2 y
6 3 v
7 3 z
8 4 e
9 5 w
10 6 g

sqldf("select * from one union all select * from two1") #不去除重复数值

x a
1 1 a
2 1 a
3 1 b
4 2 c
5 3 v

6 4 e
7 6 g
8 1 x
9 2 y
10 3 z
11 3 v
12 5 w

sqldf("select * from one except select * from two1") #差集

x a
1 1 a
2 1 b
3 2 c
4 4 e
5 6 g

sqldf("select * from one INTERSECT select * from two1") #交集

x a
1 3 v

4.数据横向合并

数据横向连接包括笛卡尔连接、内连接和外连接,其中外连接又包括:左连接、全连接和又连接
table1
id a
1 1 a
2 2 b
3 3 c
table2
id b
1 4 d
2 3 e
sqldf("select * from table1,table2") #笛卡尔连接

id a id..3 b
1 1 a 4 d
2 1 a 3 e
3 2 b 4 d
4 2 b 3 e
5 3 c 4 d
6 3 c 3 e

inner1 <- merge(table1,table2,by = "id",all=FALSE) #内连接

id a b
1 3 c e

inner2 <- sqldf("select * from table1 as a inner join table2 as b on a.id=b.id")

id a id..3 b
1 3 c 3 e

left1 <- merge(table1,table2,by = "id",all.x = TRUE) #左连接

id a b
1 1 a <NA>
2 2 b <NA>
3 3 c e

left3 <- sqldf("select * from table1 as a left join table2 as b on a.id =b.id")

id a id..3 b
1 1 a NA <NA>
2 2 b NA <NA>
3 3 c 3 e

right1 <- merge(table1,table2,by = "id",all.y = TRUE) #右连接

id a b
1 3 c e
2 4 <NA> d

full1<- merge(table1,table2,by ="id",all=TRUE) #全连接

id a b
1 1 a <NA>
2 2 b <NA>
3 3 c e
4 4 <NA> d

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,133评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,682评论 3 390
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,784评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,508评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,603评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,607评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,604评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,359评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,805评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,121评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,280评论 1 344
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,959评论 5 339
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,588评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,206评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,442评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,193评论 2 367
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,144评论 2 352

推荐阅读更多精彩内容

  • rljs by sennchi Timeline of History Part One The Cognitiv...
    sennchi阅读 7,320评论 0 10
  • **2014真题Directions:Read the following text. Choose the be...
    又是夜半惊坐起阅读 9,460评论 0 23
  • pyspark.sql模块 模块上下文 Spark SQL和DataFrames的重要类: pyspark.sql...
    mpro阅读 9,451评论 0 13
  • 作者:伊卡洛斯(来自豆瓣)来源:https://book.douban.com/review/5046908/ 独...
    穿牛仔裤的蚊子阅读 645评论 0 0
  • 木零不谢须冰住, 住冰须谢不零木。 光陨未夜央, 央夜未陨光。 窗寒隐月此情伤, 伤情此月隐寒窗。 残秋却语半, ...
    梦紫霄阅读 210评论 0 2