R实现大文本文件数据过滤的方法-CDA数据分析师官网

热线电话：13121318867

R实现大文本文件数据过滤的方法

2018-07-09

R实现大文本文件数据过滤的方法

使用R语言过滤文件数据是很普遍的操作，但有时我们会遇到比较大的文件，这类文件无法全部读入内存处理，需要采用分批读取、分批过滤、拼合结果的办法来解决。下面用一个例子来说明R实现大文件数据过滤的方法。

有个1G的文件sales.txt，存储着大量订单记录，请过滤出AMOUNT字段值在2000和3000之间的记录。该文件的列分割符为“\t”，前几行数据如下：

R语言解决方案

con <- file("E:\\sales.txt", "r")
readLines(con,n=1)
result=read.table(con,nrows=100000,sep="\t")
result<-result[result$V4>=2000 & result$V4<=3000,]
while(length(databatch<-read.table(con,header=FALSE,nrows=100000,sep="\t"))!=0) {
databatch<- databatch [databatch$V4>=2000 & databatch$V4<=3000,]
result<-rbind(result,databatch)
}
close(con)

部分计算结果

代码解读：

1行：打开文件句柄

2行：丢掉第一行，也就是列名。

3-4行：读入第一批的十万条数据，过滤后存入result。

5-8行：循环读数。每批次读入十万行数据，过滤后的结果追加到result变量，然后再读入下一批次。

9行：关闭文件句柄。

注意事项：

如果是小文件，则只需一句代码就能完成读数据的操作，第一行还可以设置为数据框的列名，但大文件不能这么实现，需要按批次读取数据，第二批的数据就无法将第一行设为列名了，默认列名会是V1、V2、V3…….。

为了实现大文件按批次读数据，必须使用while语句来实现算法，列名的使用也不够方便，这就使整个代码稍显复杂。

替代方案：

同样的算法也可以用Python、集算器、Perl等语言来解决本案例。和R语言一样，这几种语言都可以实现文件数据的过滤以及结构化数据的计算，下面简单介绍集算器和Python的解决方案。

集算器会自动分批处理数据，程序员无需用循环语句手工控制，因此代码非常简洁：

cursor是集算器中用于结构化数据计算的数据类型，和数据框的用法差不多，但对大文件和复杂计算更擅长。另外，cursor可以用@t选项将文件的第一行读为列名。

Python的代码结构和R差不多，也是手工控制循环，但python本身缺乏数据框或cursor等结构化数据类型，因此代码更底层些：

result = []
myfile = open("E: \\sales.txt",'r')
BUFSIZE = 10240000
myfile.readline()
lines = myfile.readlines(BUFSIZE)
value=0
while lines:
for line in lines:
record=line.split('\t')
AMOUNT=float(record[3])
if (AMOUNT>=2000 and AMOUNT<=3000):
result.append(record)
lines = myfile.readlines(BUFSIZE)
myfile.close()

Python也可以用第三方包来实现上述算法，比如pandas就有类似数据框的结构化数据对象，但pandas对大文件的支持同样有限，很难进一步简化代码。

CDA数据分析师考试相关入口一览（建议收藏）：

▷ 想报名CDA认证考试，点击>>> “CDA报名” 了解CDA考试详情；