京公网安备 11010802034615号
经营许可证编号:京B2-20210330
R语言解析JSON格式数据文件
由于分析的数据格式为JSON格式,既占空间,而且分析时也非常的不方便,所以,我们需要对JSON格式
的数据进行解析,使其符合R语言分析所需要的数据格式,如data.frame,list等。
在R语言的包库中,已经有人对JSON格式的解析做了完整的包jsonlite,这极大地减轻了分析人员的工作压力。
jsonlite包中有以下几个函数
1、flatten
其中flatten函数是用来处理JSON中含有内嵌表格的情况,这种JSON文件解析为data.frame时,会在data.frame中
的某一列或多个列中另外包含一个data.frame。flatten函数可以将这种data.frame转换为一个2维的列表结构。通俗
点讲,就是讲内嵌表格的属性作为外置大表格的属性,组成一个维数变大了的表格。例如
上图的x表格,stats为一个内嵌表格,具有3个属性。
经过flatten(x)函数转化后,变为一个表格
2、prettify,minify
prettify是一个美化函数,对json密集的json格式,通过增加空白,对格式进行标准化,这样我们在观察json数据时会比较方便。
例如:
minify是一个压缩函数,与prettify做的事情正好相反,其效果如下
这两个函数使用都非常简单,仅需要一个JSON对象即可,可以从toJSON函数获得
3、rbind.pages
这是一个合并函数,根据官方文档的说法,它可以将多个data.frame合并为1个data.frame。
这个函数非常只能,可以自动识别多个data.frame的属性是否相同,若相同,则按行合并,若不同,则将相同的地方按行合并,不同的属性按列合并
例如:
x <- data.frame(foo = rnorm(3), bar = c(TRUE, FALSE, TRUE))
y <- data.frame(foo = rnorm(2), bar = c("blue", "red"))
rbind.pages(list(x, y))
直接按行合并了。
x <- data.frame(foo = rnorm(3), bar = c(TRUE, FALSE, TRUE))
y <- data.frame(foo = rnorm(2), col = c("blue", "red"))
rbind.pages(list(x, y))
对foo按行合并了,而col属性是按照列合并的,没有的部分用NA代替。
4、serializeJSON
将一个R的对象序列化为一个JSON数据集。
5、stream_in,stream_out
利用流文件来处理JSON格式的数据解析任务。这种方法可以针对数据量非常大的情况。
stream_in(con, handler, pagesize = 500, verbose = TRUE, ...)
其中con为一个连接对象,可以是一个网络ur,也可以是一个文件路径
handler是一个自定义函数,pagesize用来指定我们从文件中要读取的文件行数。
verbose=T,设置是否打印出处理行数
stream_out(x, con = stdout(), pagesize = 500, verbose = TRUE, ...)
x为一个需要输出为json数据集的对象,目前只支持data.frame
5、toJSON,fromJSON
与stream_in和stream_out的功能类似,toJSON是转化为JSON格式,fromJSON是将JSON格式数据集转化为
R中的格式,一般为list.
具体使用方法可以查帮助文档。
其中fromJSON在读取多行JSON数据时会报错,只能单行读取数据。
总结
进行JSON格式数据解析时,没有特殊要求,建议使用stream_in函数。如果希望按照自己的想法来解析,可以使用fromJSON
按行解析,然后对字符串按照自己的想法处理,如加密,解密等。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28SQL是数据分析领域最基础、最核心的工具,承担着取数、清洗、统计、分层、归因的全流程工作。不同于单纯的语法练习,实战化SQL数 ...
2026-08-28 很多企业团队并非缺乏指标,而是陷入“指标失控”:仪表盘上堆满实时跳动的数据,却无法回答“当前瓶颈在哪、下一步该做什么 ...
2026-08-28随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19