使用R原生函数来做文本挖掘
最近有几位同学问到我如何利用tm包做文本挖掘，比较抱歉的是时间不太充足，不能完整更新文档。 在这里只好给大家一些tips，来利用R的原生函数来完成文本挖掘的核心步骤。
setwd('C:/Users/Administrator/Downloads')
options(width = 150)
library(data.table)
x <- fread('comment.txt', sep = '\t', header = FALSE)
x$V3 <- iconv(x$V3, 'UTF-8', 'GBK') # 第三类为文本内容，字符集转化
x <- x[which(nchar(x$V3) > 3),]
n <- 10000 # 设置抽样数量，保证计算时长
x <- x[sample(1:nrow(x),n),]
library(jiebaR)
library(Matrix)
JR = worker(user = 'D:/source/RecModels/prototype/TagGen/userdict.txt')
seg_raw <- sapply(x$V3, segment, JR) # 执行分词
id <- unique(unlist(seg_raw)) # 生成Term
id <- id[nchar(id) >=2 & nchar(id) <= 5] # 将Term太长和太短的去掉，比如“强”
col_id <- as.vector(unlist(sapply(seg_raw, match, id)))
NA_index <- !is.na(col_id)
col_id <- col_id[NA_index] # 去除列的空值位置号
row_num <- sapply(seg_raw, length)
row_id <- rep(1:length(seg_raw), times = row_num)
row_id <- row_id[NA_index] # 去除行的空值位置号
## 生成DTMatirx
m <- sparseMatrix(i = row_id, j = col_id)
核心思想是创造Term和原始文档分词之后对应的索引，来创造Document Term Matrix。当然中间涉及各种Term的预处理，这时候使用标准函数即可操作。数据分析师培训
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
解析 loss.backward ()：深度学习中梯度汇总与同步的自动触发核心 在深度学习模型训练流程中，loss.backward()是连接 “前向计算 ...
2025-09-02要解答 “画 K-S 图时横轴是等距还是等频” 的问题，需先明确 K-S 图的核心用途（检验样本分布与理论分布的一致性），再结合横轴 ...
2025-09-02CDA 数据分析师：助力企业破解数据需求与数据分析需求难题 在数字化浪潮席卷全球的当下，数据已成为企业核心战略资产。无论是市 ...
2025-09-02Power BI 度量值实战：基于每月收入与税金占比计算累计税金分摊金额 在企业财务分析中，税金分摊是成本核算与利润统计的核心环节 ...
2025-09-01巧用 ALTER TABLE rent ADD INDEX：租房系统数据库性能优化实践 在租房管理系统中，rent表是核心业务表之一，通常存储租赁订单信 ...
2025-09-01CDA 数据分析师：企业数字化转型的核心引擎 —— 从能力落地到价值跃迁 当数字化转型从 “选择题” 变为企业生存的 “必答题”， ...
2025-09-01数据清洗工具全景指南：从入门到进阶的实操路径 在数据驱动决策的链条中，“数据清洗” 是决定后续分析与建模有效性的 “第一道 ...
2025-08-29机器学习中的参数优化：以预测结果为核心的闭环调优路径 在机器学习模型落地中，“参数” 是连接 “数据” 与 “预测结果” 的关 ...
2025-08-29CDA 数据分析与量化策略分析流程：协同落地数据驱动价值 在数据驱动决策的实践中，“流程” 是确保价值落地的核心骨架 ——CDA ...
2025-08-29CDA含金量分析 在数字经济与人工智能深度融合的时代，数据驱动决策已成为企业核心竞争力的关键要素。CDA（Certified Data Analys ...
2025-08-28CDA认证：数据时代的职业通行证 当海通证券的交易大厅里闪烁的屏幕实时跳动着市场数据，当苏州银行的数字金融部连夜部署新的风控 ...
2025-08-28PCU：游戏运营的 “实时晴雨表”—— 从数据监控到运营决策的落地指南 在游戏行业，DAU（日活跃用户）、MAU（月活跃用户）是衡量 ...
2025-08-28Excel 聚类分析：零代码实现数据分群，赋能中小团队业务决策 在数字化转型中，“数据分群” 是企业理解用户、优化运营的核心手段 ...
2025-08-28CDA 数据分析师：数字化时代数据思维的践行者与价值推动者 当数字经济成为全球经济增长的核心引擎，数据已从 “辅助性信息” 跃 ...
2025-08-28ALTER TABLE ADD 多个 INDEX：数据库批量索引优化的高效实践 在数据库运维与性能优化中，索引是提升查询效率的核心手段。当业务 ...
2025-08-27Power BI 去重函数：数据清洗与精准分析的核心工具 在企业数据分析流程中，数据质量直接决定分析结果的可靠性。Power BI 作为主 ...
2025-08-27CDA 数据分析师：数据探索与统计分析的实践与价值 在数字化浪潮席卷各行业的当下，数据已成为企业核心资产，而 CDA（Certif ...
2025-08-27t 检验与 Wilcoxon 检验：数据差异比较的两大统计利器 在数据分析中，“比较差异” 是核心需求之一 —— 如新药疗效是否优于旧药 ...
2025-08-26季节性分解外推法：解锁时间序列预测的规律密码 在商业决策、资源调度、政策制定等领域，准确的预测是规避风险、提升效率的关键 ...
2025-08-26CDA 数据分析师：数据治理驱动下的企业数据价值守护者 在数字经济时代，数据已成为企业核心战略资产，其价值的释放离不开高 ...
2025-08-26
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
