京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据分析我做主 程序设计工具成科学家得力帮手
多年来,遗传学家Helene Royo使用商业软件分析自己的研究数据。她将DNA从发育中的小鼠精子里提取出来,送去分析,然后利用名为GeneSpring的软件研究结论。“作为一个科学家,我希望能理解自己做的任何东西。”她说,“但这类分析不允许这样:我只是按个按钮,并得到答案。”但随着Royo比较不同染色体基因活性的研究日益复杂,她意识到商业工具已无法满足她的数据处理需求。
之后,Royo有了一个选择:将基因序列发给专家或自己学着分析数据。她决定冒险一试,并开始学习如何用免费的开源软件包R解析数据。它帮助Royo所在的瑞士巴塞尔弗雷德里希米歇尔研究所生物医学研究中心在软件上运行了常规课程。但她还沿行着一个更宽广的趋势:对于那些尝试放弃使用商业软件的学者而言,R是可供选择的数据分析工具。
除了免费外,R受欢迎的部分原因是它对不同使用者呈现不同面貌。首先,它是一种编程语言,要求经由命令行输入,这似乎禁止非编码者使用。但初学者能够调用预先设置的软件包,其中包含了已经做好的统计分析和数据可视化命令。“R非常简单,它能为我做任何事。”Royo说。
而这也是R的开发者在上世纪90年代研发该软件包的初衷。新西兰奥克兰大学统计学家Ross Ihaka和Robert Gentleman对计算机十分感兴趣,但是缺乏需要的实际软件。因此,他们开发了一种能执行自己需要的数据分析的编程语言。R正是取自开发者名字的首字母。
在互联网兴起之初,R迅速吸引了全世界需要统计软件和乐于贡献点子的科学家的兴趣。Gentleman和Ihaka决定公开他们的源代码,而编码专家迅速开发出针对特定领域的预编程程序和命令。“我能写出天文学领域的人适合使用的软件。但如果是天文学者为同领域的其他人写软件会更好。”Gentleman说。
荷兰皇家海洋研究所海洋学家Karline Soetaert也同意该观点。2008年,她计划检查斯凯尔特河河口附近浮游生物的健康情况。Soetaert想要使用沿河收集的数据计算浮游动物的死亡速度,但R无法做到。为了解决该问题,她与两位生态学家开发了deSolve——写入R的首个程序包,以解决微分方程。她提到:“其他软件也能计算,但却昂贵且是闭源的。”现在,流行病学家也使用deSolve模拟传染性疾病,基因学家用它研究基因调控网络,药物开发者则将其用于药物代谢动力学。
到2003年,R首次发布10年之后,科学家已经开发出超过200个程序包,而且有关“R项目”的首个引用出现。现在,已经出现了针对各种专业的近6000个数据包。它们帮助科学家比较人类和尼安德特人基因组、建模人口增长、预言股票价格等。专家能使用R绘制手稿,他们可以嵌入源代码,通过knitr编译直接生成一份报告。2013年,在爱思唯尔的斯高帕斯数据库索引的科学文章里,有近1%援引了R或其中一个数据包,而在农业和环境科学领域,这个比例更高。
对于许多使用者而言,R作为统计学软件的质量十分引人注目。美国田纳西州大学统计学家Robert Muenchen表示,该工具与SPSS和SAS等商业数据包一样。在过去10年中,R已经赶上并超过了市场领导者。“大概在2014年夏天,R已经变成了使用量首屈一指的统计学程序包。”他说。
在基因组学和分子生物学领域,一个名为Bioconductor的软件项目紧随R之后。它能帮科学家处理和比较庞大的基因序列,利用基因表达综合数据库等数据库查询结果以及上传数据到数据库。它包含近1000个程序包,其中一些能帮助将新一代测序实验得出的数百万DNA片段与有注解的基因相连。
随着对R的钻研,Royo接受了密集训练:在弗雷德里希米歇尔研究所生物信息学部负责人Michael Stadler的监督下,她花费了约半年时间研究R和Bioconductor。伯克利数据科学研究所生态学家Karthik Ram表示,现在有足够的机会去学习R。Ram主动帮助科学家学习和开发R。他和同事免费提供培训课程,不需要任何现有编程技巧,并能针对科学家的特殊问题。
加州圣地亚哥州立大学生态学家Megan Jennings接受了相关培训。她追踪山猫、美洲狮和其他野生动物,以理解它们的行为。最终,36台相机在1年时间里拍摄了40多万张时间标记照片。最初,她手动选择出想要的照片,并将它们输入一个名为PRESENCE的黑匣子程序。但在Ram的帮助下,她写出了一个能够读出标记照片的R程序包,并对照片进行精简,然后将自定义数据子合集发送到R预先存在的模型程序包中。“之前我要动手挑拣1个小时的照片,而现在只需要做5分钟。”Jennings说。
另外,R的一个最伟大之处就是它的在线服务。Muenchen表示,有关R的讨论区远超针对其他商业统计软件的在线提问。“这种情况十分常见,一个人发布了一个问题,然后其他人在半小时内开发出程序包来回答。”他说。这样的快速反应对基础研究领域的科学家非常重要。“我几乎能在线找到任何问题的答案。” Royo说。
但与其他技能一样,学习R并非一夕之功。但Jennings表示,它值得学习。“将它作为一种投入:为了之后的节省时间和构建解决多种问题的技巧。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当导致 ...
2026-08-18在数据分析、业务评价、产品评级、用户分层与综合决策场景中,单一指标往往无法全面、客观地评价事物整体水平。现实中的评价对象 ...
2026-08-18在数理统计、假设检验、数据分析与机器学习领域中,卡方分布(χ²分布)是继正态分布、t分布之后最重要的连续型概率分布之一。 ...
2026-08-17