京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据正如何帮助拯救地球_数据分析师
在惠普Vertica分析平台的帮助下,国际保育组织正利用图像处理数据监控世界各地热带森林的生物多样性。
一年多以前,国际保育组织(CI)正全力应付一个庞大的大数据问题。
非营利环保组织的使命是保护自然及其生物多样性,但监测和分析物种的健康——尤其是在热带森林中有地球上一半的动植物——是一个费体力和劳动密集的过程。
在跨越四大洲的16个地方,CI已建立1000个相机陷阱网络——当动物通过其视点区域,装配有运动传感器的摄像头就会被触发。每2000多公里设置一个站点,摄像头捕捉经过的动物的图像,并试图综合和了解气候变化和土地利用对热带陆地哺乳动物和鸟类的多样性的影响。
检查星球的生命体征
“你和我去看医生,我们检查生命体征——提问,血压,” 首席科学家CI桑迪·安德尔曼如此说道,“我们需要那些各种各样的地球生命体征,这就是我们在国际保护组织与TEAM[热带生态,评估和监测网络]和其他项目真正想做的。”
“我们所做的是制作相机陷阱,所以听起来有点像偷拍,”她补充道,“在整个森林里制作这种陷阱,如此我们就能够发现动物种类和动物行为。”
由于相机陷阱位于地球上一些更偏远的地方,那些地方没有基础设施。团队必须手动收集陷阱中的数据并上传,最关键的是CI科学家运行一系列的脚本和模型,以确定出现在图像中的不同品种。然后,他们融合气候测量(降水,温度,湿度,太阳辐射等),关于数目的数据(生长,存活,森林砍伐等等)和来自公开渠道的土地利用数据,去创造一个该区域的动物种群健康典范,并且看它们是如何随时间而变化的。
“世界上的一切都是相互关联的,” CI的热带生态评估和监测网络代理执行主任豪尔赫·阿乌马达说道,“自然不会存活于国家之间,而是作为一个整体而存在。如果我们维持这个世界,并且以一种聪明的方式,我们需要能够评估自己应该如何改进并迅速作出反应。 “
但这个过程并不简单。大约一年前,TEAM每年的能收集到一百万张图像数据。现在的数据已经超过200万。他们在CI办公室用电脑碾碎这些数据,然后手动分布许多工作。分析这些数据的进程可能需要数周,数月甚至更长时间。
“如果我们想运行我们的指标之一的迭代,就得花费几周时间,”阿乌马达说,“我们清楚我们必须根据代码和问题的数据科学来做,但我们没有足够的规模来快速实现。”
阿乌马达指出,时间至关重要。热带森林CI监控器的所在地被认为是地球上所有动植物一半的所在地,能产生地球上40%的氧气。但根据联合国环境规划署称,46万公顷的热带森林 ——约18000平方英里——正在逐年消失。
当陷阱数据仍然必须手动收集时,惠普帮助CI进行快于原来9倍的数据分析,并且能做到更准确地引导。惠普企业服务软件工程师建立了野生动物图片指数(WPI)分析系统,一个可视化人性化的项目仪表盘和分析工具,可近实时数据驱动观察。
WPI的分析系统使用Vertica和R分析软件,运用物种存在-消失数据(通过处理原始相机捕获数据)和“协变量”(气候,林缘和人类存在的数据)去估计某一区域的物种种类。
“说真的,在环境科学,我们没有驾驭大数据的能力,”阿乌马达说,“我们需要一个系统,可以无缝集成到有用的信息上。这就是我们与惠普的合作变得非常重要的原因所在。”
数据可以改变世界
“我们已经学到了很多东西[在过去的25年],”阿乌马达补充道,“作为一个非营利性的环保组织,如果我们真的想尝试改变世界,很多传统的做法是与政府共事,并努力通过各种干预措施影响改变。但是如果你想以数据驱动的方式去做,你真的需要收集大量的数据。对我们来说与有此专长的机构合作伙伴非常重要,现在在非营利世界不同组织这种情况正在出现。“
到目前为止,CI的TEAM和惠普地球洞察分析出的数据不太令人乐观。 275个TEAM监视器,其中的60个(22%)检测到现存物种要么是显著降低要么与基线水平相比有所降低。例如,西方大猩猩——在刚果共和国极度濒危的物种,从2009年的基准线来看似乎已经下降了10%。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
随着新零售模式的快速普及,零售行业从传统的“货品驱动”全面转向“用户驱动”。门店交易数据、线上消费记录、浏览轨迹、复购频 ...
2026-08-27在数据分析、爬虫采集、接口开发、数据归档等场景中,JSON与CSV是两种使用率最高的数据存储格式。JSON为键值对结构化格式,适配 ...
2026-08-27 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-08-27在数据分析工作中,时间序列是最常见的数据类型之一,订单时间、日志时间、交易时段、统计周期等数据均离不开时间处理。原始数据 ...
2026-08-26在数据分析与数据预处理工作中,原始数据普遍存在录入错误、系统故障、偶然极值等问题,极易产生异常数据。异常数据会严重干扰数 ...
2026-08-26 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-08-26在数理统计与数据分析领域,多因素方差分析与线性回归模型是研究变量关系、因素影响、数据差异规律的两大核心工具。二者均属于经 ...
2026-08-25数据分析的核心价值不在于数据计算与图表制作,而在于清晰、精准、有逻辑地输出结论、支撑业务决策。日常数据分析报告普遍存在结 ...
2026-08-25 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-08-25平均数是数据分析、数理统计与日常运算中最基础、最常用的统计量,核心作用是浓缩一组数据的整体水平、刻画数据集中趋势。在众多 ...
2026-08-24在MySQL数据库中,InnoDB存储引擎作为主流事务型引擎,默认事务隔离级别为可重复读(Repeatable Read,RR),这与SQL Server、Or ...
2026-08-24 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-08-24 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-08-21在数据分析与数据可视化工作中,直方图是展示数据分布特征、离散程度、集中区间的核心图表,能够直观呈现数值数据的频次分布规律 ...
2026-08-20在数据分析领域有一句核心准则:垃圾数据进,垃圾数据出。数据清洗是数据分析、数据建模、数据可视化之前的必经前置工序,也是保 ...
2026-08-20 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-08-20在Python数据分析与数据清洗工作中,Pandas是最核心的数据处理库,DataFrame是结构化数据的标准存储格式。在实时数据采集、循环 ...
2026-08-19在零售行业大数据分析与精细化运营领域,纸尿裤旁摆放啤酒是最经典、最具代表性的商业案例。两种看似毫无关联的商品,一个是婴幼 ...
2026-08-19 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-08-19在数据分析、业务监控、质量检测与风险管控工作中,数据波动性是衡量数据稳定性、业务健康度、结果可信度的核心依据。数据波动代 ...
2026-08-18