京公网安备 11010802034615号
经营许可证编号:京B2-20210330
大数据对社会创新的作用_数据分析师培训
“大数据”一语用来描述数据的日益增长和我们不断加强的有效利用数据的的能力,并且大数据已经在科学和商业领域获得了极大的应用。但是在社会领域“大数据”的应用却是滞后的。
大数据所提供的信息和帮助解决社会问题之间存在巨大的鸿沟。有一些社会问题可以通过大数据来解决,例如利用交通流量数据来缓解高速公路交通拥堵问题;但另一些社会问题的解决却没那么容易,例如如何利用数据来解决无家可归者的问题,或者贩卖人口的问题?
社会问题之所以复杂,是因为涉及的利益相关者众多,所以目标也是多重的。不像技术问题一样,目标往往是单一的,比如说优化。但在社会问题上,到底什么叫“优化”呢?尤其是社会问题往往涉及政府的公共政策和行政机构的介入,使得社会问题又不单纯是社会问题,而成为政治问题。
大数据使用的问题
另一个问题与大数据本身的使用有关系。事实上,但切入一个社会问题时,你可能会遇上不上数字,但这些数字往往不是结构化的,很难被调用。结构化的大数据相对缺乏有四个主要的原因:数据淹没在行政系统、数据管理标准缺乏、数据往往不可靠以及数据可能导致意想不到的后果。
比如说,全球每年被贩卖的人口估计高达3000万人次,这是个约320亿美元的“产业”。要打击人口贩子,大数据当然可以帮忙。但问题是人口贩子用的手机、社交媒体、在线广告和其他网络平台产生的数据,并没有被系统的收集,更遑论共享给相关的组织。当然原始数据本身的收集就很难,并且各个组织之间的数据共享做得也不到位。
更糟的是,打击人口贩卖的各家机构经常互相争夺的稀缺资源:无论资金、捐赠还是来自媒体和社会的认同。因为这种竞争,各机构之间的数据共享几乎不可能。例如,北极星项目(the Polaris Project)一直致力于打击人口贩卖。2003年至2006年,Polaris为被贩卖的幸存者提供热线电话。2007年,美国卫生和公众服务部选定Polaris作为全国首个国家贩卖人口资源热线。多年来,Polaris记录了75000多个呼叫;然而,获得这些数据受到限制,其可靠性和来源鲜为人知。
如果Polaris信息向公众开放,并结合其他数据源,如经济指标、运输路线、教育统计和受害者服务等,能更加有效帮助打击人口贩卖。2012年Google Giving(谷歌捐赠)授予Polaris和另外两家国际反人口贩卖组织300万美元以资助将他们三条电话热线收集到的数据予以整合,并发展为国际热线。目前,三个组织都已在全球人口贩运热线网络(Global Human Trafficking Hotline Network)下联合起来。这是一个积极的迹象,但是这次的合作成果仍有待观察。
增加大数据使用的步骤
大数据于决策时充分了解信息以帮助解决世界上最棘手的社会问题有着巨大潜力。但是要做到这一点,有关数据的收集、组织和分析的问题必须首先得到解决。下列四项建议有助于创建数据集,并以此为据进行决策。
首先,在关键问题上建立全球数据银行。全球需要对复杂的问题,如贩卖人口、全球饥饿和贫穷创建大型数据银行。数据银行有处理不同数据格式和描述数据集的元数据的能力。为了做到这一点,促进专题问题的数据共享需要创建多部门的联盟。
其次,让公民参与和公民科学。大数据不是专业人士的地盘。公民也可以参与帮助创建和分析这些数据集。随着通过开放的数据平台数据激增,越来越多的公民通过“公民科学”来开创新理念和产品。
再次,建立数据管理人和分析人的框架。今天,我们不仅缺乏可以解决社会问题的数据管理人和分析师,对于接受必要培训和能力的现有人员,我们的途径也是有限。在大多数情况下,我们将数据科学留给了科学界和商界。社会科学往往给学生提供简单的统计基础知识。如果我们要利用大数据,这种做法是不可接受的。我们需要让学生和分析人员掌握必要技能,以管理数据同时也创建大型数据集。我们要开发课程,让学生了解数据的组织、保存、可视化、搜索和检索以及使用。除了这些技能,要让学生能更多地思考能利用数据做什么是至关重要。考虑数据集之间的网络关系,以及如何发现数据集中的潜在模式,是需要开发的能力。
最后,促进虚拟实验平台。为了提高我们对如何使用大数据解决社会问题的理解,我们需要推动更多的实验。虚拟实验平台,允许个人交流思想、与别人的想法交流、携手合作以找到解决问题的方法或利用机会,它能够将各个感兴趣的相关方聚集在一起共同打造大型数据集、开发创新算法来分析和可视化的数据,并开发新知识。如果我们要使用大数据解决社会挑战,虚拟实验平台是必不可少的。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
一、为什么要区分这两种分布 在数据分析和统计学中,拿到一组数据后第一件事通常就是看它的分布形态。分布形态决定了你能用什么 ...
2026-10-15一、问题现象 在实际使用 Excel 透视表做数据分析时,经常会遇到这样的情况:数据源表格里明明新增了一行或一列金额数据,数据源 ...
2026-10-15核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-15一、什么是预测式发货 预测式发货(Anticipatory Shipping)是亚马逊于2013年12月获得授权的一项美国专利(专利号 US 8,615,473 ...
2026-10-14一、SQL在金融量化体系中的定位 量化投资的本质是用数据驱动决策,而数据处理贯穿量化研究的全生命周期。从原始行情数据清洗、因 ...
2026-10-14核心资源推荐 CDA教材(2025):https://edu.cda.cn/goods/show/3151CDA模拟题(2025):https://edu.cda.cn/goods/show/2845CD ...
2026-10-14CDA数据分析师 出品 作者:李诗怡 四层结构 · 零件与房子 · 六大易错点 一、什么是指标体系 定义:指标体系是整套完整框架 ...
2026-10-13写在开头 先还原一个你大概率见过的场面。 立项会上有人说:我们得做用户画像。 于是团队关进会议室,白板写满便利贴,两小时后 ...
2026-10-13 很多数据分析师每天都在计算指标、制作报表,但当被问到“什么叫指标数据元”“指标数据标准包含哪些核心维度”“指标数据质 ...
2026-10-13在统计学与数据分析研究中,相关性分析分为数值变量分析与分类变量分析两大类。针对身高、销量、分数等连续数值变量,通常采用皮 ...
2026-10-12在Power BI可视化分析体系中,常规表格仅能展示枯燥的数值数据,存在数据对比不直观、强弱规律不突出、维度交叉分析低效等问题。 ...
2026-10-12 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-10-12在传统零售行业同质化竞争激烈、大众营销转化率持续走低的背景下,依托经验与直觉的粗放式营销逐渐失效。美国塔吉特百货(Target ...
2026-10-10随着智能客服、数字化服务、用户精细化运营的快速普及,传统零散、非标准化的客户服务数据与业务体系逐渐难以支撑高效服务治理。 ...
2026-10-10 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-10-10CDA数据分析师 出品 作者:李诗怡 定义区别 · 场景举例 · 指标分类 · 计算方法 知识体系总览 模块 包含内容 一、核 ...
2026-10-09在数据分析工作流中,业务数据大多存储在各类关系型数据库内,例如MySQL、PostgreSQL、SQLite等。Pandas是Python生态中主流的数 ...
2026-10-09在数字化精细化运营时代,海量用户存在需求差异、行为差异、价值差异与偏好差异。如果企业采用“一刀切”的统一营销、统一服务、 ...
2026-10-09 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-10-09指标体系是企业数字化分析、业务监控、经营决策的核心基础框架,是将零散数据转化为可衡量、可对比、可落地业务价值的关键体系。 ...
2026-10-08