京公网安备 11010802034615号
经营许可证编号:京B2-20210330
数据收集或比数据挖掘更有意义
按照今天信息技术的发达程度,数据收集看起来很容易。一个摄像头每天收集多少信息?空间跑着那么多卫星,它们每天收集多少信息?好像不用愁没有信息。而数据挖掘要从繁杂的信息中寻找知识,就很困难了。但是,事情可能不是那么简单。在某些情况下,数据收集可能比数据挖掘更难、更有意义。
不竟想起所谓“费米悖论(Fermi Paradox)”.1950年的一天,诺贝尔奖获得者、物理学家费米在和别人讨论飞碟及外星人问题时,突然冒出一句:“如果有外星人,他们为什么没在这里?”这句看似简单的问话,就是着名的“费米悖论”.如果认为在如此广阔的宇宙中(上百亿光年的空间,约700万亿亿颗恒星),在如此漫长的时间里(100亿~160亿年),全宇宙总共只诞生了太阳系的地球这唯一的文明,这听起来无论如何总是极端武断的。那么,总该有一个两个外星文明被我们发现,或到地球来访问过了吧?为什么它们至今仍然是沉默的呢?人类能用100万年的时间飞往银河系各个星球,那么,外星人只要比人类早进化100万年,现在就应该来到地球了。迄今为止,仍然缺乏任何被科学共同体接受的证据,能够证明地外文明的存在;另一方面,科学共同体也无法提出任何令人信服的证据,能够证明外星文明不存在,这就使得“费米悖论”成为一个极端开放的问题
我们学偏微分方程的时候,总是要先论证某一类方程解的存在性。知道解的存在,才能去求解。可是,不求出解来,怎么知道解是存在的呢?这就是一个悖论。对存在的数据集应用算法过去是产生新发现的有效方法,而现在新知识可以使用可用的材料资源创造财富,比累积新资源更有效。过去,生物学家,天文学家和宇宙学家从历史数据中找发现,考古学家艰难地去挖掘。现在,他们可以重建所有的废墟和人工制品,从卫星和航拍图像侦察到的表面跟踪想象出来。研究(Research)就真成了重新搜索(Re-Search)。
联想到马航MH370失联事件。2014年3月8日凌晨1时20分,由马来西亚吉隆坡飞往中国北京的马来西亚航空公司MH370航班与地面失去联系,机上239人中有154名中国籍乘客。此事已经过去35天,先后26个国家参加搜索,出动几百架次飞机和军舰、商船,花费超过5000万美元。先说在南海,折腾了10多天一无所获;有人根据卫星图像说是在吉尔吉斯西北部的塔拉斯州州府以南约30公里处的山谷里;后来又说是在印度洋;反复折腾,试图收集MH370的数据,但是,至今没找到。按理说,有关的数据多的是,即使是这35天的卫星数据、搜索飞机得到的数据,不可谓不大,不管你怎么去挖掘这些数据,你也得不到任何MH370的数据。这个例子说明,在某些情况下,数据收集比数据挖掘更难、更有意义,因为这种数据收集就是发现。新闻联播每天都播MH370搜索的消息。新闻联播1分钟值多少钱?做过广告的公司也许知道,反正很贵。也许会说,那是因为机上有154名同胞。可是,国内死人的事天天有,怎么没花这么多的笔墨?这问题很复杂。即使黑匣子找到了,各国都有自己的秘密,只能用各国都能接受的方式做报道。所以,这里的数据分析是和政治有关的,甚至说,数据收集的过程也与政治有关。不要认为,大数据能解决一切。而在数据收集中,硬件技术不可缺少。我们国家在硬件技术和生产方面应该承认差距,加强研究、制造和发展。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在MySQL数据库日常查询、数据统计、后台接口开发、数据导出等场景中,开发者经常需要查询数据表除某几列之外的所有字段。例如查 ...
2026-06-09在Python网络请求、爬虫开发、接口测试、数据抓取等实操场景中,requests库是最常用的第三方请求工具,而content属性是requests ...
2026-06-09 数据分析正在重塑每一个行业。CDA认证的三本官方教材,分别对应Level I、Level II、Level III,为你铺就从业务数据分析到数 ...
2026-06-09在数字财务、智慧财税、业财融合深度推进的当下,传统财务模式下数据标准混乱、业务流程碎片化、知识无法沉淀、系统互通性差等问 ...
2026-06-08随着数字经济深度渗透各行各业,数据正式成为继土地、劳动力、资本、技术之后的第五大生产要素,是企业数字化转型、精细化运营、 ...
2026-06-08 很多数据分析师能熟练写SQL、做透视表,但当被问到“数据是从哪里来的?经过哪些加工才进入数据仓库?ETL具体做了什么?”时 ...
2026-06-08【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-05在数据库数据查询、业务报表统计、多表关联分析中,LEFT JOIN左连接是使用率最高的SQL关联查询语句。其核心特性是保留左表全部数 ...
2026-06-05 很多数据分析师能熟练地写SQL、做透视表、算描述性统计,但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-06-05任何一款产品从诞生、普及到最终退出市场,都会遵循一套固定的发展规律,这就是产品生命周期理论。在市场竞争日益激烈、产品迭代 ...
2026-06-04在Excel数据分析、办公统计、业务报表制作场景中,数据透视表是数据汇总、分类统计、快速复盘的核心工具,能够高效完成海量原始 ...
2026-06-04 很多数据分析师拿到数据就开始清洗、建模,但当被问到“这批数据属于什么类型——结构化还是非结构化?分类变量还是数值变量 ...
2026-06-04在问卷调查与社会科学数据分析中,卡方检验是最常用、最基础的非参数检验方法,广泛应用于市场调研、用户分析、行为统计、满意度 ...
2026-06-03【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-03 很多数据分析师画过趋势图、做过业绩预测,但当被问到“这个月销售额增长20%,到底是长期趋势自然增长,还是促销活动的短期 ...
2026-06-03逻辑回归是数据分析、机器学习、统计建模中应用最广泛的二分类预测模型,常用于风险判断、行为预测、归因分析等场景。在SPSS、Py ...
2026-06-02数字经济时代,市场竞争日趋同质化,用户消费需求愈发个性化、多元化,传统依托经验、粗放式、广撒网的营销模式弊端日益凸显。长 ...
2026-06-02 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-06-02在市场竞争日趋饱和、用户需求不断细分的当下,企业创业创新、产品迭代与市场拓展不再依赖经验决策,而是需要系统化、工具化的商 ...
2026-06-01【核心关键词】调度、岗位、数据库、企业、报表、培训、程序、数据分析、数据加工、业务部门、企业数据、调度工具、业务指标、 ...
2026-06-01