京公网安备 11010802034615号
经营许可证编号:京B2-20210330
随着信息技术和网络及各类传感设备、海量存储技术的飞速发展,数据的定义和收集方式产生了革命性的变化,大数据应运而生。相比传统分析方法,大数据技术拥有无可比拟的优势,然而大数据技术所引发的一系列关于认知论的哲学难题——大数据的假设及伦理问题——同样不容忽视。John Symon和Ramón Alvarado 2016年发表在《大数据与社会》(Big Data & Society)的论文《我们可以信任大数据吗?把科学哲学运用在计算机软件上》(Can we trust big data? Applying philosophy of science to software)表示:在很多情况下,道德与认识论问题密不可分。解铃还需系铃人,只有尽可能弄清大数据如何影响并改变了认识论,才能从根本上改善大数据技术潜在的问题。例如,通过大数据技术我们可以知道什么?这些技术的局限性在哪里?以及大数据的“新”到底体现在哪里?
有关大数据的主流文献常常表现出对科学哲学和认知论的不同看法,结论均基于一个假设:大量的数据及通过大数据分析发现的模式是独立于理论基础的。换句话说,很多大数据学者错误地认为数据量越大,分析结果就越可靠,而理论立场可有可无。这种研究大数据而不考虑当代科学哲学的做法既不明智也不可取。大数据的核心在于如何使用大数据技术来捕捉和分析数据,而大数据技术多涉及算法,我们只有充分理解各种算法的局限性和风险,明白这些算法会如何引致以及引致什么样的误差,才能决定到底多大程度可以对这些算法施以信任、加以限制。
文章首先介绍了大数据的定义并试图解释大数据的局限性,然后就以往研究对大数据的批评进行了概述,并接着论证为什么科学哲学和社会认识论与大数据技术息息相关。解决认识论担忧的最好办法是参与到计算建模与模拟的科学哲学辩论当中。基于Paul Humphreys提出的“认知模糊”,作者表示,大数据的“认知模糊”关键在于大数据技术对错误管理和错误检验的忽视,而错误问题同时也是大数据认识论的一个重要特征。要改善大数据认识论的缺陷,就必须正视误差的影响。基于这一考虑,文章就误差检验与纠正的主要特性及软件误差和路径复杂性之间的关系进行了阐述,并介绍了误差检验的常规统计方法(如Mayo的严格检验及模拟验证),以及当处理大数据的软件系统受到高度制约时这些误差检验的缺陷。最后,以谷歌流感趋势为例,文章进一步讨论了大数据技术的局限性,尤其是局限性的根源。
那么,我们可以信任大数据技术吗?文章表示,这不仅仅在于软件的开发与修正本身,而更加在于认知对软件的开发—修改—更新这个循环过程的指引作用。大数据技术是科学哲学与社会认识论争辩的产物,在运用时不应脱离科学哲学思想的指引。缺乏认知则会大大限制我们发现错误的能力。
总而言之,大数据技术作为一种工具不可避免地存在局限性。从本质上讲,这些局限性反映了大数据技术背后理论的缺失。更重要的是,这些局限性清晰地表达了大型软件系统的常规误差监测、修正与评估对内在认识论的挑战。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
数据分析师的日常,常始于一堆“毫无章法”的数据点:电商后台导出的零散订单记录、APP埋点收集的无序用户行为日志、传感器实时 ...
2025-11-28在MySQL数据库运维中,“query end”是查询执行生命周期的收尾阶段,理论上耗时极短——主要完成结果集封装、资源释放、事务状态 ...
2025-11-28在CDA(Certified Data Analyst)数据分析师的工具包中,透视分析方法是处理表结构数据的“瑞士军刀”——无需复杂代码,仅通过 ...
2025-11-28在统计分析中,数据的分布形态是决定“用什么方法分析、信什么结果”的底层逻辑——它如同数据的“性格”,直接影响着描述统计的 ...
2025-11-27在电商订单查询、用户信息导出等业务场景中,技术人员常面临一个选择:是一次性查询500条数据,还是分5次每次查询100条?这个问 ...
2025-11-27对数据分析从业者和学生而言,表结构数据是最基础也最核心的分析载体——CRM系统的用户表、门店的销售明细表、仓库的库存表,都 ...
2025-11-27在业务数据可视化中,热力图(Heat Map)是传递“数据密度与分布特征”的核心工具——它通过颜色深浅直观呈现数据值的高低,让“ ...
2025-11-26在企业数字化转型中,业务数据分析师是连接数据与决策的核心纽带。但“数据分析师”并非单一角色,从初级到高级,其职责边界、能 ...
2025-11-26表格结构数据以“行存样本、列储属性”的规范形态,成为CDA数据分析师最核心的工作载体。从零售门店的销售明细表到电商平台的用 ...
2025-11-26在pandas数据处理工作流中,“列标签”(Column Labels)是连接数据与操作的核心桥梁——它不仅是DataFrame数据结构的“索引标识 ...
2025-11-25Anaconda作为数据科学领域的“瑞士军刀”,集成了Python解释器、conda包管理工具及海量科学计算库,是科研人员、开发者的必备工 ...
2025-11-25在CDA(Certified Data Analyst)数据分析师的日常工作中,表格结构数据是最常接触的“数据形态”——从CRM系统导出的用户信息表 ...
2025-11-25在大数据营销从“粗放投放”向“精准运营”转型的过程中,企业常面临“数据维度繁杂,核心影响因素模糊”的困境——动辄上百个用 ...
2025-11-24当流量红利逐渐消退,“精准触达、高效转化、长效留存”成为企业营销的核心命题。大数据技术的突破,让营销从“广撒网”的粗放模 ...
2025-11-24在商业数据分析的全链路中,报告呈现是CDA(Certified Data Analyst)数据分析师传递价值的“最后一公里”,也是最容易被忽视的 ...
2025-11-24在数据可视化实践中,数据系列与数据标签的混淆是导致图表失效的高频问题——将数据标签的样式调整等同于数据系列的维度优化,或 ...
2025-11-21在数据可视化领域,“静态报表无法展现数据的时间变化与维度关联”是长期痛点——当业务人员需要分析“不同年份的区域销售趋势” ...
2025-11-21在企业战略决策的场景中,“PESTEL分析”“波特五力模型”等经典方法常被提及,但很多时候却陷入“定性描述多、数据支撑少”的困 ...
2025-11-21在企业数字化转型过程中,“业务模型”与“数据模型”常被同时提及,却也频繁被混淆——业务团队口中的“用户增长模型”聚焦“如 ...
2025-11-20在游戏行业“高获客成本、低留存率”的痛点下,“提前预测用户流失并精准召回”成为运营核心命题。而用户流失并非突发行为——从 ...
2025-11-20