
大数据面临的问题:数据是否需要共享
在这个大数据时代,数据带来的难题可真不少,比如,一个企业重要的资产中包括一些特殊的数据,那么就会遇到一个问题,企业是否应该与合作伙伴和供应商共享这些数据,还是应该保留其专有权?
在有关Facebook公司宽松的数据共享政策和欧盟实施通用数据保护条例(GDPR)之间,很多人都在谈论数据隐私和消费者权利。那么作为Facebook或Google等公司的消费者,应该分享多少数据呢?
那么对于企业呢?
企业可能正在处理自己的数据隐私难题,他们应该与合作伙伴、供应商还是与其他组织共享公司数据吗?如果是这样,可以分享哪些数据,以及它们应该保留为私有和专有的数据?毕竟,数据是新的石油。亚马逊、Facebook和谷歌都通过收集和利用数据建立了价值数十亿美元的公司。
虽然数据是公司可能拥有的顶级资产之一,但也可能有令人信服的理由来共享数据。例如,如果行业前沿的癌症中心分享他们每个人收集的数据,它们可能会加速并促进社会治愈癌症的努力。但与竞争对手分享也可能影响他们在市场上的竞争优势。
组织也可能正在考虑参与供应商计划,例如SAP公司正在开发的名为Data Intelligence的计划,该计划将匿名化企业客户数据,并允许这些客户将自己与其他市场进行对比。
“人们意识到他们所拥有的数据具有一定的价值,无论是出于内部目的还是出售给数据合作伙伴,这都会让他们更加意识到他们如何匿名共享数据。”SAP公司MikeFlannagan表示。就他们如何看待数据而言,不同的公司处于不同的成熟水平。
即使企业共享匿名数据以便训练算法,问题仍然是企业在共享匿名数据资产时是否放弃竞争优势。组织需要小心。
“数据非常有价值。”Databricks公司的联合创始人兼首席执行官,加州大学伯克利分校的兼职教授AliGhodsi表示。根据Ghodsi的经验,组织不希望共享他们的数据,但他们愿意出售对它的访问权限。例如,组织可能会在有限的时间段内出售对特定数据集的有限访问权限。
Ghodsi说,数据聚合器是通过抓取网络来创建销售数据集的公司。
Ghodsi说,有些传统的公司可能有数年或数十年的数据尚未暴露于应用人工智能和机器学习,而这些公司可能希望使用这些巨大的数据集获得竞争优势。例如,任何拥有大量会员卡的零售商都可能拥有10年或20年的汇总数据。
在Ghodsi的经验中,组织需要更多数据,但他们不愿意分享,有时甚至在他们自己的组织内也不分享。在许多组织中,IT团队控制着对数据的访问,并且可能不愿意对业务线领域的数据科学家的所有请求进行响应。这是2017年12月由Ghodsi和加州大学伯克利分校的其他研究人员共同撰写的题材之一,主题为“伯克利人工智能系统挑战观点”。Ghodsi表示,该小组正在进行研究,以寻找激励企业公司分享更多数据的方法。其中一种方法是模型本身,而机器学习模型是对所有数据的非常紧凑的总结。
Ghodsi说,“例如,我们拥有世界上所有癌症的大量数据集,可以创建一个机器学习模型。它可以预测肺部癌症的可能性、它们的健康状况、癌症的风险。但仍然没有分享所拥有的所有X射线数据,而且不打算对外你分享。”
Ghodsi说,现在正在开始这种分享。谷歌公司已经发布了许多用于分类图像的模型。
另一种方法称为转移学习,Ghodsi说在Databricks公司启用了一种方法。Ghodsi说,这个工作通过将现有模型与新模型相结合,允许企业通过利用新数据获得新价值。
另一种分享研究数据价值同时保留企业对该数据的私人访问权限的方法是通过联合机器学习。这是Owkin公司使用的技术之一,Owkin公司是一家帮助癌症研究中心加速其研究效益的创业公司。
“在学习中,企业可能将数据留在边缘设备上。”ClouderaFastForwardLabs的数据科学家FriederikeSchuur表示。谷歌公司在博客中解释了它的工作原理:“企业的设备会下载当前模型,通过学习手机上的数据来改进它,然后将更改汇总为集中更新。只有模型的此更新才会发送到云端,使用加密通信,在其中立即与其他用户更新进行优化,以改善共享模型。所有培训数据都保留在设备上,并且云中不会存储任何单独的更新。”
通过这种方式,组织可以为社区的研究工作做出贡献,但不会在此过程中泄露他们的数据。
转移学习和联合学习等创新可以帮助解决医疗保健公司分享数据的问题。数据治理服务商Immuta公司的联合创始人兼首席执行官Matthew Carroll表示,在数据共享方面,医疗公司已经看到了很多关注。
他说,“他们害怕将数据提供给其他人,他们很清清楚楚这是未开发的财富,是未来的企业收入。”
对于初创公司而言,这种恐惧也可能转化为其他后果。例如,如果价值被认为是数据本身,投资公司是否会向分享其数据的公司提供资金?
Schuur说,每家公司都需要自己仔细决定分享内容。“如果是癌症研究,人们应该有更多的数据共享。”
但是组织应该非常小心他们分享的内容以及如何分享。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在神经网络模型设计中,“隐藏层层数” 是决定模型能力与效率的核心参数之一 —— 层数过少,模型可能 “欠拟合”(无法捕捉数据 ...
2025-10-14在数字化浪潮中,数据分析师已成为企业 “从数据中挖掘价值” 的核心角色 —— 他们既要能从海量数据中提取有效信息,又要能将分 ...
2025-10-14在企业数据驱动的实践中,“指标混乱” 是最常见的痛点:运营部门说 “复购率 15%”,产品部门说 “复购率 8%”,实则是两者对 ...
2025-10-14在手游行业,“次日留存率” 是衡量一款游戏生死的 “第一道关卡”—— 它不仅反映了玩家对游戏的初始接受度,更直接决定了后续 ...
2025-10-13分库分表,为何而生? 在信息技术发展的早期阶段,数据量相对较小,业务逻辑也较为简单,单库单表的数据库架构就能够满足大多数 ...
2025-10-13在企业数字化转型过程中,“数据孤岛” 是普遍面临的痛点:用户数据散落在 APP 日志、注册系统、客服记录中,订单数据分散在交易 ...
2025-10-13在数字化时代,用户的每一次行为 —— 从电商平台的 “浏览→加购→购买”,到视频 APP 的 “打开→搜索→观看→收藏”,再到银 ...
2025-10-11在机器学习建模流程中,“特征重要性分析” 是连接 “数据” 与 “业务” 的关键桥梁 —— 它不仅能帮我们筛选冗余特征、提升模 ...
2025-10-11在企业的数据体系中,未经分类的数据如同 “杂乱无章的仓库”—— 用户行为日志、订单记录、商品信息混杂存储,CDA(Certified D ...
2025-10-11在 SQL Server 数据库操作中,“数据类型转换” 是高频需求 —— 无论是将字符串格式的日期转为datetime用于筛选,还是将数值转 ...
2025-10-10在科研攻关、工业优化、产品开发中,正交试验(Orthogonal Experiment)因 “用少量试验覆盖多因素多水平组合” 的高效性,成为 ...
2025-10-10在企业数据量从 “GB 级” 迈向 “PB 级” 的过程中,“数据混乱” 的痛点逐渐从 “隐性问题” 变为 “显性瓶颈”:各部门数据口 ...
2025-10-10在深度学习中,“模型如何从错误中学习” 是最关键的问题 —— 而损失函数与反向传播正是回答这一问题的核心技术:损失函数负责 ...
2025-10-09本文将从 “检验本质” 切入,拆解两种方法的核心适用条件、场景边界与实战选择逻辑,结合医学、工业、教育领域的案例,让你明确 ...
2025-10-09在 CDA 数据分析师的日常工作中,常会遇到这样的困惑:某电商平台 11 月 GMV 同比增长 20%,但究竟是 “长期趋势自然增长”,还 ...
2025-10-09Pandas 选取特定值所在行:6 类核心方法与实战指南 在使用 pandas 处理结构化数据时,“选取特定值所在的行” 是最高频的操作之 ...
2025-09-30球面卷积神经网络(SCNN) 为解决这一痛点,球面卷积神经网络(Spherical Convolutional Neural Network, SCNN) 应运而生。它通 ...
2025-09-30在企业日常运营中,“未来会怎样” 是决策者最关心的问题 —— 电商平台想知道 “下月销量能否达标”,金融机构想预判 “下周股 ...
2025-09-30Excel 能做聚类分析吗?基础方法、进阶技巧与场景边界 在数据分析领域,聚类分析是 “无监督学习” 的核心技术 —— 无需预设分 ...
2025-09-29XGBoost 决策树:原理、优化与工业级实战指南 在机器学习领域,决策树因 “可解释性强、处理非线性关系能力突出” 成为基础模型 ...
2025-09-29