京公网安备 11010802034615号
经营许可证编号:京B2-20210330
隐私换便捷?大数据挖掘究竟是怎样的技术
大数据杀熟?隐私换便捷?一度被热捧的大数据挖掘,近日站在了舆论的风口浪尖:一些商家利用大数据挖掘技术“杀熟”被网友亲测证实;百度董事长兼CEO李彦宏一句“中国人对隐私问题没有那么敏感”,更是让它的处境雪上加霜。大数据挖掘技术就像一位有了负面新闻的明星,霎时间光彩暗淡,似乎变成了偷人隐私的小贼。
《大数据时代》一书畅销之后的几年,大数据虽不再那么当红,但并未隐退,它的持续发展已成为人工智能得以实现的基础之一。
那么,大数据挖掘究竟是怎样的技术?从诞生发展至今,那些埋头苦干的技术人员又让它长了哪些本领?面对大数据难以管理的问题,有没有技术手段加以控制?
用户画像:机器给人类贴标签
“通过打标签的方式建立用户画像,是数据挖掘常用的一种技术。”北京大学计算机科学技术研究所多媒体信息处理研究室主任彭宇新教授解释,建立用户画像就是利用社交网络的信息,根据用户社会属性、生活习惯和消费行为等信息,抽象出一个标签化的用户模型,目标是使机器实现类似于人的“见信如面”的能力。社交网络数据是实现这一目标的基础,机器对人的“初相见”多是源自于对社交网络数据的挖掘。
标签,通常是通过对用户信息进行分析得到的高度精炼的特征标识,使得机器方便做信息提取、聚合分析等处理。标签本身无需再做过多文本分析等处理工作,这为利用机器提取标准化信息提供了便利。
“有了标签,计算机就能够自动处理与人相关的信息,能够通过算法、模型逐步‘理解’
人。”彭宇新介绍,多个标签共同完成画像,整个过程可分三步走:一是采集数据,即基于文本的信息抓取,口语称为“爬数据”;二是用户行为建模,通过机器学习技术,形成算法模型,判断用户可能的一些行为;三是可视化展现,把机器运算出来的结果,通过能让人类理解的方式展现出来。这三步是多轮调整的,在实际应用中,根据结果的反馈,以及业务需求,可能进行二次建模等调整。
整个过程的影响参数是相对多元的,不同的行为类型,对于标签信息的权重影响也不同。以应用最广的商品营销为例,比如网售红酒,如果“购买”权重计为5,仅“浏览”计为1,加上浏览间隔、驻留时长、生活习惯等,通过复杂的算法最终呈现出一个标签的权重,再形成画像。
基于用户画像技术,大数据挖掘进行分类和关联规则计算等分析:例如喜欢红酒的用户有多少,喜欢红酒的人群中,男、女比例是多少,喜欢红酒的人通常喜欢什么运动品牌等等。
跨媒体智能识别:为计算机装上慧眼
“以前文本信息占主流,现在图像、视频等多媒体数据铺天盖地而来。”彭宇新说,后者目前占据大数据的80%以上。
数据类型发生的巨大变化,使得智能识别的任务更加艰巨。“管不住”和“用不好”的问题日益凸显。“机器只能读懂自己的语言。”彭宇新说,人类世界的所有语言都要转化为机器理解的语言才能被识别,以前只处理文本相对简单,而现在要加上复杂的图像、视频等数据。
“例如,世界上有数千种鸟类,很多种的差异非常细微,即使是有专业知识的人类也很难准确辨认,计算机自动识别的难度就更大了。”彭宇新说,图像、视频内容理解的难点在于如何进行语义自动识别,这也是他们团队多年攻关的课题之一,为此团队发明了基于注意力模型和深度增量学习的识别方法。
注意力模型,顾名思义是让计算机自动定位图像的显着性区域,以此提高检测精度;深度增量学习,是指计算机能够利用已经学到的知识加速对新知识的学习,同时通过动态扩容以支持新概念的检测。
新模型新算法的发力,帮助机器快速识别图像、视频的语义信息。彭宇新团队近年来六次参加国际权威评测TRECVID的视频样例搜索比赛均获第一名,并在与卡内基梅隆大学、牛津大学、IBM
Watson研究中心等参赛队伍的较量中胜出。其中一个题目就是在464个小时的视频中快速准确地找出所有的伦敦地铁标志,彭宇新团队仅用了不到1秒就成功胜出,获得第一名。
单媒体信息的分析与识别之上,如何进一步让机器像人类一样能看、能理解呢?
为达到跨媒体信息融合与一体化分析识别的目的,项目团队首先把数据按照不同媒体类型自动分发到对应的分析与识别模块。例如,对视频镜头进行分割、对关键帧进行提取,然后分发到镜头检索、片断检索、视频字幕识别等模块中,对单媒体分析结果进行跨媒体语义关联分析,实现跨媒体信息的语义协同。“一种常用的方法是构建第三方空间进行跨媒体关联。”彭宇新说,“计算机根据我们教它的模型分别为图像、视频、文本、音频抽取表征,再共同投射到一个第三方空间中,这样不同媒体的信息就可以对话了。”
技术的“抽丝剥茧”,让图像、视频中的信息可以如文本一般透明。“我们是瞄着应用去的,准确率、处理速度都经过多年的优化,已经可以进行实际应用了。”彭宇新介绍,这项技术不仅帮助新闻媒体等行业进行数据管理和检索,还在助力互联网管理部门对大数据进行分析与监测。
匿名处理:可预期的隐私保护对策
打破信息控制权几乎不可能,但隐私保护却有个很便捷的方法。北京邮电大学教授杨义先的《安全简史》中有个形象的比喻,如果数据在网上“裸奔”,为了不被溯源,最便捷的安全手段是“把脸捂住”。这就是所谓的“匿名化处理机制”。
“用户隐私保护的相关规定要求,数据公司在售卖数据时,需要对数据进行匿名化处理。”北京大学计算机科学技术研究所研究员赵东岩说。但为了精准定位、推送服务,匿名化处理可能被忽视。“精准意味着目标客户群的ID指向,而不是向群体发送,因此,个性化推送和匿名化处理在目前的技术中是相互冲突的。”
针对上面的冲突,业界的先行者提出一种区块链的解决思路。“我称它为OF ID。”北京领主科技公司研究人员刘伟泰说,“大数据的本质是群体研究,但是群体粒度可以细一些,此外,区块链技术可以授予用户授权的方法。”
不难想象,随着新技术的不断创新,会有更多用于信息安全的技术突破,不是一门心思用于大数据挖掘,而是也能用于制衡“信息控制权”。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
主讲人简介 张冲,海归统计学硕士,CDA 认证数据分析师,前云南白药集团资深数据分析师,自媒体 Python 讲师,全网课程播放量破 ...
2026-10-29大学里“比较有用”的证书,不能靠一张榜单排出来。同一张证,对目标岗位明确的人是简历上的能力证据,对没有方向的人只是一次报 ...
2026-10-29“比较好考”是选证书时最常被搜索、也最容易被误读的一个词。有人把它理解成报名条件宽松,有人理解成科目少、背一背就能过,还 ...
2026-10-29本科毕业能考的证书很多,但真正值得在毕业求职阶段投入的,通常只有一两个。判断顺序建议反过来:先按报考资格分档,确认“现在 ...
2026-10-29“中国证书难度排行”很难做成一张绝对总榜。原因不在证书太多,而在“难”的口径不同:有的证书难在报名资格,工作年限和专业限 ...
2026-10-29先把结论说清楚:真正以“在校学籍”为报考前置、社会人员完全不能报的证书并不多。网上流传的“大学生专属证书”清单,很多其实 ...
2026-10-29“有哪些比较好考的证书”,这个问题看似在要一份名单,实际难点在于“好考”本身没有统一口径。有人指报名不设专业限制,有人指 ...
2026-10-29“考什么证书有用”这个问题,很难有一个统一答案。同一张证书,对想进某个行业的人是敲门砖,对已经在该行业工作多年的人可能只 ...
2026-10-29大专学历能考的证书不少,但真正值得投入时间的,要先过两道筛子:第一道是“大专能不能报”,第二道是“这个证对应什么岗位、能 ...
2026-10-29“普通人能考的证书”这个问题,真正的难点不在找证书名单,而在两件事:一是你能不能报,二是考完有没有对应的岗位任务。前者看 ...
2026-10-29“女孩子容易考什么证”这个问题,真正难的不是找证书名单,而是“容易”两个字没有说清。报考门槛低,不等于考试简单;考试简单 ...
2026-10-29先说结论:不存在一张“所有女性都吃香”的证书。把“吃香”拆开看,无非三种意思——能不能进某个岗位(岗位需求)、单位认不认 ...
2026-10-29上班族选证书,最容易犯的错是先看“哪个证含金量高”,再倒推自己要不要考。更稳妥的顺序反过来:先看这个证能不能在业余时间学 ...
2026-10-29“目前哪个证书含金量高”没有放之四海皆准的答案。同一张证书,对财会在校生、想转行做数据分析的在职人员、工程从业者,价值完 ...
2026-10-29会计岗位没有一张“通吃”的证书。比较务实的思路是:先确认自己当前做的是哪一段工作——出纳与核算、成本与总账、税务申报、审 ...
2026-10-29计算机专业能考的证书不少,但真正值得先考的,取决于你准备走哪条岗位路径。比较稳妥的分类是四类:软考职称类、厂商技术认证、 ...
2026-10-29“国家认可的人工智能证书”这句话本身容易误导。证书体系里并没有一个统一的“国家认可”标签,同一个说法可能指向五种完全不同 ...
2026-10-29“各个行业都能考的证书”这句话,其实包含两个不同的问题:一是报考时不限专业、不限行业;二是考出来以后,在不同行业的岗位上 ...
2026-10-29大学生考证最容易踩的坑,是把“别人考了什么”当成自己的清单。更实用的做法是先回答三个问题:我打算投什么岗位?这个证书现在 ...
2026-10-29结论先说:大学生没有适合所有人的“必考清单”,把证书控制在2—4本核心组合较合理——1—2本通用基础,1—2本岗位技能,学有余 ...
2026-10-29