京公网安备 11010802034615号
经营许可证编号:京B2-20210330
华尔街玩转社交网络大数据:利用你的恐惧赚钱
5月28日,当上证指数以重挫6.5%结束一天行情时,网络上到处弥漫着恐慌与迷茫的情绪。就在投资者在坚守和撤离之间难做抉择之时,有一种软件已在后台搜集这些情绪数据,并进行量化分析,形成具体的投资意见。这就是美国华尔街投行、对冲基金、甚至纽约证券交易所都在使用的社交网络股市情绪量化分析法。
我国的股市情绪量化分析,也随着股票雷达、投资脉搏以及百度股市通等应用的出现,进入了起步阶段。在大市走向震荡加剧的当下,将感性的情绪量化为理性数据,不失为投资者纵观全局的参考指标。
2015年4月,总部位于波士顿的对冲基金Tashtego宣布,将依靠数据算法,利用社交网络分析客户情绪和投资者行为进行交易。这则消息,向大众揭开了华尔街使用的情绪量化分析法的神秘面纱。
实际上,从2013年美国证监会(SEC)允许上市公司在社交网络披露公司信息起,美国股市情绪分析应用如雨后春笋般冒出,华尔街投行、对冲基金等纷纷加入到这股互联网金融浪潮中。
社交数据分析公司受追捧
2013年3月8日,纽约数据分析公司Dataminr(数据矿工)的客户收到一条紧急推送,称一艘皇家加勒比海游轮抵达佛罗里达的埃弗格莱兹港,船上的105名乘客和3名船员全部感染诺如病毒(常见伴随症状是食物中毒和腹泻)。这则经确认的新闻刚公布,皇家加勒比海游轮公司的股价旋即急跌2.9%。Dataminr的客户在新闻公布前48分钟即得知此事件。
引起Dataminr员工警觉的,是南佛罗里达新闻电台WSVN于当天下午1点发布的一条推文。“我们心中警铃一震”,Dataminr公司创始人彼得·贝利说,后台语义算法系统发现这条推文与曾经产生过类似价值的信息行文类同。当天下午1点02分,即该推文发布两分钟后,Dataminr公司的相关客户就收到一封警示邮件。
上述Dataminr提供的服务,不过是美国近几年社交网络股市情绪分析浪潮中的一例。
诸如Social Market Analytics(社交市场分析公司SMA)和Hedge chatter等公司都以Twitter、Facebook等社交网络大数据为基础,收集并分析网络上对上市公司或某一事件的看法评论,并作出与股价有关的预测分析。
全球最大社交数据提供商GNIP2014年发布白皮书指出,社交网络股市情绪分析最早始于2010年,用途还只限于企业分析客户感受。2013年,美国证监会(SEC)允许上市公司在社交网络披露公司信息后,包括汤森·路透、彭博社在内的全球著名数据提供商也开始提供社交网络数据分析服务。
面向机构和个人的相关应用如雨后春笋般冒出。Dataminr创始人彼得·贝利透露,他们的客户就包括华尔街前5大超级投资银行中的3家,和一家估值150亿美元的股权避险基金公司。
SMA与全球领先的数据分析商Markit合作,向超3000家机构投资者提供信息,里面就包括中央银行、华尔街投行、对冲基金、政府机构和保险公司等。值得注意的是,SMA甚至打入了交易所内部,向美国纽约交易所用户订阅栏目提供实时数据分析结果。
理论基础和数据池更成熟
对市场情绪的分析早有理论基础。2002年,心理学家丹尼尔·卡纳曼和经济学家弗农·史密斯因对结合了心理学和经济分析的行为经济学的研究,分享了这一年的诺贝尔经济学奖,让这一细分学科在沉寂了几十年后真正走进了公众视野。
2010年,美国印第安纳大学和英国曼彻斯特大学的三位学者合作发表了一篇题为《Twitter情绪预测股市》的论文,指出基于大量推文而分析出的公众情绪与道琼斯工业指数相关联,甚至具有预测性。
他们选取2008年2月28日至12月19日近1000万条推文作为样本,采用两种情绪追踪工具将其分类。一种是开源工具OpinionFinder,将推文二分为积极和消极情绪;另一种是以临床医学使用的情绪状态量表(POMS)基础而新开发的情绪测试工具GPOMS,能将公众的情绪分为冷静、警惕、确信、活力、友善和幸福这六个类别。
研究者发现,将“冷静”情绪指数后移3天,竟然与道琼斯工业平均指数惊人一致,也就是说,Twitter反映出的情绪能在一定程度上预测3~4天后的股市变化。另外,研究者还测试了一个称为SOFNN的股市预测模型。当仅输入股市数据时,模型已经有73.3%的准确率;加入“冷静”的情感信息后,准确率更升至86.7%。
分析软件如何在全球每天数百亿推文中筛选有效信息,成为量化市场情绪的关键,专业的算法成为筛选有效信息的利器。
对相对成熟的美国公司来说,其能利用的数据池非常广泛。《每日经济新闻》记者注意到,Dataminr、SMA和Hedge chatter三家业界主力的信息来源分为两种。
一种是依托全球最大专业数据提供公司英国DataSift(数据雨燕)和美国GNIP。DataSift数据池共有超过21家网站,拥有强大的信息过滤算法,每秒能挖掘12万条推文,数据池除了主要的Twitter、Facebook、Wordpress和Tumblr外,还有图片社交网站Instagram、视频分享网站Youtube和Dailymotion等,其中Datasift还取得了新浪微博、腾讯微博的资源授权。
二是公司用自己的语义分析法对数据进行细分。例如SMA锁定超过30万的专业投资者,这部分人密切关注资本市场动向,有规定地发布股市推文。因此成为SMA数据库的基础来源,并每月自动筛选替换。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
CDA数据分析师 出品 作者:李诗怡 一、数据分析四大思维 1. 对比思维:没有对比就没有分析 核心观点:单独一个数字没有意义,有 ...
2026-10-05Kimball 是方法,星型模型是它产出的形状。 很多人把"Kimball vs 星型模型"当成一道选择题——这本身就是个误会:Kimball 是动词 ...
2026-10-05写在开头 老板在微信上甩来一句: "帮我看下为什么销量跌了。" ” 你回工位,打开 SQL,开始写。查订单表、拉近三个月、按 ...
2026-10-03CDA数据分析师 出品 作者:李诗怡 1. 事实表 vs 维度表 对比维度 事实表 维度表 核心问题 记录“业务发生了什么事” 描述 ...
2026-10-02做数据聚合时,PySpark的groupBy()确实能完成统计,这也是它的本职工作。但它有一个根本性局限:每一组数据,最终只能返回一行 ...
2026-10-01热力地图是数据可视化中极具辨识度与实用性的空间分析图表,结合地理空间维度与数据密度特征,通过颜色深浅、色阶渐变直观展示数 ...
2026-09-30 很多数据分析师做过按月份的销售额趋势图,画过按天的流量折线图,但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-09-30同样是“银行数据岗”,在国有大行总行数据中心、在一家城商行的零售部、在银行系金融科技子公司、在保险公司,工作内容、成长节 ...
2026-09-29在数据分析与统计学研究中,数据往往不是独立存在的,不同变量之间普遍存在相互关联、相互影响的关系。相关性统计分析是挖掘变量 ...
2026-09-29 导读:大多数人只把 dataclasses 当成偷懒工具,用来少写 __init__、__repr__ 这类魔法方法。但它的能力远不止于此。本文带 ...
2026-09-29 很多数据分析师能熟练地计算指标、搭建标签体系,但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-09-29在MySQL数据库运维与业务开发中,行业普遍存在“数据达到千万级就必须分表”的说法。但在实际生产环境中,千万条数据并不是强制 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 5W1H 分析法 定义:经典系统性思维框架,通过六个核心维度对问题进行全方位拆解与剖析,确 ...
2026-09-28 很多分析师在设计标签时思路清晰,但真到落地环节却面临“数据在手,不知如何转化为可用标签”的困境:或因加工方式选择不当 ...
2026-09-28CDA数据分析师 出品 作者:李诗怡 1. 用户标签体系 定义: 通过一系列高度精炼的特征标识,对用户属性、行为与偏好进行量化刻画 ...
2026-09-24Pandas是Python生态中用于表格数据处理的核心库,广泛应用于数据清洗、统计运算、报表输出、数据分析建模等场景。在处理极大数值 ...
2026-09-24随着数字经济快速发展,数据已成为核心生产要素,各行各业的业务沉淀、用户行为、设备运行、市场交易均产生海量数据。数据处理作 ...
2026-09-24 很多分析师每天和数据打交道,但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时,却常常答不上来。 ...
2026-09-24在时序数据分析中,大部分业务数据并非持续平稳变化,而是会在某些时间节点出现突然抬升、断崖下跌、趋势反转、波动异变等现象, ...
2026-09-23在统计学与数据分析中,研究多组数据差异最常用的方法为单因素方差分析与事后多重比较。很多数据分析初学者容易混淆两者功能,认 ...
2026-09-23