京公网安备 11010802034615号
经营许可证编号:京B2-20210330
这次我们聊聊“违规识别”模型,在有的行里也被称为“三反”模型。这类模型的一个共同特点是获得明确标签(Y)的成本很高、主要特征提取自交易(有动帐)和行为(无动帐)数据的RFM模型及其衍生变量,和通过这些交易和行为数据构建时、空、网的关联关系而获取的衍生特征。这里需要强调一下,申请反欺诈和交易反欺诈在以上三方面存在明显差别。虽然申请反欺诈也会用到复杂网络,但是仅使用联系人、设备等信息构建的复杂网络,而不是依据交易流水做的复杂网络。
很多人在分析“三反”问题是都遇到难以清晰分类的问题。这是很正常的现象,因为这三者往往是伴生的。如果一定要分清楚的,不妨可以这样来区分:洗钱的交易发起者是用户本身,交易欺诈的发起者非用户的其他人,舞弊的交易发起者是内部员工。
笔者曾经在和客户沟通时,甲方反应反舞弊和反欺诈的差别很大。诚然,在业务理解上确实差别很大。但是在模型抽象的角度,这三个主题建模时,其标签的数据特征、取数窗口的设置、特征的提取方式是沿用的一套框架。因此可以统一来讨论其建模问题。
我们再强调一下建模的三个原则,即以成本-收益分析为单一分析框架、区分分析主体和客体两个视角、全模型生命周期工作模板。
我们这里以舞弊为例,讨论一下从事舞弊活动的人的成本-收益。舞弊的成本较明确,那就是事情败露后面临的处分、开除、经济处罚或刑事处罚。收益也很明确,那就是从事舞弊行为获得的收入。也就是说在舞弊行为分析中,成本-收益可以看似固定的。那为什么一个人有时候刚正不阿,而有时候禁不住诱惑呢?主要的问题是其内心发生了变换。如下所示的“舞弊三角”理论中,压力和动机是最关键的,这往往是外部事件,推动者行为人心中的砝码发生偏移,从而酿成悲剧。
建立违规识别模型的一个最重要的问题是对这个业务问题认识不足。很难有业务专家可以清晰的知道所有违规类型,每一次做这类项目,总是本着抓大放小的原则,针对最关心的一些“洗钱”、“交易欺诈”或“舞弊”的类型进行识别。同时样本的标签也是相互混淆的,因为犯罪份子可不会每次只按照洗钱“教科书”中的一种违规行为做事,比如地下钱庄和其他洗钱类型往往是伴生的。第二个难点是PU问题,即违规份子的行为没有被全部识别出来,也没有明确的类罪相对应。
由于违规识别模型有以上问题,因此需要两到三步才能处理好以上问题。比如针对第一类问题,需要使用到无监督的异常学习算法将与正常交易有明显差异的交易提取出来供下一步分析。针对第二个问题,目前主要是依赖业务人员手工审核。清洗干净的数据才会用于建模。
“三反”模型统一使用“黑名单”、“规则引擎”、“机器学习”、“ 复杂网络特征构建和无监督”。看过“越狱”的读者可能有印象,那里在分析犯罪时就会使用复杂网络作为分析工具。之所以现在这类技术被广泛使用,主要得益于开源大数据分析平台极大的降低了建设成本,使得可以基于全量的交易数据构建复杂网络和异常识别模型。因为这两类模型是不应该对数据抽样的。
之前很多人认为构建风控模型一定要可解释,因此一定要使用逻辑回归,甚至还要求必须制作评分卡之类的产出物。这种要求在“三反”模型中是不适宜的。因为违规交易的子类型太多了。虽然每一种违规行为和正常交易的客户有可能是线性可分的。但是如下图“问题4”所示,具有违规标示的样本是按群聚集的,而不同类的群是分散的。因此使用一个逻辑回归构建起的线性模型的精确度是很低的。需要使用组合算法构建非线性模型。
以上提到,违规识别模型需要从大量交易流水中提取交易特征和复杂网路特征。而且此类模型建模是不建议采用抽样的方式。因此使用分布式计算平台对数据进行加工是不可避免的。以下列出了主要模块,即数据源采集、图数据库、特征工程平台、机器学习平台。
下面这是一家金融机构的经历。由于传统的“三反模型”的规则很少是数据驱动的,而且及时是数据驱动的,规则的准确性也是很低的。通过构建无监督学习模型,使用异常识别算法,在降低了原模型15%召回率的情况下,预测精度提升了60倍。在使用有监督机器学习模型,并充分提取交易网络信息后,召回率无降低的请款下,模型精度提高了80倍。模型上线后,可以极大的减少“三反”调查人员的工作量。不过需要强调一点,本例中使用的样本是业务人员手工梳理的,模型效果容易做到指标上好看。
数据资管出品
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
在Python数据分析中,Pandas库的DataFrame是最核心、最常用的结构化数据表对象,类似于Excel的二维表格,具备规整的行列结构、字 ...
2026-09-07在数据分析、经营复盘、业绩预测与经济统计工作中,平均增速(平均增长率)是衡量数据长期变化趋势、业务发展快慢的核心指标。不 ...
2026-09-07 很多数据分析师精通Excel单元格操作,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质区别”“为什么表结 ...
2026-09-07随着大数据技术的快速发展,商业竞争逐步从传统的经验式经营转变为数据驱动的精细化运营。海量的用户行为数据、交易数据、运营数 ...
2026-09-04CDA数据分析师 出品 作者:李诗怡 1. 波士顿矩阵(BCG Matrix) 定义: BCG于1970年提出的业务组合分析工具,以"市场增长率"(纵 ...
2026-09-04 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-09-04数据透视表是Excel与Power BI中最核心的数据分析工具,具备快速汇总、维度拆分、动态筛选的能力,可高效完成数据归类与统计展示 ...
2026-09-03在Power BI数据分析可视化场景中,堆积柱状图+折线图是最常用的复合图表组合。堆积柱状图适合展示各细分维度当期数值、结构占比 ...
2026-09-03 很多数据分析师每天与Excel打交道,但当被问到“表格结构数据的基本处理单位是什么”“数据类型误判会引发哪些分析错误”“ ...
2026-09-03CDA数据分析师 出品 作者:李诗怡 一、8个核心数据清洗函数 1. TRIM:一键清除多余空格(最常用) 作用:仅保留文本中"单词/字 ...
2026-09-02数据分析的核心并非单纯操作工具、整理报表或绘制图表,而是依靠科学的思维逻辑挖掘数据价值、解释业务现象、指导经营决策。在完 ...
2026-09-02在社会经济、产业研究、区域治理与大数据实证分析中,面板数据是最具研究价值的数据类型。面板数据同时包含截面维度与时间维度信 ...
2026-09-02 很多数据分析师能熟练计算均值、标准差,但当被问到“如何用一张图让业务方3秒内看懂核心结论”“面对不同数据类型该怎么选 ...
2026-09-02在数据驱动决策的体系中,数据分析按照分析目的可分为描述性分析、诊断性分析、预测性分析与指导性分析四大类型。其中,诊断性分 ...
2026-09-01网络请求是Python爬虫开发、接口测试、数据拉取的核心基础功能,Python生态中主要依靠 urllib 和 requests 两大库实现HTTP请求操 ...
2026-09-01 很多数据分析师面对业务问题时,常常感到“知道要分析,却不知道用什么方法”。其实,数据分析并非无章可循——从三大基础范 ...
2026-09-01在数据库设计与业务数据维护中,自增ID是数据表最常用的主键字段,用于唯一标识每一条业务数据,正常状态下ID应保持连续递增。但 ...
2026-08-31在数理统计、数据分析、经济测算与日常量化评估中,平均值是刻画数据集中趋势、反映整体水平的基础核心指标。在实际应用中,最常 ...
2026-08-31在数据驱动的时代,数据分析早已不是“凭经验、靠感觉”的零散操作,而是一套具备固定逻辑、标准化流程的系统方法——这就是数据 ...
2026-08-31在大数据时代背景下,海量行业数据亟需通过专业化工具挖掘潜在价值,辅助企业业务决策、优化运营模式、规避经营风险。Python凭借 ...
2026-08-28