分类算法有很多，贝叶斯、决策树、支持向量积、KNN等，神经网络也可以用于分类。这篇文章主要介绍一下KNN分类算法。
1、介绍
KNN是k nearest neighbor 的简称，即k最邻近，就是找k个最近的实例投票决定新实例的类标。KNN是一种基于实例的学习算法，它不同于贝叶斯、决策树等算法，KNN不需要训练，当有新的实例出现时，直接在训练数据集中找k个最近的实例，把这个新的实例分配给这k个训练实例中实例数最多类。KNN也成为懒惰学习，它不需要训练过程，在类标边界比较整齐的情况下分类的准确率很高。KNN算法需要人为决定K的取值，即找几个最近的实例，k值不同，分类结果的结果也会不同。
2、举例
看如下图的训练数据集的分布，该数据集分为3类（在图中以三种不同的颜色表示），现在出现一个待分类的新实例（图中绿色圆点），假设我们的K=3，即找3个最近的实例，这里的定义的距离为欧氏距离，这样找据该待分类实例最近的三个实例就是以绿点为中心画圆，确定一个最小的半径，使这个圆包含K个点。
如图所示，可以看到红圈包含的三个点中，类别2中有三个，类别3有一个，而类别1一个也没有，根据少数服从多数的原理投票，这个绿色的新实例应属于2类。
3、K值的选取。
之前说过，K值的选取，将会影响分类的结果，那么K值该取多少合理。我们继续上面提到的分类过程，现在我们把K设置为为7，如下图所示：
可以看到当k=7时，最近的7个点中1类有三个，2类和3类都有两个，这时绿色的新实例应该分给1类，这与K=5时的分类结果不同。
K值的选取没有一个绝对的标准，但可以想象，K取太大并不能提高正确率，而且求K个最近的邻居是一个O(K*N)复杂度的算法，k太大，算法效率会更低。
虽然说K值的选取，会影响结果，有人会认为这个算法不稳定，其实不然，这种影响并不是很大，因为只有这种影响只是在类别边界上产生影响，而在类中心附近的实例影响很小，看下图，对于这样的一个新实例，k=3,k=5,k=11结果都是一样的。
最后还有注意，在数据集不均衡的情况下，可能需要按各类的比例决定投票，这样小类的正确率才不会过低。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-05在数据库数据查询、业务报表统计、多表关联分析中，LEFT JOIN左连接是使用率最高的SQL关联查询语句。其核心特性是保留左表全部数 ...
2026-06-05 很多数据分析师能熟练地写SQL、做透视表、算描述性统计，但当被问到“如何预测用户流失概率”“如何归因销量下滑的关键因素 ...
2026-06-05任何一款产品从诞生、普及到最终退出市场，都会遵循一套固定的发展规律，这就是产品生命周期理论。在市场竞争日益激烈、产品迭代 ...
2026-06-04在Excel数据分析、办公统计、业务报表制作场景中，数据透视表是数据汇总、分类统计、快速复盘的核心工具，能够高效完成海量原始 ...
2026-06-04 很多数据分析师拿到数据就开始清洗、建模，但当被问到“这批数据属于什么类型——结构化还是非结构化？分类变量还是数值变量 ...
2026-06-04在问卷调查与社会科学数据分析中，卡方检验是最常用、最基础的非参数检验方法，广泛应用于市场调研、用户分析、行为统计、满意度 ...
2026-06-03【核心关键词】贷款、报表、课程、专业、建模、缺失值、营销、互联网、银行、办公自动化、数据分析、数据预处理、特征工程、贷 ...
2026-06-03 很多数据分析师画过趋势图、做过业绩预测，但当被问到“这个月销售额增长20%，到底是长期趋势自然增长，还是促销活动的短期 ...
2026-06-03逻辑回归是数据分析、机器学习、统计建模中应用最广泛的二分类预测模型，常用于风险判断、行为预测、归因分析等场景。在SPSS、Py ...
2026-06-02数字经济时代，市场竞争日趋同质化，用户消费需求愈发个性化、多元化，传统依托经验、粗放式、广撒网的营销模式弊端日益凸显。长 ...
2026-06-02 很多数据分析师做过按月份的销售额趋势图，画过按天的流量折线图，但当被问到“时间序列和普通数据有什么本质区别”“季节性 ...
2026-06-02在市场竞争日趋饱和、用户需求不断细分的当下，企业创业创新、产品迭代与市场拓展不再依赖经验决策，而是需要系统化、工具化的商 ...
2026-06-01【核心关键词】调度、岗位、数据库、企业、报表、培训、程序、数据分析、数据加工、业务部门、企业数据、调度工具、业务指标、 ...
2026-06-01 很多数据分析师能熟练地计算指标、搭建标签体系，但当被问到“画像到底在解决什么问题”“画像和标签是什么关系”“画像如何 ...
2026-06-01在数据统计分析、数据清洗、异常值识别与数据分布研究中，箱型图是最直观、高效、专业的可视化分析工具。相较于柱状图、折线图仅 ...
2026-05-29Tkinter是Python内置的标准GUI图形界面库，具备无需额外安装、调用简单、兼容性强、轻量化高效等优势，是Python快速开发桌面小程 ...
2026-05-29 很多分析师在设计标签时思路清晰，但真到落地环节却面临“数据在手，不知如何转化为可用标签”的困境：或因加工方式选择不当 ...
2026-05-29【核心关键词】大数据、经理、专业、金融、客户、传统、建模、数据产品、互联网金融、产品经理、数据分析、金融行业、数据模型 ...
2026-05-28 很多分析师每天和数据打交道，但当被问到“标签是什么”“标签和指标有什么区别”“标签体系如何设计”时，却常常答不上来。 ...
2026-05-28
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
