最新推荐文章于 2024-10-30 15:40:09 发布

汪雯琦 于 2020-02-19 23:44:46 发布
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
文章目录 K-最近邻算法 1.算法介绍 2.算法公式 (1)分类 (2)回归(不好,可以不看) (3)L1和L2范数距离 L1范数距离(曼哈顿距离): L2范数距离(欧几里得距离): 闵可夫斯基(knn中使用) 3.K值选择 举例 K-最近邻算法
1.算法介绍
属于有监督学习,知道可能的结果。属于多分类算法。K NearestN eighbors算法又叫K - NN算法,这个算法是机器学习里面一个比较经典的算法,总体来说K - NN算法是相对比较容易理解的算法。十大机器算法之一。
定义
如果一个样本在特征空间中的 个最相似(即特征空间中最邻近)的样本中的大多数属于某一个类别,则该样本也属于这个类别。 来源: 算法最早是由Cover和Hart提出的一种分类算法
2.算法公式
两个样本的距离可以通过如下公式计算,又叫欧式距离 ,关于距离公式会在后面进行讨论。

(1)分类 K - NN针对于离散型分类目标的一种非线性多分类的,基于加权距离的最大投票方案算法,公式(应用型的公式,理解即可。)如下:

(2)回归(不好,可以不看) K - NN针对于连续型回归目标,预测值是所有k个
相关知识
KNN分类算法介绍,用KNN分类鸢尾花数据集(iris)
knn
Python实现kNN算法,使用鸢尾花作为测试数据
用python实现KNN算法对鸢尾花的分类
KNN算法实现鸢尾花数据集分类
Knn算法实现鸢尾花分类
原生python实现knn分类算法(鸢尾花数据集)
KNN算法分类算法
Python原生代码实现KNN算法(鸢尾花数据集)
机器学习之KNN算法
网址: 【K近邻(KNN)算法(一)】KNN的概念 https://www.huajiangbk.com/newsview1260233.html