数据分析的一般过程:
数据的获取 数据预处理(标准化或归一化) 模型的训练(训练集、测试集) 模型的评估(交叉验证) 模型的优化交叉验证
交叉验证目的:测试某个算法在一个数据集上的应用的好坏,帮助我们进行超参数的调优和模型选择
交叉验证方法:
K倍交叉验证(K>=2)。将样本数据集随机划分为K个子集(一般是均分),将一个子集数据作为测试集,其余的K-1组子集作为训练集;将K个子集轮流作为测试集,重复上述过程,这样得到了K个分类器或模型,并利用测试集得到了K个分类器或模型的分类准确率。用K个分类准确率的平均值作为分类器或模型的性能指标。10-倍交叉证实是比较常用的。
# -*- coding: utf-8 -*- """ 场景:用鸢尾花数据集为例展示sklearn的一般流程,包括: 1. 数据的获取 2. 数据预处理 3. 模型的训练 4. 模型的评估 5. 模型的优化 6. 模型持久化 """ import numpy as np import pandas as pd # 1.-----------数据集------------------- from sklearn import datasets iris = datasets.load_iris() X = iris.data y = iris.target ''' import matplotlib.pyplot as plt plt.scatter(X[:50, 0], X[:50
12345678910111213141516171819202122