SVM代码_python

支持向量机（Support Vector Machine，SVM）是一种广泛应用的监督学习模型，它在分类和回归问题中表现出色。在Python中实现SVM，我们通常会使用Scikit-Learn库，这是一个强大的机器学习库，提供了多种算法的实现，包括SVM。 我们需要了解SVM的基本原理。SVM通过构建一个最大边距超平面来实现分类，这个超平面能够最大程度地将不同类别的样本分开。超平面的选择依赖于所谓的支持向量，它们是距离超平面最近的样本点。SVM的目标是最小化边界错误率同时最大化间隔，这样可以使得模型具有更好的泛化能力。 在Python中，我们可以使用Scikit-Learn的`svm.SVC`类来创建一个SVM模型。以下是一个基本的SVM分类示例： ```python from sklearn import svm from sklearn.model_selection import train_test_split from sklearn.datasets import load_iris # 加载数据集 iris = load_iris() X = iris.data y = iris.target # 划分训练集和测试集 X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42) # 创建SVM分类器 clf = svm.SVC(kernel='linear') # 训练模型 clf.fit(X_train, y_train) # 预测 predictions = clf.predict(X_test) ``` 这段代码中，`kernel='linear'`表示使用线性核函数。SVM还支持其他核函数，如多项式、高斯核（RBF）和sigmoid，这些非线性核函数可以处理非线性可分的问题。 在《机器学习实战》这本书中，作者提供了实际的数据集和实验结果图像，这些可以帮助读者更好地理解SVM的工作机制。例如，书中可能会包含使用SVM进行手写数字识别的例子，如MNIST数据集，以及对应的准确率和混淆矩阵。 为了可视化SVM的结果，我们可以使用Matplotlib库绘制决策边界和样本点。这有助于直观地看到SVM如何根据训练数据划分空间： ```python import matplotlib.pyplot as plt # 可视化二维数据 def plot_decision_function(X, y, clf): plt.scatter(X[:, 0], X[:, 1], c=y, s=30, cmap=plt.cm.Paired) ax = plt.gca() x_min, x_max = ax.get_xlim() y_min, y_max = ax.get_ylim() xx, yy = np.meshgrid(np.linspace(x_min, x_max, 100), np.linspace(y_min, y_max, 100)) Z = clf.decision_function(np.c_[xx.ravel(), yy.ravel()]) Z = Z.reshape(xx.shape) plt.contourf(xx, yy, Z, alpha=0.4, cmap=plt.cm.Paired) # 假设X和y是二维数据 plot_decision_function(X, y, clf) plt.show() ``` 以上代码将绘制出SVM的决策边界，帮助我们理解模型是如何对输入数据进行分类的。 此外，SVM在调参时，我们通常会使用网格搜索（GridSearchCV）来寻找最佳的超参数，如C（惩罚系数）和gamma（核函数的影响范围）。这可以通过Scikit-Learn的`GridSearchCV`类完成： ```python from sklearn.model_selection import GridSearchCV param_grid = {'C': [0.1, 1, 10, 100], 'gamma': [1, 0.1, 0.01, 0.001], 'kernel': ['rbf']} grid = GridSearchCV(svm.SVC(), param_grid, refit=True, verbose=3) grid.fit(X_train, y_train) # 获取最佳参数 best_params = grid.best_params_ print("Best parameters:", best_params) # 使用最佳参数的模型进行预测 best_clf = grid.best_estimator_ predictions = best_clf.predict(X_test) ``` 通过这种方式，我们可以优化模型性能，使其在测试集上达到最佳效果。 SVM是一种强大的机器学习工具，Python中的Scikit-Learn库提供了便利的接口来实现和调整SVM模型。结合数据集和可视化，我们可以深入理解SVM的工作原理，并在实际问题中应用这一技术。