SVM在MNIST数据集上的核函数

Question

事实：

• 支持向量机是一个众所周知的机器学习算法。

• MNIST是一个流行的手写数字识别竞赛。

• SVM几乎和手动调整的神经网络一样好。

• 在使用SVM时，核函数的选择至关重要。

问题：

• 在使用SVM对MNIST进行最新技术水平的结果中，人们使用了哪些核函数？

• 假设输入是16x16的灰度图像。

• 我想知道应该应用什么核$K(x,z)$，其中x/z是16x16的图像，$K$是核函数。

谢谢！

- user3454178

Answer 1

请查看 SVM 部分下的 http://yann.lecun.com/exdb/mnist/。你会发现高斯核和多项式核的支持向量机可以取得小于1.5%的错误率，具有竞争力。

如果你想超越这个水平，就需要创建所谓的虚拟样本（例如旋转、移位或扭曲数字）并添加额外的归一化处理。

- Soeren Sonnenburg

---

啊，这就是“虚拟SVM”中的“虚拟”所指的。已点赞并接受！ - user3454178

就MNIST而言，用于描述SVM决策边界所需的系数数量（例如，将它们保存在文件中）从（10,784）线性变为（14374,784）scikit-learn SVC(kernel="rbf")。（神经网络的大小呢？） - denis