CNN - SVM卷积 - 支持向量机的多输入单输出回归预测实践

CNN-SVM卷积-支持向量机的多输入单输出回归预测 1.CNN结合SVM做多输入单输出回归预测 ，输入7个特征，输出单个变量，代码内注释详细，直接替换数据就可以使用 2.运行环境Matlab2018b及以上； 3.MainCNN_SVR.m为主文件，data为数据； 注意：数据和文件放在一个文件夹运行。

在机器学习的世界里，CNN（卷积神经网络）和SVM（支持向量机）都是非常强大的工具。将它们结合起来进行多输入单输出回归预测，能在很多场景中发挥出色的效果，今天就来跟大家分享一下具体怎么做。

我们这次要实现的是输入7个特征，输出单个变量的回归预测。运行环境要求是Matlab 2018b及以上版本，整个项目结构很清晰，MainCNN_SVR.m作为主文件，data文件夹存放数据，注意运行的时候要把数据和文件放在同一个文件夹哦。

主文件MainCNN_SVR.m代码及分析

% 主文件MainCNN_SVR.m % 清空环境变量 clear all; clc; % 加载数据，假设数据存储在data文件夹下的data.mat文件中 load('data/data.mat'); % 假设数据格式为： % features是7列的矩阵，每一行代表一组特征数据 % labels是单列向量，对应每组特征数据的目标变量 features = data(:, 1:7); labels = data(:, 8); % 划分训练集和测试集，这里采用80%的数据作为训练集，20%作为测试集 num_samples = size(features, 1); train_indices = randperm(num_samples, round(num_samples * 0.8)); test_indices = setdiff(1:num_samples, train_indices); train_features = features(train_indices, :); train_labels = labels(train_indices); test_features = features(test_indices, :); test_labels = labels(test_indices); % 构建CNN模型 layers = [ imageInputLayer([1 7 1]) % 输入层，这里将7个特征看作是一维图像，通道数为1 convolution2dLayer([1 3], 16, 'Padding', 'valid') % 卷积层，卷积核大小1x3，16个滤波器 reluLayer() % 激活函数层 maxPooling2dLayer([1 2], 'Stride', 2) % 池化层，池化窗口1x2，步长为2 fullyConnectedLayer(32) % 全连接层，32个神经元 reluLayer() fullyConnectedLayer(1) % 输出层，因为是单输出回归预测，所以只有1个神经元 regressionLayer()]; % 回归层 % 配置训练选项 options = trainingOptions('adam',... 'MaxEpochs', 50,... 'MiniBatchSize', 32,... 'InitialLearnRate', 0.001,... 'Plots', 'training-progress'); % 训练CNN模型 net = trainNetwork(reshape(train_features, [1 7 1 size(train_features, 1)]), train_labels, layers, options); % 使用训练好的CNN模型提取特征 train_cnn_features = activations(net, reshape(train_features, [1 7 1 size(train_features, 1)]), 'fc1', 'OutputAs', 'columns'); test_cnn_features = activations(net, reshape(test_features, [1 7 1 size(test_features, 1)]), 'fc1', 'OutputAs', 'columns'); % 使用SVM进行回归预测 svmModel = fitrsvm(train_cnn_features, train_labels); predicted_labels = predict(svmModel, test_cnn_features); % 计算预测误差 mse = mean((predicted_labels - test_labels).^2); fprintf('均方误差 (MSE): %.4f\n', mse);

这段主代码的流程很清晰。首先清空环境变量，避免干扰。然后加载数据，将数据分成特征和标签两部分。接着按照80% - 20% 的比例划分训练集和测试集。

在构建CNN模型部分，我们把7个特征当成是一维图像，经过卷积、激活、池化等操作，不断提取特征，最后通过全连接层得到输出。这里使用regressionLayer是因为我们要做回归预测。

CNN-SVM卷积-支持向量机的多输入单输出回归预测 1.CNN结合SVM做多输入单输出回归预测 ，输入7个特征，输出单个变量，代码内注释详细，直接替换数据就可以使用 2.运行环境Matlab2018b及以上； 3.MainCNN_SVR.m为主文件，data为数据； 注意：数据和文件放在一个文件夹运行。

配置训练选项里，使用adam优化器，设置了最大训练轮数、小批量大小、初始学习率等参数，还开启了训练过程的绘图，方便我们观察训练情况。

训练好CNN模型后，从fc1层提取训练集和测试集的特征，再用这些特征训练SVM模型，并进行预测。最后计算预测的均方误差，评估模型的性能。

数据准备

假设我们的数据文件data.mat里的数据格式如下，它是一个二维矩阵，前7列是特征，第8列是目标变量：

% 假设data.mat中的数据类似这样 data = [ 1.2 2.5 3.1 4.7 5.3 6.2 7.9 10.5; 2.1 3.3 4.2 5.8 6.1 7.3 8.7 12.3; % 更多数据行... ];

只要按照这个格式准备好数据，放在data文件夹下，运行主文件MainCNN_SVR.m就可以进行我们的CNN - SVM多输入单输出回归预测啦。

通过这样的结合，我们可以充分利用CNN强大的特征提取能力和SVM在小样本数据上的出色表现，为多输入单输出回归预测任务提供一个有效的解决方案。希望大家可以动手试试，根据自己的数据场景进行调整优化。