trainNetwork
训练深度学习神经网络
语法
描述
对于分类和回归任务，可以使用类训练各种类型的神经网络trainNetwork函数。
例如，你可以训练:
用于图像数据的卷积神经网络(ConvNet, CNN)
一种循环神经网络(RNN)，如长短时记忆(LSTM)或用于序列和时间序列数据的门控循环单元(GRU)网络
数字特征数据的多层感知器(MLP)网络
你可以在CPU或GPU上进行训练。对于图像分类和图像回归，您可以使用多个gpu或本地或远程并行池并行训练单个网络。GPU或并行训练需要并行计算工具箱™。要使用GPU进行深度学习，还必须有支持的GPU设备。有关支持的设备的信息，请参见GPU计算的需求(并行计算工具箱)．要指定培训选项，包括用于执行环境的选项，请使用trainingOptions函数。
在训练神经网络时，可以将预测器和响应指定为单个输入或两个单独的输入。
例子
图像分类训练网络
将数据加载为ImageDatastore对象。
digitDatasetPath = fullfile (matlabroot,“工具箱”，“nnet”，.．.“nndemos”，“nndatasets”，“DigitDataset”）;imd = imageDatastore (digitDatasetPath,.．.“IncludeSubfolders”,真的,.．.“LabelSource”，“foldernames”）;
该数据存储包含10,000个合成的数字图像，从0到9。这些图像是通过对用不同字体创建的数字图像进行随机转换而生成的。每张数字图像是28 × 28像素。每个类别的数据存储包含相同数量的图像。
显示数据存储中的一些图像。
figure numImages = 10000;烫= randperm (numImages 20);为I = 1:20 subplot(4,5, I);imshow (imds.Files{烫发(i)});drawnow;结束
划分数据存储，使训练集中的每个类别都有750个图像，而测试集中有来自每个标签的剩余图像。
numTrainingFiles = 750;[imdsTrain, imdsTest] = splitEachLabel (imd, numTrainingFiles“随机”）;
splitEachLabel分割图像文件digitData到两个新的数据存储中，imdsTrain而且imdsTest．
定义卷积神经网络体系结构。
层= [.．.imageInputLayer([28 28 1]) convolution2dLayer(5,20) reluLayer maxPooling2dLayer(2，“步”2) fullyConnectedLayer(10) softmaxLayer classificationLayer];
将选项设置为带有动量的随机梯度下降的默认设置。设置最大课时数为20，以初始学习率0.0001开始训练。
选择= trainingOptions (“个”，.．.“MaxEpochs”, 20岁,.．.“InitialLearnRate”1的军医,.．.“详细”假的,.．.“阴谋”，“训练进步”）;
培训网络。
网= trainNetwork (imdsTrain层,选项);
在没有用于训练网络的测试集中运行训练过的网络，并预测图像标签(数字)。
YPred =分类(净,imdsTest);欧美= imdsTest.Labels;
计算的准确性。准确率是测试数据中与分类匹配的真实标签的数量之比分类到测试数据中的图像数量。
精度= sum(YPred == YTest)/numel(YTest)
精度= 0.9408
增强图像的列车网络
利用增强图像数据训练卷积神经网络。数据增强有助于防止网络过拟合和记忆训练图像的精确细节。
加载示例数据，它由手写数字的合成图像组成。
[XTrain, YTrain] = digitTrain4DArrayData;
digitTrain4DArrayData将数字训练集加载为4-D数组数据。XTrain是一个28 × 28 × 1 × 5000数组，其中:
28是图像的高度和宽度。
1是通道数。
5000是手写数字合成图像的数量。
YTrain包含每个观察结果的标签的分类向量。
预留1000个映像用于网络验证。
idx = randperm(大小(XTrain, 4), 1000);XValidation = XTrain (:,:,:, idx);XTrain (::,:, idx) = [];YValidation = YTrain (idx);YTrain (idx) = [];
创建一个imageDataAugmenter对象，该对象指定用于图像增强的预处理选项，如调整大小、旋转、平移和反射。随机地将图像水平和垂直地平移到3个像素，并以20度的角度旋转图像。
imageAugmenter = imageDataAugmenter (.．.“RandRotation”(-20年,20),.．.“RandXTranslation”3 [3],.．.“RandYTranslation”3 [3])
imageAugmenter = imageDataAugmenter与属性:FillValue: 0 RandXReflection: 0 RandRotation: [-20 20] RandScale: [1 1] RandXScale: [1 1] RandYScale: [1 1] RandXShear: [0 0] RandYShear: [0 0] RandXTranslation: [-3 3] RandYTranslation: [-3 3]
创建一个augmentedImageDatastore对象用于网络训练并指定图像输出大小。在训练过程中，数据存储执行图像增强并调整图像的大小。数据存储增加图像，而不将任何图像保存到内存中。trainNetwork更新网络参数，然后丢弃增强图像。
imageSize = [28 28 1];augimds = augmentedImageDatastore(图象尺寸、XTrain YTrain,“DataAugmentation”, imageAugmenter);
指定卷积神经网络结构。
layers = [imageInputLayer(imageSize) convolution2dLayer(3,8，“填充”，“相同”maxPooling2dLayer(2，“步”2) convolution2dLayer(16日“填充”，“相同”maxPooling2dLayer(2，“步”32岁的,2)convolution2dLayer (3“填充”，“相同”) batchNormalizationLayer reluLayer fullyConnectedLayer(10) softmaxLayer classificationLayer];
指定有动量的随机梯度下降的训练选项。
选择= trainingOptions (“个”，.．.“MaxEpochs”15岁的.．.“洗牌”，“every-epoch”，.．.“阴谋”，“训练进步”，.．.“详细”假的,.．.“ValidationData”, {XValidation, YValidation});
培训网络。由于验证图像未进行增广，因此验证精度高于训练精度。
网= trainNetwork (augimds层,选择);
图像回归训练网络
加载示例数据，它由手写数字的合成图像组成。第三个输出包含每个图像旋转的相应角度。
将训练图像加载为4-D数组digitTrain4DArrayData．输出XTrain是一个28 × 28 × 1 × 5000数组，其中:
28是图像的高度和宽度。
1是通道数。
5000是手写数字合成图像的数量。
YTrain包含以角度为单位的旋转角度。
[XTrain ~, YTrain] = digitTrain4DArrayData;
显示20个随机训练图像使用imshow．
figure numTrainImages = numel(YTrain);idx = randperm (numTrainImages 20);为i = 1:元素个数(idx)次要情节(4、5、i) imshow (XTrain (:,:,:, idx(我)))drawnow;结束
指定卷积神经网络结构。对于回归问题，在网络的末端包含一个回归层。
层= [.．.imageInputLayer([28 28 1]) convolution2dLayer(12,25) reluLayer fulllyconnectedlayer (1) regressionLayer];
指定网络训练选项。将初始学习速率设置为0.001。
选择= trainingOptions (“个”，.．.“InitialLearnRate”, 0.001,.．.“详细”假的,.．.“阴谋”，“训练进步”）;
培训网络。
网= trainNetwork (XTrain、YTrain层,选择);
通过评估测试数据的预测精度来测试网络的性能。使用预测对验证图像的旋转角度进行预测。
[XTest ~,欧美]= digitTest4DArrayData;YPred =预测(净,XTest);
通过计算预测转角和实际转角的均方根误差(RMSE)来评估模型的性能。
rmse =√(mean((YTest - YPred).^2))
rmse =单6.0360
序列分类训练网络
训练深度学习LSTM网络进行序列到标签分类。
按照[1]和[2]中描述的方式加载日语元音数据集。XTrain是包含270个不同长度序列的单元阵列，有12个特征对应于LPC倒谱系数。Y是标签1,2，…，9的分类向量。的条目XTrain矩阵有12行(一行表示每个特征)和不同数量的列(一列表示每个时间步)。
[XTrain, YTrain] = japaneseVowelsTrainData;
在一个情节中想象第一个时间序列。每一行对应一个特征。
图绘制(XTrain{1}”)标题(“训练观察1”) numFeatures = size(XTrain{1}，1);传奇(“特性”+字符串(1:numFeatures),“位置”，“northeastoutside”）
定义LSTM网络架构。指定输入大小为12(输入数据的特征数量)。指定一个LSTM层有100个隐藏单元，并输出序列的最后一个元素。最后，指定9个类，包括一个大小为9的完全连接层，然后是一个softmax层和一个分类层。
inputSize = 12;numHiddenUnits = 100;numClasses = 9;层= [.．.sequenceInputLayer inputSize lstmLayer (numHiddenUnits,“OutputMode”，“最后一次”fulllyconnectedlayer (numClasses)
2”LSTM LSTM与100个隐藏单元3”全连接9全连接层4”Softmax Softmax 5”分类输出crossentropyex
指定培训选项。指定求解器为“亚当”而且“GradientThreshold”为1。将迷你批处理大小设置为27，并将最大epoch数设置为70。
因为小批次的序列较短，CPU更适合训练。集“ExecutionEnvironment”来“cpu”．在GPU上训练，如果可用，设置“ExecutionEnvironment”来“汽车”(默认值)。
maxEpochs = 70;miniBatchSize = 27个;选择= trainingOptions (“亚当”，.．.“ExecutionEnvironment”，“cpu”，.．.“MaxEpochs”maxEpochs,.．.“MiniBatchSize”miniBatchSize,.．.“GradientThreshold”, 1.．.“详细”假的,.．.“阴谋”，“训练进步”）;
使用指定的培训选项对LSTM网络进行培训。
网= trainNetwork (XTrain、YTrain层,选择);
加载测试集并将序列分类到扬声器中。
[XTest,欧美]= japaneseVowelsTestData;
对测试数据进行分类。指定与培训时相同的小批大小。
XTest YPred =分类(净,“MiniBatchSize”, miniBatchSize);
计算预测的分类精度。
acc = sum(YPred == YTest)./numel(YTest)
acc = 0.9459
具有数字特征的列车网络
如果您有一个数字特征的数据集(例如一个没有空间或时间维度的数字数据集合)，那么您可以使用特征输入层来训练深度学习网络。
从CSV文件中读取传输套管数据“transmissionCasingData.csv”．
文件名=“transmissionCasingData.csv”；台= readtable(文件名,“TextType”，“字符串”）;
方法将用于预测的标签转换为类别convertvars函数。
labelName =“GearToothCondition”；台= convertvars(资源描述、labelName“分类”）;
要使用分类特征训练网络，必须首先将分类特征转换为数字。方法将类别预测器转换为类别预测器convertvars通过指定包含所有类别输入变量名称的字符串数组来实现。在这个数据集中，有两个带有名称的分类特征“SensorCondition”而且“ShaftCondition”．
categoricalInputNames = [“SensorCondition”“ShaftCondition”];台= convertvars(资源描述、categoricalInputNames“分类”）;
循环遍历分类输入变量。为每一个变量:
方法将分类值转换为一次性编码的向量
onehotencode函数。方法将单热向量添加到表中
addvars函数。指定在包含相应类别数据的列之后插入向量。删除包含分类数据的对应列。
为i = 1:numel(categoricalInputNames) name = categoricalInputNames(i);哦= onehotencode(资源描述(:,名字));台= addvars(资源描述,哦,“后”、名称);台(:名字)= [];结束
方法将向量拆分为单独的列splitvars函数。
台= splitvars(台);
查看表的前几行。请注意，类别预测器已被拆分为多个列，类别值作为变量名。
头(台)
SigMean SigMedian SigRMS SigVar SigPeak SigPeak2Peak SigSkewness SigKurtosis SigCrestFactor SigMAD SigRangeCumSum SigCorrDimension SigApproxEntropy SigLyapExponent PeakFreq HighFreqPower EnvPower PeakSpecKurtosis没有传感器漂移传感器漂移没有轴穿轴穿GearToothCondition ________ _________ ______ _______ _______ ____________ ___________ ___________ ______________ _______ ______________ ________________ ________________ _______________ ________ _____________ ________________________ _______________ ____________ _____________ __________ __________________ -0.94876 -0.9722 1.3726 0.98387 0.81571 3.6314 -0.041525 2.2666 2.0514 0.8081 28562 1.1429 0.031581 79.931 0 6.75e-06 3.23e-07 162.13 01 10无牙故障-0.97537 -0.98958 1.3937 0.99105 0.81571 3.6314 -0.023777 2.2598 2.0203 0.81017 29418 1.1362 0.037835 70.325 0 5.08e-08 9.16e-08 226.12 01 10无牙故障1.0502 1.0267 1.4449 0.98491 2.8157 3.6314 -0.04162 2.2658 1.9487 0.80853 31710 1.14790.031565 - 125.19 6.74 2.85 e-06 e-07 162.13 0 1 0 1没有牙齿错1.0227 1.0045 1.4288 0.99553 2.8157 3.6314 -0.016356 2.2483 1.9707 0.81324 30984 1.1472 0.032088 112.5 4.99 e-06 2.4 e-07 162.13 0 1 0 1没有牙齿错1.0123 1.0024 1.4202 0.99233 2.8157 3.6314 -0.014701 2.2542 1.9826 0.81156 30661 1.1469 0.03287 108.86 3.62 e-06 2.28 e-07 230.39 0 1 0 1没有牙齿错1.0275 1.0102 1.4338 1.0001 2.8157 3.6314 -0.02659 2.2439 1.9638 1.65 0.81589 1.0985 0.033427 64.576 31102 0 2.55 e-06 e-07 230.3901 01无牙故障1.0464 1.0275 1.4477 1.0011 2.8157 3.6314 -0.042849 2.2455 1.9449 0.81595 31665 1.1417 0.034159 98.838 0 1.73e-06 1.55e-07 230.39 01 01无牙故障1.0459 1.0257 1.4402 0.98047 2.8157 3.6314 -0.035405 2.2757 1.955 0.80583 31554 1.1345 0.0353 44.223 0 1.11e-06 1.39e-07 230.39 01 01无牙故障
查看数据集的类名。
一会=类别(台{:,labelName})
一会=2 x1细胞{'无牙齿故障'}{'牙齿故障'}
接下来，将数据集划分为训练和测试分区。预留15%的数据用于测试。
确定每个分区的观察数。
numObservations =大小(1台);numObservationsTrain =地板(0.85 * numObservations);numObservationsTest = numObservations - numObservationsTrain;
创建一个与观察值对应的随机索引数组，并使用分区大小对其进行分区。
idx = randperm (numObservations);idxTrain = idx (1: numObservationsTrain);idxTest = idx (numObservationsTrain + 1:结束);
使用索引将数据表划分为训练和测试分区。
tblTrain =(资源(idxTrain:);tblTest =(资源(idxTest:);
定义一个具有特征输入层的网络，并指定特征的数量。另外，配置输入层以使用z分数归一化来归一化数据。
numFeatures = size(tbl,2) - 1;numClasses =元素个数(类名);layers = [featureInputLayer(numFeatures，“归一化”，“zscore”) fulllyconnectedlayer (50) batchNormalizationLayer reluLayer fullyConnectedLayer(numClasses) softmaxLayer classificationLayer];
指定培训选项。
miniBatchSize = 16;选择= trainingOptions (“亚当”，.．.“MiniBatchSize”miniBatchSize,.．.“洗牌”，“every-epoch”，.．.“阴谋”，“训练进步”，.．.“详细”、假);
使用定义的体系结构来训练网络层、训练数据和训练选项。
网= trainNetwork (tblTrain层,选项);
利用训练好的网络对测试数据进行标签预测，并计算准确率。准确率是网络正确预测的标签的比例。
tblTest YPred =分类(净,“MiniBatchSize”, miniBatchSize);欧美= tblTest {: labelName};精度= sum(YPred == YTest)/numel(YTest)
精度= 0.9688
输入参数
输出参数
更多关于
参考文献
[1]工藤、富山、Shimbo。“利用穿过区域的多维曲线分类”。模式识别的字母．第20卷第11-13期，第1103-1111页。
[2]工藤、富山、Shimbo。日语元音数据集．https://archive.ics.uci.edu/ml/datasets/Japanese+Vowels
扩展功能
版本历史
介绍了R2016a
您也可以从以下列表中选择网站: