minibatchqueue
为深度学习创建小批量
描述
使用一个minibatchqueue对象创建、预处理和管理使用自定义训练循环进行训练的小批数据。
一个minibatchqueue对象遍历数据存储，以使用自定义训练循环以适合训练的格式提供数据。对象准备一个按需预处理的小批队列。使用一个minibatchqueue对象，以自动将数据转换为dlarray或gpuArray，将数据转换为不同的精度，或应用自定义函数对数据进行预处理。您可以在后台并行地准备数据。
在培训期间，您可以使用minibatchqueue对象。方法可以在每个训练历的开始打乱数据洗牌方法从队列中收集每次训练迭代的数据下一个函数。方法检查队列中是否有任何数据hasdata功能,重置当队列为空时。
创建
描述
兆贝可= minibatchqueue (ds，numOutputs）minibatchqueue对象从输入数据存储区获取ds并设置每个小批中的变量数量。使用时使用此语法MiniBatchFcn指定一个小批预处理函数，该函数的输出数量与输入数据存储的变量数量不同ds．
兆贝可= minibatchqueue (___、名称、值)minibatchqueue (ds,“MiniBatchSize ", 64年,“PartialMiniBatches”、“丢弃”)将返回的小批量的大小设置为64，并丢弃观测值小于64的任何小批量。
输入参数
属性
对象的功能
例子
为自定义训练循环准备小批量
使用一个minibatchqueue对象，以自动为自定义训练循环中的训练准备小批图像和分类标签。
创建一个数据存储。调用读在auimds生成一个包含两个变量的表:输入，包含图像数据响应，载有相应的分类标签。
auimds = augmentedImageDatastore([100 100]，digitDatastore);=阅读(auimds);头(2)
ans =输入的响应 _______________ ________ { 100×100 uint8}{100×100 uint8} 0
创建一个minibatchqueue对象从auimds．设置MiniBatchSize财产256．
的minibatchqueue对象的两个输出变量:图像和分类标签输入而且响应的变量auimds,分别。设置minibatchqueue对象返回格式化的图像dlarray在GPU上。这些图像是单通道黑白图像。通过应用该格式添加单例通道维度“SSBC”批处理。返回标签为非dlarray在CPU上。
兆贝可= minibatchqueue (auimds,.．.“MiniBatchSize”, 256,.．.“OutputAsDlarray”(1,0),.．.“MiniBatchFormat”, {“SSBC”，＇＇}，.．.“OutputEnvironment”, {“图形”，“cpu”})
使用下一个获取小批量的函数兆贝可．
(X, Y) =下一个(兆贝可);
使用自定义预处理功能和后台调度创建小批量
对数据进行预处理minibatchqueue具有自定义的小批量预处理功能。自定义函数在0到1之间缩放传入的图像数据，并计算平均图像。
解压缩数据并创建一个数据存储。
解压缩(“MerchData.zip”）;imd = imageDatastore (“MerchData”，.．.IncludeSubfolders = true,.．.LabelSource =“foldernames”）;
创建一个minibatchqueue。
设置输出的数量为
2，以匹配函数的输出数。设置小批量大小。
使用自定义函数对数据进行预处理
preprocessMiniBatch在本例的最后定义。自定义函数将图像数据连接到一个数值数组中，在0到1之间缩放图像，并计算这批图像的平均值。函数返回缩放后的图像批次和平均图像。通过设置并行池在后台应用预处理功能
DispatchInBackground财产真正的．设置DispatchInBackground来真正的需要并行计算工具箱™。不要将小批处理输出变量转换为
dlarray．
兆贝可= minibatchqueue (imd 2.．.MiniBatchSize = 16,.．.MiniBatchFcn = @preprocessMiniBatch,.．.DispatchInBackground = true,.．.OutputAsDlarray = false)
mbq =带有2个输出和属性的minibatchqueue:迷你批处理创建:MiniBatchSize: 16 PartialMiniBatch: 'return' MiniBatchFcn: @preprocessMiniBatch DispatchInBackground: 1 outputs: OutputCast: {'single' 'single'} OutputAsDlarray: [0 0] MiniBatchFormat: {'' ''} OutputEnvironment: {'auto' 'auto'}
如果你正在使用DispatchInBackground如果一个并行池还没有打开，那么当从小批处理队列读取数据时，一个本地并行池将自动打开。如果基于线程的环境支持预处理功能，请打开基于线程的并行池，以减少内存使用、更快的调度和更低的数据传输成本。有关更多信息，请参见在基于线程和基于进程的环境之间进行选择(并行计算工具箱)．
parpool (“线程”）;
使用“Threads”配置文件启动并行池(parpool)…连接到并行池(工人数量:4)。
获取一个小批，并显示小批中图像的平均值。线程工作者应用预处理函数。
[X, averageImage] =下一个(兆贝可);imshow (averageImage)
函数[X,averageImage] = preprocessMiniBatch(XCell) X = cat(4,XCell{:});X =重新调节(X, InputMin = 0, InputMax = 255);averageImage =意味着(X, 4);结束
使用minibatchqueue自定义训练循环
训练网络使用minibatchqueue管理小批量的加工。
负荷训练数据
加载数字训练数据，并将数据存储在数据存储中。为图像创建一个数据存储，为使用的标签创建一个数据存储arrayDatastore．然后，将这些数据存储组合在一起，生成要使用的单个数据存储minibatchqueue．
[XTrain, YTrain] = digitTrain4DArrayData;dsX = arrayDatastore (XTrain IterationDimension = 4);dsY = arrayDatastore (YTrain);dsTrain =结合(dsX dsY);
确定标签数据中唯一类的数量。
类=类别(YTrain);numClasses =元素个数(类);
定义网络
方法定义网络并指定平均图像值的意思是选项在图像输入层。
layers = [imageInputLayer([28 28 1]，Mean= Mean (XTrain,4)) convolution2dLayer(5,20) reluLayer convolution2dLayer(3,20,Padding=1) reluLayer convolution2dLayer(3,20,Padding=1) reluLayer fullyConnectedLayer(numClasses) softmaxLayer];lgraph = layerGraph(层);
创建一个dlnetwork对象从图层图。
网= dlnetwork (lgraph);
定义模型损失函数
创建helper函数modelLoss，列在示例的末尾。函数接受输入adlnetwork对象网以及一小批输入数据X与相应的标签Y，并返回损失和损失相对于可学习参数的梯度网．
指定培训选项
指定要在培训期间使用的选项。
numEpochs = 10;miniBatchSize = 128;
把训练的过程想象成一个图形。
情节=“训练进步”；
创建minibatchqueue
使用minibatchqueue处理和管理小批量的图像。为每个mini-batch:
丢弃部分mini-batches。
使用自定义的小批量预处理功能
preprocessMiniBatch(在本例末尾定义)对类标签进行一次性编码。用尺寸标签格式化图像数据
“SSCB”(空间，空间，渠道，批处理)。默认情况下,minibatchqueue对象将数据转换为dlarray具有基础数据类型的对象单．不要向类标签添加格式。如果有GPU，请使用GPU进行训练。默认情况下,
minibatchqueue对象将每个输出转换为gpuArray如果有可用的GPU。使用GPU需要并行计算工具箱™和支持的GPU设备。有关支持的设备的信息，请参见GPU计算的需求(并行计算工具箱)．
兆贝可= minibatchqueue (dsTrain,.．.MiniBatchSize = MiniBatchSize,.．.PartialMiniBatch =“丢弃”，.．.MiniBatchFcn = @preprocessMiniBatch,.．.MiniBatchFormat = [“SSCB”，＂＂]);
列车网络的
使用自定义训练循环训练模型。中的数据仍然可用时，洗牌数据并遍历小批minibatchqueue．更新网络参数adamupdate函数。在每个阶段结束时，显示训练进度。
初始化平均梯度和平均梯度的平方。
averageGrad = [];averageSqGrad = [];
计算训练进度监视器的总迭代次数。
numObservationsTrain =元素个数(YTrain);numIterationsPerEpoch = ceil(numObservationsTrain / miniBatchSize);numIterations = numEpochs * numIterationsPerEpoch;
初始化TrainingProgressMonitor对象。因为计时器在创建监视器对象时开始，所以要确保创建的对象接近训练循环。
如果情节= =“训练进步”监控= = trainingProgressMonitor(指标“损失”信息=“时代”包含=“迭代”）;结束
培训网络。
迭代= 0;时代= 0;而epoch < numEpochs && ~monitor。停止epoch = epoch + 1;%洗牌数据。洗牌(兆贝可);而hasdata(兆贝可)& & ~班长。停止迭代=迭代+ 1;读取小批数据。(X, Y) =下一个(兆贝可);使用dlfeval和modelLoss帮助函数。(损失、研究生)= dlfeval (@modelLoss净,X, Y);使用Adam优化器更新网络参数。[净,averageGrad averageSqGrad] = adamupdate(网络,毕业生,averageGrad averageSqGrad,迭代);更新培训进度监视器。如果情节= =“训练进步”recordMetrics(监控、迭代损失=损失);updateInfo(监视、时代=时代+“的”+ numEpochs);班长。进度= 100 *迭代/numIterations;结束结束结束
损失函数模型
的modelLossHelper函数接受输入adlnetwork对象网以及一小批输入数据X与相应的标签Y，并返回损失和损失相对于可学习参数的梯度网．方法可自动计算梯度dlgradient函数。
函数[loss,gradient] = modelLoss(net,X,Y) YPred = forward(net,X);损失= crossentropy (YPred Y);梯度= dlgradient(损失、net.Learnables);结束
Mini-Batch预处理功能
的preprocessMiniBatch函数使用以下步骤对数据进行预处理:
从传入的单元格数组中提取图像数据，并将数据连接到数值数组中。将第四个维度上的图像数据连接起来，将为每个图像添加第三个维度，用作单例通道维度。
从传入单元格数组中提取标签数据，并沿着第二次元连接到分类数组中。
一热编码类别标签到数字数组。对第一个维度进行编码会生成一个与网络输出形状匹配的编码数组。
函数(X, Y) = preprocessMiniBatch(伊势亚YCell)从单元格阵列中提取图像数据并连接四分之一以上。%维度来添加第三个单例维度，作为通道%的维度。猫(X = 4,伊势亚{:});从单元格中提取标签数据并连接。Y =猫(2,YCell {:});单热编码标签。Y, Y = onehotencode (1);结束
版本历史
介绍了R2020b
您也可以从以下列表中选择网站: