深度学习层的列表
这个页面提供了一个列表的深度学习MATLAB的层®。
学习如何创建网络层的不同的任务,看下面的例子。
| 任务 | 了解更多 |
|---|---|
| 创造深度学习网络图像分类或回归。 | |
| 创建序列和时间序列数据的深度学习网络。 | |
| 为音频数据创建深入学习网络。 | 使用深度学习训练语音命令识别模型 |
| 为文本数据创建深入学习网络。 |
深度学习层
使用下面的函数来创建不同的层类型。另外,使用深层网络设计师应用交互式地创建网络。
学习如何定义自己的自定义层,明白了定义定制的深度学习层。
输入层
| 层 | 描述 |
|---|---|
| 图像输入二维图像神经网络输入层和应用数据规范化。 | |
| 三维图像输入层输入神经网络和应用3 d图像或卷数据规范化。 | |
|
点云输入层输入三维点云网络和应用数据规范化。您还可以输入点云数据,如二维激光雷达扫描。 |
| 一个序列的神经网络输入层的输入序列数据。 | |
| 一个特性神经网络输入层的输入特性数据和应用数据规范化。使用这一层当你有一个数据集的数字标量代表特性(数据没有空间和时间维度)。 | |
|
一个ROI输入层输入图像快速R-CNN对象检测网络。 |
卷积和完全连接层
| 层 | 描述 |
|---|---|
| 一个一维卷积层滑动卷积过滤器适用于一维输入。 | |
| 一个二维卷积层滑动卷积过滤器适用于二维输入。 | |
| 三维卷积层滑动立方卷积过滤器适用于三维输入。 | |
| 一层二维分组卷积分离输入通道进入组织和应用滑动卷积过滤器。使用分组卷积层channel-wise分离(也称为深度方面可分)卷积。 | |
| 一层转置二维卷积upsamples二维特征图。 | |
| 一层转置三维卷积upsamples三维特征图。 | |
| 一个完全连接层增加输入权重矩阵,然后添加一个偏差向量。 |
序列层
| 层 | 描述 |
|---|---|
| 一个序列的神经网络输入层的输入序列数据。 | |
| LSTM层是一个RNN层长期学习时间步骤时间序列和序列数据之间的依赖关系。 | |
| LSTM投影层是一个长期学习的RNN层之间的依赖关系的时间步骤使用预测时间序列和序列数据可学的权重。 | |
| 双向LSTM (BiLSTM)一层一层是一个RNN学习双向长期时间步长之间的依赖关系的时间序列或序列数据。这些依赖项可以是有用的,当你想要RNN学习完整的时间序列在每个时间步。 | |
| 格勒乌层是一个RNN层,学习时间步骤时间序列和序列数据之间的依赖关系。 | |
| 一个一维卷积层滑动卷积过滤器适用于一维输入。 | |
| 一层转置一维卷积upsamples维特征图。 | |
| 一个一维最大池层执行downsampling除以输入一维池区域,然后计算每个区域的最大。 | |
| 一维平均池层执行downsampling除以输入一维池区域,然后计算每个区域的平均值。 | |
| 一个一维的全球最大池层执行将采样的最大输出输入的时间和空间维度。 | |
| 一个序列折叠层转换一批一批图像的图像序列。使用一个折叠层按时执行卷积操作步骤序列独立的图像序列。 | |
| 一个序列展开层恢复后的输入数据序列的序列结构折叠。 | |
| 平层坍塌的输入通道的空间维度的维度。 | |
| self-attention层计算单头或多线程self-attention输入。 | |
|
一个字嵌入层地图单词索引向量。 |
|
的窥孔LSTM层是一个变种LSTM层,门的计算使用层细胞状态。 |
激活层
| 层 | 描述 |
|---|---|
| ReLU层进行阈值操作每个元素的输入,任何小于零的值被设置为零。 | |
| 漏水的ReLU层执行一个阈值操作,任何输入值小于零乘以一个固定的标量。 | |
| 剪ReLU层执行一个阈值操作,任何输入值小于零设置为零,高于任何值剪裁天花板将剪切天花板。 | |
| ELU活化层执行身份操作正输入和一个指数非线性负输入。 | |
| 高斯误差的线性单元(GELU)层重量输入高斯分布下的概率。 | |
| 双曲正切(双曲正切)激活层应用上的双曲正切函数层输入。 | |
| 嗖得一声活化层的嗖嗖声函数适用于层输入。 | |
|
softplus层应用softplus激活函数Y日志(1 + e =X),确保输出总是正的。这个激活函数是一个光滑的连续版本的reluLayer。你可以把这一层到演员的深层神经网络定义强化学习代理。这一层是用于创建连续高斯政策深层神经网络,标准偏差的输出必须是积极的。 |
| 一层功能层指定函数适用于输入。 | |
|
PReLU层执行一个阈值操作,为每个通道,任何输入值小于零乘以一个标量学习训练时间。 |
归一化层
| 层 | 描述 |
|---|---|
| 一批标准化规范化的数据在所有观测mini-batch层每个通道独立。加快卷积神经网络的训练,减少对网络的初始化,使用批卷积层之间的归一化层和非线性,如ReLU层。 | |
| 一群归一化层可实现mini-batch跨分组的数据子集的渠道为每个独立的观察。加快卷积神经网络的训练,减少对网络的初始化,使用组卷积层之间的归一化层和非线性,如ReLU层。 | |
| 归一化层可实现实例mini-batch跨每个通道的数据为每个独立的观察。提高卷积神经网络训练的收敛和减少网络hyperparameters敏感性,使用实例卷积层之间的归一化层和非线性,如ReLU层。 | |
| 一层一层标准化规范化mini-batch数据在所有渠道为每个独立的观察。加快复发性和多层感知器神经网络训练,减少对网络的初始化,使用层标准化层后可学的层,如LSTM和完全连接层。 | |
| channel-wise当地响应(交叉流道)归一化层进行channel-wise正常化。 |
工具层
| 层 | 描述 |
|---|---|
| 辍学层随机集输入元素与给定的概率为零。 | |
| 二维作物层二维裁剪适用于输入。 | |
| 一层3 - d作物作物3 d体积大小的输入特性图。 | |
|
一层线性缩放和偏见的输入数组U,给一个输出Y =。* U +偏见。可以把这一层到深层神经网络定义为演员或批评者在强化学习代理。这一层是有用的扩展和变化的输出非线性层,如tanhLayer和乙状结肠。 |
|
二次层需要一个输入向量和输出向量的二次单项式由输入元素。这一层是有用的,当你需要一个层,它的输出是一个二次函数的输入。例如,重建结构的二次价值功能,如用于控制器设计等方面。 |
|
一个STFT层计算短时傅里叶变换的输入。 |
|
CWT层计算输入的类。 |
|
MODWT层计算MODWT和MODWT多分辨率分析(MRA)的输入。 |
调整层
| 层 | 描述 |
|---|---|
|
一层二维调整尺寸的二维输入比例因子,指定高度和宽度,或参考输入特性图的大小。 |
|
三维调整层尺寸三维输入比例因子,到指定的高度,宽度,和深度,或者参考输入特性图的大小。 |
池和Unpooling层
| 层 | 描述 |
|---|---|
| 一维平均池层执行downsampling除以输入一维池区域,然后计算每个区域的平均值。 | |
| 二维平均池层执行downsampling除以输入矩形池区域,然后计算每个区域的平均值。 | |
| 三维平均池层执行downsampling除以三维输入立方形的池区域,然后计算每个区域的平均值。 | |
| 全球平均水平一维池层执行将采样的平均输出输入的时间和空间维度。 | |
| 一层二维全球平均池执行将采样通过计算平均高度和宽度尺寸的输入。 | |
| 三维全球平均池层执行downsampling通过计算身高的均值,输入的宽度、深度和维度。 | |
| 一个一维最大池层执行downsampling除以输入一维池区域,然后计算每个区域的最大。 | |
| 一层二维最大池执行downsampling除以输入矩形池区域,然后计算每个区域的最大。 | |
| 3 d max池层执行downsampling除以三维输入立方形的池区域,然后计算每个区域的最大。 | |
| 一个一维的全球最大池层执行将采样的最大输出输入的时间和空间维度。 | |
| 全球最大池二维层执行将采样通过计算的最大高度和宽度尺寸的输入。 | |
| 全球3 d max池层执行将采样通过计算的最大高度,宽度、深度和维度的输入。 | |
| 一层二维马克斯unpooling unpools二维最大池的输出层。 |
结合层
| 层 | 描述 |
|---|---|
| 除了一层来自多个神经网络的输入层element-wise补充道。 | |
| 一个乘法层繁殖element-wise来自多个神经网络的输入层。 | |
| 深度连接层需要输入,有相同的高度和宽度沿着通道尺寸和连接它们。 | |
| 连接层需要的输入并将它们连接指定的尺寸。输入必须有相同的大小在所有维度除了连接尺寸。 | |
|
加权加法层尺度和来自多个神经网络的输入层element-wise补充道。 |
对象检测层
| 层 | 描述 |
|---|---|
|
一个ROI输入层输入图像快速R-CNN对象检测网络。 |
|
ROI马克斯池层输出固定大小为每个矩形特征图谱ROI内输入特征映射。使用这一层创建一个快速或更快R-CNN对象检测网络。 |
|
一个ROI层对齐输出固定大小的特征图中的每个矩形ROI地图输入功能。使用这一层创建一个面具R-CNN网络。 |
|
锚箱层商店锚箱用于目标检测的特征映射网络。 |
|
地区建议层输出边界框周围潜在的对象在一个图像的一部分地区建议网络(RPN) R-CNN更快。 |
|
SSD合并图层合并的输出特性为后续的回归和分类地图损失计算。 |
 yolov2TransformLayer(计算机视觉工具箱) |
你只看一次的转换层版本2 (YOLO v2意思)网络变换卷积最后一层的边界框的预测网络中下降的范围内地面真理。使用转换层来提高YOLO v2意思网络的稳定性。 |
|
空间深度层排列的空间块的输入深度维度。使用这一层,当你需要结合不同大小的特征图谱不丢弃任何特性数据。 |
|
一个二维空间的深度层排列的数据深度尺寸的二维空间数据块。 |
|
地区建议网络(RPN) softmax层softmax激活函数适用于输入。使用这一层创建一个更快R-CNN对象检测网络。 |
|
一层焦损失预测对象类使用焦损失。 |
|
地区建议网络(RPN)分类层分类的图像区域对象或背景通过使用一个交叉熵损失函数。使用这一层创建一个更快R-CNN对象检测网络。 |
|
一盒回归层改进边界框的位置通过使用一个光滑的L1损失函数。使用这一层创建一个快速或更快R-CNN对象检测网络。 |
输出层
| 层 | 描述 |
|---|---|
| softmax层softmax函数适用于输入。 | |
| 乙状结肠层乙状结肠函数适用于输入,输出是有界区间(0,1)。 | |
| 一个分类层计算熵损失与互斥类分类和加权分类任务。 | |
| 一层回归计算half-mean-squared-error损失回归任务。 | |
|
一个像素分类层提供了一个为每个图像像素或体素分类标签。 |
|
骰子像素分类层提供了一个分类标签为每个图像像素或体素使用广义骰子的损失。 |
|
一层焦损失预测对象类使用焦损失。 |
|
地区建议网络(RPN) softmax层softmax激活函数适用于输入。使用这一层创建一个更快R-CNN对象检测网络。 |
|
地区建议网络(RPN)分类层分类的图像区域对象或背景通过使用一个交叉熵损失函数。使用这一层创建一个更快R-CNN对象检测网络。 |
|
一盒回归层改进边界框的位置通过使用一个光滑的L1损失函数。使用这一层创建一个快速或更快R-CNN对象检测网络。 |
|
你只看一次的一个输出层版本2 (YOLO v2意思)网络改进边界框的位置通过最小化之间的均方误差损失预测位置和地面真理。 |
|
特沃斯基像素分类层提供了一个分类标签为每个图像像素或体素使用特沃斯基的损失。 |
|
分类SSE层计算误差平方和损失分类问题。 |
|
回归梅层计算平均绝对误差损失回归问题。 |
另请参阅
trainingOptions|trainNetwork|深层网络设计师
