主要内容

深度学习INT8量化

校准、验证和部署量化预训练的系列深度学习网络

通过量化深度学习网络,提高吞吐量,降低资源利用率,并将更大的网络部署到更小的目标板上。

在通过收集仪器数据校准预先训练的系列网络后,量化系列网络并验证量化网络的准确性。一旦量化网络得到验证,就为量化网络生成代码并部署它。

功能

全部展开

dlquantizationOptions 量化一个训练过的深度神经网络的选项
dlquantizer 将深度神经网络量化为8位缩放整数数据类型
校准 模拟和收集深度神经网络的范围
验证 量化和验证一个深度神经网络
dlhdl。工作流 配置深度学习神经网络部署流程
dlhdl。目标 为工作流部署配置接口到目标板
dlhdl。模拟器 创建一个检索中间层结果的对象,验证深度学习网络预测的准确性
编译 编译工作流对象
部署 将指定的神经网络部署到目标FPGA板上
预测 利用已部署的网络预测响应
预测 检索预测结果dlhdl。模拟器对象
释放 释放到目标设备的连接
validateConnection 验证SSH连接和部署的位流

主题

开始

量化的工作流程

  • 量化工作流先决条件
    2022世界杯八强谁会赢?深度学习网络量化所需的产品。
  • 校准
    模拟预先训练的系列网络并收集权重和偏差的动态范围。
  • 验证
    量化和验证预先训练的系列深度学习网络。
  • 代码生成和部署
    生成代码并部署您的量化预训练系列深度学习网络。
Baidu
map