免费的技术文章
什么是int8量化,为什么它在深度神经网络中流行?
浮点仿真
在模拟和代码生成中模拟非标准浮点数的目标硬件行为,例如刷新到零。在MATLAB中用fp16半精度数据类型模拟有限精度浮点®和仿真软件®.
仪表和可视化
通过自动模型范围的仪器收集仿真数据和统计信息。收集范围数据,以探索和分析您的设计。使用可视化来优化您的设计,以有效地利用硬件资源。
派生的范围分析
根据您的设计的数学分析推导信号范围,并确定最坏情况范围或边缘情况,而不必创建完全详尽的模拟测试台。使用派生范围,您可以确保您的设计防止或处理所有可能的溢出。
定点量化
通过指导工作流程探索不同的定点数据类型及其对系统数值行为的量化影响。观察设计中变量的动态范围,并确保转换后的算法在浮点和定点表示中表现一致。
数据类型的优化
自动迭代各种定点配置,以选择最佳异构数据类型,同时满足系统数值行为的容差约束。优化寻求使用定点数据类型最小化总位宽,以实现高效的设计。
函数逼近和查找表压缩
用最佳查找表近似数学上复杂的函数(如sqrt和exp)或复杂的子系统。压缩现有的查找表,通过优化数据点和数据类型来减少内存使用量。
溢出和精确损失检测
快速识别、跟踪和调试溢出、精度损失和浪费范围或精度的来源,并将您的设计与理想的浮点行为进行比较。您的模型和代码的真实一致性最大化了基于模型的设计的许多好处,使您能够在工作流的早期发现这些问题。
测试数值边缘用例
生成数值丰富的不动点和浮点值,例如接近边界和不规则数的值,以测试算法的边界用例,以获得数值一致性。生成具有不同维度和复杂性的信号组合,并具有整数、浮点或定点数据类型。