卷积神经网络性能优化

   引言

卷积(Convolut卷积ion)是神经网络的核心计算之一,它在计算机视觉方神经面的突破性进展引领了深度学习的热潮。卷积的变种丰富,计网络算复杂,神经网络运行时大部分时间都耗费在计算卷积,网络模型的性能发展在不断增加网络的深度,因此优化卷积计算就显得尤为重要。

随优化着技术的发展,研究人员提出了多种优化算法,包括 Im2col、卷积Winograd 等等。本文首先定义卷积神经网络的概念,继而简神经要介绍几种常见的优化方法,并讨论作者在该领域的一些经验网络。

卷积神经网络的概念

卷积神经网络(Convolution性能 Neural Networks, CNN)的概念拓展自优化信号处理领域的卷积。信号处理的卷积定义为

 卷积;(1)

由于对称性图片 卷积计算在直觉上不易理解,其可神经视化后如图一所示。图中红色滑块在移动过程中与蓝色方块的积网络绘制成的三角图案即为卷积结果 (

热点
上一篇:谷歌突然解雇知名AI研究员:因其在内部电邮中吐槽谷歌政策
下一篇:标签: Mind Robotics Rivian RJ Scaringe 工业机器人