面向混合量化CNNs的可重构处理器设计

作者:常立博; 张盛兵
更新时间:

为了解决现有卷积神经网络(CNNsconvolutionneural networks)加速器无法适应混合量化模型的计算模式和内存访问特性而导致的加速器效率低的问题,可重构计算单元,设计了适应混合量化模型的弹性片上缓存单元和宏数据流指令集。其中,采用可按CNN模型结构重构的多核结构,提高计算资源利用率;采用弹性存储结构和基于Tile的动态缓存分区策略,提高片上数据复用率,并采用宏数据流指令集,有效地表达了混合精度CNN模型计算和可重构处理器特征,降低了映射策略的复杂性。在Ultra96-V2平台上,VGG-16和ResNet-50的计算性能分别达到216.6和214GOPS,计算效率分别达到0.63和0.64GOPS/DSP。同时,ResNet-50在ZCU102平台上的计算性能可达931.8GOPS,计算效率可达0.40GOPS/DSP。与其他同类CNN加速器相比,计算性能和效率分别提高了55.4%和100%。