-
收藏
-
加书架
-
引用
简介
《融合数字电路与存内计算的高能效神经网络处理器(英文版)》从纯数字电路和融合存内计算的高能效神经网络处理器两个角度开展了四项主要的研究工作。 在数字电路神经网络处理器层面,一方面针对传统架构数据复用优化不充分的问题,提出了针对特定卷积核优化的卷积神经网络处理器 KOP3。另一方面,针对不规则稀疏网络压缩技术引起的显著额外功耗面积开销,采用结构化频域压缩算法 CirCNN,提出整体并行-比特串行的 FFT 电路、低功耗分块转置 TRAM 和频域二维数据复用阵列,以规则的方式压缩了存储和计算量。设计并流片验证的 STICKER-T芯片实现了面积效率和能量效率的提升。在融合数字电路与存内计算的神经网络处理器层面,融合了数字电路的灵活性和存内计算 IP 的高能效特性,进一步提升能量效率。一方面通过分块结构化权重稀疏与激活值动态稀疏、核心内/外高效数据复用与网络映射策略、支持动态关断 ADC 的存内计算 IP,设计流片了存内计算系统芯片 STICKER-IM,在存内计算芯片中实现了稀疏压缩技术。另一方面,进一步针对现有工作与大模型实际应用之间的差距,指出了大模型权重更新引起的性能下降和稀疏利用不充分等问题,提出了组相联分块稀疏电路、乒乓存内计算电路和可调采样精度 ADC 技术。设计并流片验证的STICKER-IM2 芯片考虑了存内计算的权重更新代价,实现了 ImageNet 数据集上的高能效和较高准确率验证。
编辑推荐
《融合数字电路与存内计算的高能效神经网络处理器(英文版)》展示了融合数字电路与存内计算的技术路线,证明了充分利用数字电路与存内计算的优势,结合器件、电路、架构和算法应用等多层次联合优化能够实现更高能效的神经网络处理器。
更多出版物信息
- 版权: 清华大学出版社
- 出版: 2024-08-01
- 更新: 2024-11-07
- 书号:9787302656005
- 中图:TP183
- 学科:工学控制科学与工程工学计算机科学与技术交叉学科智能科学与技术
相关图书
-
耄耋存稿
¥58.00