东南大学

2023-04-20
报刊:东南大学报

内容搜索

标题导航

放大 缩小 默认

少年心事当拿云

———电子科学与工程学院SEUer团队在国际赛道上摘金揽银

   期次:第1500期   作者:章 京

指导教师张萌(中)与团队成员张雨、李国庆、张经纬、曹新野合影

2022岁逢双甲子之际,东南大学电子学院SEUer团队(以下简称SEUer团队)在博士生导师张萌指导下,先后斩获电子设计自动化(EDA)领域和芯片架构领域顶级会议DAC会议所组织的SDC竞赛全球第一和ICCAD会议所组织的TinyML竞赛全球第二佳绩!在国际舞台再次彰显了我校“以科学名世,以人才报国”的办学理念。

 

 

2022年7月14日,EDA领域和芯片体系架构领域顶级会议-设计自动化大会(DesignAu鄄tomationConference,DAC)落下帷幕,东南大学SEUer团队在国际赛道奋勇争先,摘下大会SDC系统设计竞赛桂冠。

 

DAC自动设计大会是全球久负盛誉的产学研交流盛会,也是中国计算机学会推荐的A类会议之一。由DAC会议组织的SDC系统设计竞赛是目前神经网络加速器设计分支最高级别的竞赛,2022年共有来自全球40余个组织的73支队伍参加,获奖率仅为4%,获奖作品代表着EDA领域和芯片架构领域的最高水平。

 

在EDA领域和芯片体系架构领域,神经网络加速器设计已成为当下热门的研究方向,通过定制化的设计,神经网络加速器可以提供更高效、更快速、更节能的计算能力,从而加速深度学习计算的过程。自2019年成立伊始,SEUer团队的研究方向就主要集中在EDA领域和芯片架构领域的前沿技术,如异构计算、神经网络加速器设计等,做了大量的科研工作,在国际国内赛事中获奖6次,共发表包括DAC在内顶刊顶会10余篇。

 

为了探索新的设计思路,同时在竞赛中提升实力,团队成立次年即开始在DAC-SDC竞赛中小试牛刀。想方设法前置比赛开始时间,把3至6月共4个月的赛期延长,赛前三个月就开始做大量往届优秀作品的研究、学习和复现工作,同时明确了“小组分工配合+一周两次汇报”机制,团队成员明确分工,自行实验时做好实验日志,每周两次的讨论会则是高效的头脑风暴,汇集问题并尝试提出问题解决思路。在研究过程中,SEUer团队坚持不懈,不断探索新的设计思路和优化方法,分别在2020、2021年获得全球第六的成绩。

 

三年积淀,玉汝于成。通过不断参赛和持续研究,SEUer团队的实力得到了显著提升,最终成功打造了一款性能卓越的神经网络加速器。该加速器具有高度可配置性和灵活性,可以针对不同的硬件平台进行定制化的优化和加速,为神经网络应用的部署和迭代提供了更加便捷的解决方案。通过对神经网络计算过程中的瓶颈进行深入分析,SEUer团队优化了算法流程和硬件结构设计,实现了速度提升55倍,能耗比优化230倍的卓越成绩。

 

 

“来自中国南京的东南大学的顶级团队,通过优化可编程逻辑中的数据流提高数据计算复用率,最终在吞吐率方面逼近硬件的理论性能边界”。DAC竞赛组委会Shiyiyu教授曾如是评价SEUer团队。

 

DAC-SDC竞赛不仅考察参赛队伍的算法能力,还考察硬件设计及系统设计的能力。自2020年由FPGA、GPU双赛道改为FPGA单赛道至今,已走过3个年头,伴随着参赛队伍能力的不断积累提升,赛况也越发激烈。

 

相较于2021年赛题受限于SD卡传输速度,理论速度存在300fps的上限,2022年赛题中SD卡加载图片时间不再计入总时间,经过测量分析,当前硬件环境下理论最高速度应接近2500fps,速度指标的瓶颈提高了8倍,性能提升空间更大,对团队系统设计能力要求也更高。

 

SEUer团队以此为优化目标,从硬件性能和面积两个层次进行协同优化,最终刷新了该项赛事有史以来的能耗最低纪录———36焦耳,同时速度超过2000fps,接近2500fps的硬件理论性能上限。

 

2023年3月20日,经历了漫长的等待,DAC-SDC竞赛赛题较往年推迟2个月出炉,在数据集、评价指标、计算平台方面做了很大的改动,在感到“又是一个难啃的硬骨头”之余,SEUer团队很是兴奋,这是DAC组委会对他们的“最高评价”———由于去年的工作已做到极致,只能被迫换题。

 

 

“总觉得我们有跻身前三的实力,有太多想法没时间去做,感觉每次就差一点儿,草草毕业的话,太遗憾了”。2021年底,学院2021级博士生张经纬接过了2018级博士生李国庆手中的接力棒带队参赛,同年他申请了硕博连读,为冲击该项赛事的荣誉多争取了几年时间。

 

因该项赛事评选极其严格,需经过三轮的前期排名与角逐,每年仅有3支获奖队伍产生,且只在大会召开期间才公布最终的冠亚季军及其指标结果。连续两年第六让SEUer团队有了“我们还不错”的心理定位,但寂寂无名的焦灼也让大家更加渴望冠亚军的荣誉。

 

在有了技术实力的积淀和一定的参赛经验的基础上,第一个要解决的就是团队成员不稳定的问题。“铁打的团队、流水的成员”在这里绝非玩笑。团队成立之时,是一个博士生带六个硕士生,与其说是竞技,不如说是学习的性质更多。当大家的研究工作渐入佳境之时,成员也一茬茬地毕业了。除了主力成员硕博连读之外,团队开始把“以赛促学”做在日常、学在经常,辐射整个实验室,为本课题组各年级、各阶段的研究生因人而异定制了学习计划,除了张经纬、李国庆,团队里的硕士生曹新野、张雨也很快成长起来,独当一面。

 

2022年6月6日,作品提交截止仅剩12小时。团队成员正在聚精会神通宵达旦地做最后的系统集成,张经纬紧盯着封装模块和系统层集成,曹新野则专注于处理跨时钟域的时钟约束,两人需要合力将两个关键要素融合起来,引入跨时钟域到系统层面,将整个系统分成低频工作区域和高频工作区域,以确保两个工作区域之间互不干扰。每次融合都要进行40分钟以上的验证,等待验证结果的过程中,紧张的气氛弥漫在空气中,每个人都在热切期待着结果,虽是熬夜但无比兴奋。一旦获得验证结果,团队需要立即对系统进行下一轮优化,以确保最终参数能够得到最优化。

 

“成了!”凌晨3点多,东南大学ASIC中心四楼实验室传来一声惊呼,张经纬的电脑前显示出验证结果,跨时钟域取得突破性进展,他慌忙叫来邻座的曹新野一起研究,“方向是对的!继续优化,我们还有时间!”此时大家睡意全无了,都以极其兴奋的干劲投入一轮轮新的优化之中。早上8点,系统集成完成,大家郑重进行了作品提交,此时早已“心中有数”,效果比去年取得很大突破了,但DAC-SDC竞赛素来都是“神仙打架”,不到最后“开奖”,大家谁也不敢妄下定论。

 

“印象挺深的是当天四楼还有一组参赛队伍,他们也很拼,也是通宵在做最后的冲刺,这样的竞技氛围很好,提交完作品大家都有一种自我价值实现的成就感”。天道酬勤、力耕不欺,最终东南大学2022年在该项赛事中斩获冠、亚军和第六名的佳绩。

 

少年心事当拿云!这支年均25岁的队伍并没有故步自封,DAC-SDC竞赛获奖后以一种更踏实更专注的干劲投入新的科研中去,在得知ICCAD会议2022年新设了TinyML(TinyMachineLearning)赛道后,SEUdr团队再次整装出战,对部署在低功耗处理器上的TinyML算法做了深度优化和系统协同设计,在精度、召回率、推理延迟和存储占用等方面综合指标优异,最终力敌麻省理工学院(MIT)、斯坦福大学、佐治亚理工学院等世界人工智能算法与电路架构领域顶尖研究团队,荣获全球第二的好成绩。在国际赛道中再次展示中国力量、东大青年的智慧!

放大 缩小 默认

版权所有 东南大学 Copyright @2011-2023 All rights reserved.

   技术支持:华文融媒云