AI芯片与高性能计算(HPC)应用论坛专家演讲精粹汇编
在深圳这座中国半导体产业创新高地(深圳半导体展核心承载区域),10月18日由深圳市半导体与集成电路产业联盟(SICA)主办、深圳市重大产业投资集团有限公司和深圳市芯盟会展有限公司承办的首届“湾芯展SEMiBAY”——湾区半导体产业生态博览会在深圳会展中心(福田)圆满落下帷幕。
本届湾芯展高标准举办高层战略研讨闭门会、高峰论坛以及中国集成电路院长论坛、大湾区半导体产业投资战略发展论坛、集成电路材料产业发展峰会、Chiplet与先进封装论坛、半导体核心零部件创新发展论坛、国际化合物半导体产业发展论坛等22场前沿技术论坛,汇聚国内外超300名行业领袖、学者大咖分享集成电路产业学术前沿、技术创新、产业进程、投资策略、未来趋势等。
10月17日,“AI芯片与高性能计算(HPC)应用论坛”顺利召开,汇聚了多位行业知名专家及企业嘉宾进行深入分享,共同探讨行业的最新趋势和技术发展。
深理工算力微电子学院唐志敏院长带来了《AGI时代的算力芯片》的演讲分享,唐志敏院长表示,算力不仅仅是“计算的能力”,应该是“快速计算的能力”,即利用可接受的资源、在可接受的时间内,完成某种计算任务的能力,最本质的衡量为完成计算任务的总时间。算力表面看是硬件问题,其实是软件问题、应用问题。

唐志敏认为,随着进入纳米工艺后,摩尔定律逐渐失效,而AIGC对算力增长的需求却每6个月翻一番(也有3.5个月一说)。2000年Pentium4的主频已经达到4GHz,后来的CPU大部分都低于这个频率,光靠研发性能更好的CPU已经难以满足提升算力的需求。因此,算力需求的大幅上升正加速异构计算芯片(xPU)的发展。
唐志敏指出,CPU+XPU的异构计算架构需要做通用性、算力、能耗、成本等方面的平衡,比如图像处理器GPU发展为较通用的加速引擎GPGPU,其他的加速器还有谷歌TPU、各种神经网络NPU、类GPGPU等,编程、软件兼容性成了异构加速计算的难点。
深圳云天励飞技术股份有限公司副总裁、芯片产品线总经理李爱军带来了《面向大模型的国产工艺“算力积木”边缘AI芯片架构创新与展望》的主题演讲,李爱军认为在AI 1.0时代,边缘场景落地有两大痛点,一是场景众多,为了满足不同场景的需求,需要各种各样的长尾算法,而长尾算法生产效率出现了投入产出不成正比的情况,二是用于边缘AI场景的芯片和算力五花八门,算力需求碎片化、芯片不成规模。
李爱军强调,大模型出现以后,让边缘场景的规模落地成为可能,过去的一年半,大模型正在面向物理世界快速演进,主要有两个特点,一是垂类大模型涌现,开始解决现实场景问题,二是大模型落地,正快速从云侧走向边缘侧。

李爱军表示,边缘应用场景本身有系统自动化、人机交互、隐私保护等刚性需求,加上大模型带来的新的计算范式,以及大参数量、大吞吐、大算力要求,两者结合面向大模型边缘AI的落地提出了全新的芯片要求。如何基于国产工艺实现边缘AI芯片的技术突破,关键在架构创新。基于此,云天励飞提出“算力积木”架构,是一个基于国产工艺的D2D Chiplet和C2C Mesh的大模型推理架构,未来,将会推出基于Mesh Torus架构的大模型边缘推理一体机,以高峰值算力与突出的能效比支持大模型的单机部署,包括7B、70B、MoE等主流大模型的边缘侧推理部署。
是德科技(中国)有限公司 Marketing manager 阳任平带来了《迎接高性能算力芯片的测试挑战》的演讲分享,阳任平表示,AI 模型每 3 年增长 1000 倍,AI 集群规模每 2 年翻两番,对计算和加速器的需求增加,推动数据通信流量增长,使网络架构成为瓶颈。高速连接、内存和存储、高速线缆、网络架构变化等技术进步对芯片测试提出新的挑战。

是德科技(中国)有限公司 Marketing manager 阳任平
深圳鲲云信息科技有限公司鲲云科技合伙人/COO王少军博士带来了《可重构数据流AI芯片加速人工智能落地》的主题演讲,王少军博士表示随着ChatGPT的发布,AI大模型成为竞争关键,大模型的竞争本质上是算力的竞争,人工智能芯片的计算效率越高,模型训练迭代速度越快,单次模型推理所需成本越低。

王少军博士介绍了可重构数据流AI芯片,其通过提升芯片利用率10倍,提高性价比,让芯片不再只依赖先进工艺,基于成熟工艺,达到高成本工艺多倍实测性能。
奇异摩尔(上海)集成电路有限公司销售副总裁马巍带来了《互联定义计算,AI 网络两大核心技术:高性能RDMA和Chiplet》的主题演讲,马巍表示网络基础设施作为AI的重要基石,直接决定了智算中心的能力、效率、可靠性和安全性。随着AI技术的持续进步,对网络基础设施的需求也在不断攀升,已成为推动AI智算中心发展的关键因素。随着大模型向多模态、长序列、混合专家架构演进,网络拥塞、延迟以及丢包乱序等一系列问题不断涌现,如何高效传输成为扩展集群的瓶颈。他分享构建AI Networking,需要三网融合,即网间互联、片间互联、片内互联。

珠海市芯动力科技有限公司CEO 李原博士带来了《面向边缘端大语言模型的RPP架构芯片与落地实践》的主题演讲,李原博士指出,大语言模型的研发正如火如荼,其落地应用也开始崭露头角,如人工客服变得更加友好,办公文档生成和翻译系统在边缘端的应用日益广泛。而这一切都离不开算力芯片,算力已然成为生产力的重要基石。然而,生产算力并非易事,算力并非单一概念。每个市场都对算力有需求,但大语言模型在边缘端的落地面临诸多挑战。

李原博士分享,目前边缘端的大语言模型规模有限,常见的如7B、70B模型,而更大规模的140B、700B模型在边缘端实现难度较大,主要受限于边缘端设备芯片和计算能力。为将大语言模型装入边缘端,人们采用了量化、稀疏矩阵和模型蒸馏等多种方法,虽能压缩数据量,但迭代速度极快,且性价比在边缘端计算中至关重要。
苏州亿铸智能科技有限公司高级副总裁徐芳发表题为《存算一体架构创新助力国产大算力AI芯片腾飞》的演讲,徐芳在演讲中介绍了亿铸科技的发展历程、技术优势以及对未来产业的展望,同时分析了当前国内AI大算力芯片面临的挑战。

徐芳表示,传统的AI芯片设计中,存储和计算是分离的,这导致了数据传输过程中的能耗和时间消耗,限制了系统的整体性能和算力的提升。但是,随着摩尔定律面临终结的困境,大算力芯片单纯依靠先进工艺的时代已经过去,产业创新路径需要开启第二增长曲线。在亿铸科技看来,存算一体大算力芯片正是这一创新路径之一。存算一体技术通过将存储单元和计算单元融合在一起,可以在保持超大算力的同时,实现超高能效比、更高并行度和更大专用算力。
徐芳分享,随着人工智能技术的成熟和应用的落地,大幅降低AI算力成本将是产业智能化广泛落地的必备条件之一。未来,AI芯片的最大竞争力将体现在大幅降低大模型算法每token的算力成本上,这也是亿铸科技AI大算力产品的核心竞争力。这也使得亿铸科技的芯片在大模型推理、数据中心、云计算等领域具有广泛的应用前景。
巨霖科技(上海)有限公司研发部部长/技术支持部部长钱蓓杰发表了题为《高精度高速信号完整性解决方案助力AI与HPC芯片设计》的主题演讲,阐述了信号完整性仿真在AI和HPC芯片设计中的关键作用,指出当前面临的计算能力与存储不匹配以及计算能力与互连效率不匹配的主要痛点,并结合巨霖科技自主研发的解决方案,生动展示了如何有效解决这些问题。他强调,高精度和高速信号完整性仿真是保障芯片性能和稳定性的基石,而巨霖科技在这方面拥有深厚的技术积累和丰富的实践经验。

钱蓓杰认为,5G、6G等新兴技术将进一步放大信号完整性的重要性,而巨霖科技将一如既往地加大研发投入,紧跟行业最前沿的仿真需求,持续为客户提供更高精度、更高速、更稳定的信号完整性解决方案,助力客户在AI和HPC领域取得更大的突破。
亚太芯谷科技研究院冯明宪院长带来了《AI芯片、HBM、先进晶圆工艺和先进封装的融合》的主题演讲,冯明宪院长认为,在AI产业体系中,基建/能源与数据是AI科技发展基础,其核心产业包括:IC、硬件、软件、系统、应用六大环节,其中IC是决定AI产业发展的根基。

冯明宪院长表示,在AI芯片的四个关键技术中,逻辑芯片制程、CoWoS、HBM是AI算力芯片性能提升的三驾马车。以英伟达GPU为例,在过去的8年中,GPU的算力提升了约1000倍,其中逻辑芯片由于制程工艺进步提升的算力约40-60倍,其余则是因为CoWoS、HBM两项技术突破产生的叠加效应。
冯明宪院长分享,由于更强的生成式人工智能(Gen AI)需求推动了更高的AI服务器出货量和每个GPU中更高的高带宽内存(HBM)密度,亚太芯谷科技研究院预计HBM市场规模将从2022年到2026年前增长15.64倍(4年复合年增长率77%),从2022年的 23 亿美元增长至2026年的 360亿美元。
腾讯云计算(北京)有限责任公司首席专家刘道龙带来了《聚焦半导体产业,云与AI加速“芯”质生产力》的主题演讲,刘道龙表示,芯片在高端市场和应用类市场取得新的突破,GPU,服务器CPU,桌面计算机CPU,片上系统SoC等,以及大量的IoT芯片,AI芯片,汽车电子芯片MCU,智能终端芯片需求持续增长。在这样的背景下,芯片的上市周期是赢得市场竞争的关键,企业在TTM上承受巨大的压力,用算力换时间,以及选择先进的EDA工具及时完成数字签核和仿真成为大部分企业的必然选择。

腾讯云计算(北京)有限责任公司首席专家 刘道龙
刘道龙介绍,腾讯在半导体行业最早深入布局,投资了众多半导体公司,并成立了自研芯片部门,其解决方案及生态能够提供/孵化半导体端到端解决方案/行业服务经验,助力半导体企业数字化转型。
以上HPC业界专家和AI芯片公司嘉宾共同探讨高性能计算前沿技术,分享各领域创新应用成果,吸引参会人员学习观摩,共商共建集成电路产业“芯”动未来。