距离开展还有145

精彩回顾!行业大咖畅谈边缘AI芯片设计与应用的机遇和挑战

2025-05-20 14:50:26

2月22日,湾芯展直播间举办主题为《边缘AI芯片设计与应用的机遇和挑战》的直播讲座。本次直播讲座围绕边缘AI的算法、算力和应用场景,在深芯盟首席分析师顾正书的主持下,芯动力科技联合创始人兼副总裁朱建斌、阿里达摩院高级技术专家王滨华、硅芯科技创始人兼CEO赵毅博士等嘉宾,一起分享和探讨边缘AI芯片设计与应用面临的问题和解决方案。



芯动力科技联合创始人兼副总裁朱建斌

芯动力科技联合创始人兼副总裁朱建斌带来了《面向边缘端大语言模型的RPP架构芯片与落地实践》的主题分享。他指出,AI的发展从研发转向应用,算力芯片将成为生产力的基石,LLM推理端具有模型数据量庞大、模型压缩、迭代速度快等特征,边缘计算需要性能、通用性与功耗、成本实现平衡的“性价比”。

面对边缘计算提出的新要求,朱建斌分享了芯动力科技独创的可重构并行处理器架构RPP。据其介绍,RPP兼容CUDA指令集,是在性能、延迟、吞吐量、部署、能耗、通用性等方面均表现出色的“六边形战士”,在GPU和NPU之间取得了良好的平衡,可应用于边缘端丰富的应用场景。芯动力科技已基于其RPP架构芯片成功部署了DeepSeek R1模型的适配,在端侧大模型应用中提供了极佳性能体验。



阿里达摩院高级技术专家王滨华

阿里达摩院高级技术专家王滨华带来了《面向端侧大模型玄铁AI软件设计》的主题分享。他指出,大模型在整个AI生态中的占比越来越高,数据、算力、算法多维度协同相互促进,带动大模型能力快速发展,Deepseek等开源大模型的迅速发展也将进一步加速端侧大模型落地,而大模型相比传统模型在性能优化上面临更大的挑战和机会。

王滨华结合玄铁AI软件栈现状,探讨面对端侧大模型新挑战和设计思考。他表示,RISC-V已经在嵌入式领域广泛应用,玄铁AI扩展积极推动RISC-V面向高性能领域快速发展,玄铁AI软件生态支持模型数量100+,模型量化方式支持全面。玄铁快速适配Deepseek-R1系列蒸馏模型,助力未来智能终端更好体验。最后,王滨华分享了面向大模型支持和优化,底层芯片软件视角观察和展望。



硅芯科技创始人兼CEO赵毅博士

硅芯科技创始人兼CEO赵毅博士带来了《针对先进封装的2.5D/3D芯片EDA软件工具的探讨》的主题分享。他首先深入剖析了先进封装产业趋势,指出在后摩尔时代,各类HPC应用对算力需求剧增,与芯片性能增长缓慢形成矛盾,芯片正面临算力危机。在他看来,芯片性能提升面临着内存墙、功耗墙、面积墙等几大瓶颈,采用先进封装的2.5D/3D Chiplet堆叠芯片带来的重大升级将有效解决这些瓶颈。

赵毅博士指出,2.5D/3D Chiplet带来计算速度和存储容量等大幅提升的同时,设计难度也迎来指数级提升,并从设计、测试、仿真三大方面剖析2.5D/3D Chiplet在实际设计中面临的新挑战。针对这些挑战,硅芯科技作为世界第一批研究2.5D/3D堆叠芯片设计方法团队,面向2.5D/3D Chiplet打造了新一代EDA工具3Sheng Integration Platform EDA平台。

本次直播讲座嘉宾的精彩分享从多维度探讨了边缘AI芯片的发展现状与趋势、设计与应用面临的问题以及解决方案,吸引了众多观众在线观看、积极互动。