精彩回顾!行业大咖畅谈边缘AI芯片设计与应用的机遇和挑战
2月22日,湾芯展直播间举办主题为《边缘AI芯片设计与应用的机遇和挑战》的直播讲座。本次直播讲座围绕边缘AI的算法、算力和应用场景,在深芯盟首席分析师顾正书的主持下,芯动力科技联合创始人兼副总裁朱建斌、阿里达摩院高级技术专家王滨华、硅芯科技创始人兼CEO赵毅博士等嘉宾,一起分享和探讨边缘AI芯片设计与应用面临的问题和解决方案。
芯动力科技联合创始人兼副总裁朱建斌
面对边缘计算提出的新要求,朱建斌分享了芯动力科技独创的可重构并行处理器架构RPP。据其介绍,RPP兼容CUDA指令集,是在性能、延迟、吞吐量、部署、能耗、通用性等方面均表现出色的“六边形战士”,在GPU和NPU之间取得了良好的平衡,可应用于边缘端丰富的应用场景。芯动力科技已基于其RPP架构芯片成功部署了DeepSeek R1模型的适配,在端侧大模型应用中提供了极佳性能体验。
阿里达摩院高级技术专家王滨华
阿里达摩院高级技术专家王滨华带来了《面向端侧大模型玄铁AI软件设计》的主题分享。他指出,大模型在整个AI生态中的占比越来越高,数据、算力、算法多维度协同相互促进,带动大模型能力快速发展,Deepseek等开源大模型的迅速发展也将进一步加速端侧大模型落地,而大模型相比传统模型在性能优化上面临更大的挑战和机会。
王滨华结合玄铁AI软件栈现状,探讨面对端侧大模型新挑战和设计思考。他表示,RISC-V已经在嵌入式领域广泛应用,玄铁AI扩展积极推动RISC-V面向高性能领域快速发展,玄铁AI软件生态支持模型数量100+,模型量化方式支持全面。玄铁快速适配Deepseek-R1系列蒸馏模型,助力未来智能终端更好体验。最后,王滨华分享了面向大模型支持和优化,底层芯片软件视角观察和展望。
硅芯科技创始人兼CEO赵毅博士
赵毅博士指出,2.5D/3D Chiplet带来计算速度和存储容量等大幅提升的同时,设计难度也迎来指数级提升,并从设计、测试、仿真三大方面剖析2.5D/3D Chiplet在实际设计中面临的新挑战。针对这些挑战,硅芯科技作为世界第一批研究2.5D/3D堆叠芯片设计方法团队,面向2.5D/3D Chiplet打造了新一代EDA工具3Sheng Integration Platform EDA平台。