Ceva徐明:CEVA NPU IP赋能端侧AI基础设施建设
创始人
2025-07-11 00:00:32
0

7月3-5日,2025第九届集微半导体大会在上海张江科学会堂举行。大会由半导体投资联盟、ICT知识产权发展联盟主办,爱集微(上海)科技有限公司承办,上海市集成电路行业协会协办,浦东科创集团、海望资本战略协作,上海市张江科学城建设管理办公室、浦东新区投资促进服务中心支持。

作为本届大会最具技术含量的核心板块之一,集微EDA IP工业软件论坛于7月4日盛大举行。大会以“智启芯程——AI驱动下的EDA与IP设计新纪元”为主题,汇聚国内外EDA/IP领域顶尖学者、企业领袖及投资专家,共同探讨AI时代芯片设计工具链的创新蓝图。

Ceva中国技术支持总监徐明

会上,行业领先的硅和软件知识产权许可商Ceva中国技术支持总监徐明在发表题为《人工智能的下一次进化:边缘优先》的主题演讲中称,随着人工智能的深入发展和持续迭代,边缘人工智能正在推动整个科技行业发生革命性变化,而其关键驱动力在于六大方面。

第一,实时处理:便于即时数据处理、推理模型和更快地完成首个标记(token)。第二,数据隐私:本地数据处理增强了安全性和隐私性。第三,能量:边缘推理可降低云计算的电力负荷,解决云的限制并推动边缘计算的应用。第四,成本:与每次查询的云成本相比,在本地运行推理的成本接近于零。第五,带宽效率:减少对云的依赖,节约互联网带宽。第六,个性化:定制化体验,提升用户参与度和满意度。

徐明指出,“如今的人工智能发展趋势是“边缘优先”(Edge-First),其中包括更优化、更高效的模型正在加速边缘部署,以及更小的尺寸和更低的内存使用。目前,英伟达、谷歌、高通和Arm等行业领导者正在从以云计算为中心的人工智能转向边缘原生智能。”

例如英伟达边缘人工智能平台旨在直接在机器人和边缘设备上训练、模拟和部署人工智能模型,为工业、物流和自治系统的实时决策提供支持。高通正在从定制解决方案转向可扩展的人工智能边缘平台,包括对Edge Impulse的收购和Dragonwing AI soc的开发使边缘人工智能更容易被开发人员使用。Arm认为随着边缘人工智能在智能家居、城市、工业物联网、医疗保健和零售等领域实现实时、端侧智能和决策,整个行业转型正在发生革命性变化。

在这背后,“边缘优先”人工智能应用范式的主要驱动因素主要在于三方面,即高效、小型、专业化的人工智能模型的出现,边缘人工智能硬件的进步,以及边缘人工智能在不同行业的融合。徐明还称,“NPU正在推动人工智能时代的计算周期(Computing Cycles)演进,同时其设备规模可达百亿数量级别,远超移动互联网、桌面互联网和PC时代。”

但鉴于边缘人工智能的部署面临一些挑战,成功应用AI芯片需要端到端人工智能解决方案,包括适用于各种应用的可扩展NPU,便于部署的人工智能SDK和工具,用于参考/优化AI模型的Model zoo框架,可互补解决方案的生态系统,以及面向未来的人工智能架构。

对此,徐明强调,Ceva针对性地提出了相关人工智能战略,即通过可扩展的NPU+SDK助力智能边缘,而这一战略的支柱是“连接”“感知”和“推理”。“我们致力于为各行各业提供软件和芯片IP 解决方案,助力客户更快、更可靠、更高效、更经济地将创新的尖端产品推向市场”。其中,在可扩展的NPU系列方面,包括支持从数据中心到边缘设备的AI推理,以及优化超低功耗和实时性能。在全栈集成方面,硬件工具主要有NeuPro NPUs+ SensPro DSP,软件工具主要包括NeuPro-Studio SDK、图形编译器。

进一步来看,Ceva的NeuPro-M和NeuPro-Nano两大产品解决方案,是适用于各种工作负载的全套NPU IP,同时统一的AI SDK易于采用,可广泛应用于预测与维护、健康及健身、物体识别、监控、ADAS和Co-Pilot等应用场景。整体上,根据10GOPS-1TOPS、1-10 TOPS、10-400 TOPS三个不同算力等级划分,Ceva针对性布局了Edge AI – 32-512 MACs、1K-4K MACs和8K-128K产品,使得NeuPro NPU系列支持任何边缘人工智能部署。

徐明还称,在整个行业中,Ceva的NeuPro NPU具备重要的优势和差异化特征,即可扩展性、极致能效比和高度集成性。CEVA针对transformer网络做了原生的支持和优化,特别适合生成式AI。可以实现高吞吐量的人工智能应用,且只消耗最小的功耗——针对Llama 2 和3.2的一些网络可达3500Tokens每秒/瓦的性能。其次,在NPU架构可扩展性方面,单核算力可横跨MCU到高端SoC(10 GOPS - 400 TOPS),以支持音频、视觉、故障检测、智能手机、ADAS等应用。另外,CEVA融合了DSP与NPU,具有传感器数据前处理、AI推理、后处理的统一平台。

在致力于推动边缘人工智能芯片发展的同时,Ceva正利用可扩展的低功耗IP平台,助力客户产品实现数据传输、数据交互等能力,乃至满足各类终端市场关键的应用需求,进而在全球拥有广泛、多元的客户基础并受到全球顶级品牌信赖,其中包括各大小型Fabless、OEM。

基于领先的IP 解决方案和庞大应用基础,Ceva旨在引领芯片和软件IP的未来。徐明表示,“Ceva围绕连接、感知和推理布局的各大产品线已经无处不在,广泛应用于消费物联网、汽车、工业、基础设施、个人电脑和移动终端等领域,并覆盖众多赛道、细分领域的主流品牌。目前,由Ceva提供支持的设备每秒都有超过60个产品在出货,而且Ceva驱动的设备年出货量已超过20亿。迄今为止,采用Ceva的设备已经达到了190亿以上。

相关内容

热门资讯

从河埠小港驶向世界一流 不久前,我带着朋友游览天津市古文化街,他们对天津港集团的“津港印象”展览馆印象深刻。丰富的港口元素和...
新毅东申请光刻机可变狭缝控制相... 金融界2025年7月9日消息,国家知识产权局信息显示,新毅东(北京)科技有限公司申请一项名为“光刻机...
存储空间越来越不够用!1%的P... 据最新的Steam硬件调查结果显示,PC游戏玩家正面临日益严重的存储空间危机。现在游戏是越来越庞大,...
具身智能,A股买壳的“动机”何... 21世纪经济报道记者 赵云帆 上海报道 “智元机器人要‘借壳’”?7月9日晚间,当科创板公司上纬新材...
全球最大直驱型漂浮式风电机组下... 我国漂浮式海上风电取得新突破。 据央视新闻消息,7月10日,由中国华能和东方电气联合研制的17兆瓦直...
深耕基础研究,以“面向未来的耐... 【青春在创新探索中闪亮】 光明日报记者 陈鹏 光明日报通讯员 江盛盈 陈艺娴 开栏的话 创新,是人类...
乘“数”而起——天津培育数字经... 新华社天津7月10日电 题:乘“数”而起——天津培育数字经济发展新优势 白佳丽、杨文、马博文 天津市...
飞书发布业界首个AI应用成熟度... 飞书9日在上海发布了知识问答、AI会议、Aily、飞书妙搭等多款AI新产品,同时还发布了业界首个AI...
鑫德力申请结构紧凑的制动器专利... 金融界2025年7月10日消息,国家知识产权局信息显示,成都鑫德力科技有限公司申请一项名为“一种结构...
湖州无管局:聚焦智能驾驶无线电... 潮新闻客户端 通讯员 许书尧 为进一步规范无线电发射设备生产销售行为,加强无线电设备源头管理,维护良...