中兴通讯申请模型压缩方法专利,有效提高模型压缩的灵活性
创始人
2026-03-06 05:03:47
0次

国家知识产权局信息显示,中兴通讯股份有限公司申请一项名为“模型压缩方法、电子设备及存储介质”的专利,公开号CN121598998A,申请日期为2024年8月。

专利摘要显示,本申请提供了一种模型压缩方法、电子设备及存储介质,该方法包括:先获取待压缩的第一模型,其中,第一模型包括多个注意力层,每个注意力层包括多个注意力头,然后确定这些注意力层中每个注意力头分别对应的平均注意力距离,接着再基于平均注意力距离对注意力层中的注意力头进行聚类,得到至少一个簇。通过计算并基于注意力头的平均注意力距离进行聚类,能够减少因聚类而导致的关键信息损失。进一步的,将簇中与簇中心距离最近的注意力头作为保留注意力头,并将保留注意力头的参数共享给非保留注意力头。通过选择与簇中心距离最近的注意力头作为保留注意力头进行参数共享,减少了模型参数的数量,从而有效提高了模型压缩的灵活性。

天眼查资料显示,中兴通讯股份有限公司,成立于1997年,位于深圳市,是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本478353.4887万人民币。通过天眼查大数据分析,中兴通讯股份有限公司共对外投资了103家企业,参与招投标项目11121次,财产线索方面有商标信息1864条,专利信息5000条,此外企业还拥有行政许可207个。

声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

来源:市场资讯

相关内容

热门资讯

玩家必看科普!!WPK辅助器,... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
玩家必看教程!!wpk透视辅助... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
玩家必知教程!!wepoker... 玩家必知教程!!wepoker数据分析,微扑克到底有没有透视挂下载(原先真的有透视挂)AI 是一款可...
总结教程!wpk俱乐部怎么作弊... 您好:wpk俱乐部怎么作弊这款游戏可以开挂的,确实是有挂的,很多玩家在这款游戏中打牌都会发现很多用户...
技术分享!!wepoker俱乐... 技术分享!!wepoker俱乐部辅助,wepoker到底有没有透视挂工具(起初真的是有辅助挂)主打本...
热门推荐!wepoker底牌透... AI 黑科技赛道又上新,这款智能处理工具堪称效率开挂,专门面向短视频创作者打造。它打通脚本撰写、AI...
终于知道!!wepoker免费... 终于知道!!wepoker免费脚本咨询,微扑克透视软件助手(最初真的有辅助)主打本地运行的 AI 黑...
记者揭秘!wepoker破解游... 很多人使用云端 AI 时,都担心wepoker破解游戏盒子、内部资料上传带来隐私风险。这款本地运行的...
科普!wpk辅助插件,德普之星... 一款 AI 游戏攻略黑科技工具上线,查攻略效率直接开挂。它整合版本更新、装备搭配、BOSS 打法、牌...
总算了解!!wepoker透视... 您好,总算了解!!wepoker透视功能下载,wepoker真的有透视吗安装(果然是真的有辅助挂)这...