国家知识产权局信息显示，中兴通讯股份有限公司申请一项名为“模型压缩方法、电子设备及存储介质”的专利，公开号CN121598998A，申请日期为2024年8月。

专利摘要显示，本申请提供了一种模型压缩方法、电子设备及存储介质，该方法包括：先获取待压缩的第一模型，其中，第一模型包括多个注意力层，每个注意力层包括多个注意力头，然后确定这些注意力层中每个注意力头分别对应的平均注意力距离，接着再基于平均注意力距离对注意力层中的注意力头进行聚类，得到至少一个簇。通过计算并基于注意力头的平均注意力距离进行聚类，能够减少因聚类而导致的关键信息损失。进一步的，将簇中与簇中心距离最近的注意力头作为保留注意力头，并将保留注意力头的参数共享给非保留注意力头。通过选择与簇中心距离最近的注意力头作为保留注意力头进行参数共享，减少了模型参数的数量，从而有效提高了模型压缩的灵活性。

天眼查资料显示，中兴通讯股份有限公司，成立于1997年，位于深圳市，是一家以从事计算机、通信和其他电子设备制造业为主的企业。企业注册资本478353.4887万人民币。通过天眼查大数据分析，中兴通讯股份有限公司共对外投资了103家企业，参与招投标项目11121次，财产线索方面有商标信息1864条，专利信息5000条，此外企业还拥有行政许可207个。

声明：市场有风险，投资需谨慎。本文为AI基于第三方数据生成，仅供参考，不构成个人投资建议。

来源：市场资讯