华为技术有限公司侯璐获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉华为技术有限公司申请的专利一种模型蒸馏方法及相关设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113850362B 。
龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202110962700.9，技术领域涉及：G06N3/096；该发明授权一种模型蒸馏方法及相关设备是由侯璐;柏昊立;尚利峰;蒋欣;钱莉设计研发完成，并于2021-08-20向国家知识产权局提交的专利申请。
本一种模型蒸馏方法及相关设备在说明书摘要公布了：本申请涉及人工智能领域，公开了一种模型蒸馏方法，包括：在计算节点集群的第一计算节点处，通过学生模型的部分模型以及老师模型的部分模型，对学生模型进行蒸馏，且在蒸馏的梯度回传过程在第一计算节点的内部进行，不依赖于其他计算节点完成所负责的网络层的蒸馏，以此实现更大的计算资源利用率，进而实现蒸馏过程的加速。
本发明授权一种模型蒸馏方法及相关设备在权利要求书中公布了：1.一种模型蒸馏方法，其特征在于，所述方法应用于第一计算节点，所述第一计算节点部署有第一子模型和第二子模型，其中，所述第一子模型为学生模型的部分模型，所述学生模型还包括与所述第一子模型连接的第三子模型，所述第二子模型为老师模型的部分模型，所述老师模型还包括与所述第二子模型连接的第四子模型，所述第一计算节点与第二计算节点通信连接，所述第二计算节点部署有所述第三子模型和所述第四子模型，所述学生模型进行蒸馏时所采用的数据包括图像数据、文本数据、音频数据中的至少一种，所述方法包括： 获取来自所述第二计算节点的第一输入数据和第二输入数据，所述第一输入数据为所述第三子模型的输出数据，所述第二输入数据为所述第四子模型处理的输出数据； 通过所述第一子模型，处理所述第一输入数据，以得到第一中间输出； 通过所述第二子模型，处理所述第二输入数据，以得到第二中间输出，所述第一中间输出和所述第二中间输出用于确定第一梯度； 根据所述第一梯度，对所述第一子模型进行蒸馏，以得到更新后的所述第一子模型。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华为技术有限公司，其通讯地址为：518129 广东省深圳市龙岗区坂田华为总部办公楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励