华中科技大学姚德中获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华中科技大学申请的专利一种边端协同深度学习计算加速系统及方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116341624B 。
龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310346947.7,技术领域涉及:G06N3/0464;该发明授权一种边端协同深度学习计算加速系统及方法是由姚德中;赵思凡;金海设计研发完成,并于2023-03-31向国家知识产权局提交的专利申请。
本一种边端协同深度学习计算加速系统及方法在说明书摘要公布了:本发明涉及一种边端协同深度学习计算加速系统及方法,所述系统包括至少一个终端设备1和至少一个边缘服务器2,所述终端设备1被配置为:在进入至少一个所述边缘服务器2的服务范围的情况下,基于自身第一配置信息和所述边缘服务器2的第二配置信息确定深度学习模型的层间分区和或层内分区的策略;所述边缘服务器2被配置为:响应于推理请求信息,执行所述深度学习模型的层间分区和或层内分区的策略以进行协同推理。本发明采用基于工作负载的随机森林方法预测DNN模型执行时间,预测结果更加准确。
本发明授权一种边端协同深度学习计算加速系统及方法在权利要求书中公布了:1.一种边端协同深度学习计算加速系统,包括至少一个终端设备和至少一个边缘服务器,其特征在于, 终端设备被配置为: 在进入至少一个边缘服务器的服务范围的情况下,基于自身第一配置信息和边缘服务器的第二配置信息确定深度学习模型的层间分区和层内分区的策略; 其中,基于预先训练完成的随机森林模型预测深度学习模型各个层的推理执行时间,基于ILP算法决策层间切分点位置的集合,最小化终端设备和边缘服务器之间的推理总时间; 基于强化学习算法和层内分区策略,决策层内切分点位置的集合,最小化边缘服务器之间的推理时间; 边缘服务器被配置为: 在终端设备连接边缘服务器后,边缘服务器向终端设备发送CPU占用率,从而终端设备得到边缘服务器的负载情况,执行ILP算法;将深度学习模型DNN进行层间分区卸载; 响应于终端设备的推理请求信息,边缘服务器接收到由终端设备卸载的至少一个分区,判断执行推理时间是否满足用户需求,执行深度学习模型的层间分区和层内分区的策略以进行协同推理;在执行推理时间满足用户需求的情况下,开始响应并执行用户的推理请求;在执行推理时间不满足用户需求的情况下,执行强化学习算法;多个边缘服务器进行并行层内分区; 在边缘服务器合并输出结果后,至少一个边缘服务器向终端设备返回深度模型推理结果; 深度学习模型的层内分区的策略包括:按照深度学习模型的神经网络的至少一层的内部结构切分,使得被切分后的至少两个分区并行地部署在对应的边缘服务器上。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华中科技大学,其通讯地址为:430000 湖北省武汉市洪山区珞喻路1037号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励