买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学技术大学申请的专利一种语义检索的打分函数构建方法及相关装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116226323B 。

龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211435299.4，技术领域涉及：G06F16/334；该发明授权一种语义检索的打分函数构建方法及相关装置是由柳林;张浩宇;宋彦;方四安;吴飞设计研发完成，并于2022-11-16向国家知识产权局提交的专利申请。

本一种语义检索的打分函数构建方法及相关装置在说明书摘要公布了：本申请实施例提供了一种语义检索的打分函数构建方法及相关装置。通过获取文本库文本和查询文本；对所述文本库文本和所述查询文本进行分词获得第一词语集合和第二词语集合，获取所述第一词语集合中每个词语的权重值；将所述第一词语集合和所述第二词语集合输入预训练BERT模型，获得第一词语向量集合和所述第二词语向量集合，根据第三词语集合、所述权重值、所述第一词语向量集合和所述第二词语向量集合确定检索分数，根据第一压缩向量、所述第二压缩向量和所述检索分数确定打分函数，如此，制定了语义检索的模型建模及训练流程，使得多文档语义检索任务的检索效果能够得到明显提升，主要体现在检索效率、检索准确性。

本发明授权一种语义检索的打分函数构建方法及相关装置在权利要求书中公布了：1.一种语义检索的打分函数构建方法，其特征在于，包括： 获取文本库文本和查询文本； 对所述文本库文本和所述查询文本进行分词获得第一词语集合和第二词语集合，获取所述第一词语集合中每个词语的权重值，所述第一词语集合包括多个文本库词语，所述第二词语集合包括多个查询词语； 将所述第一词语集合和所述第二词语集合输入预训练BERT模型，获得第一词语向量集合和第二词语向量集合，所述预训练BERT模型用于将文本中词语的语义信息进行压缩； 根据第三词语集合、所述权重值、所述第一词语向量集合和所述第二词语向量集合确定检索分数，所述第三词语集合为所述第一词语集合中与所述第二词语集合有词语重叠的文本集合； 根据第一压缩向量、第二压缩向量和所述检索分数确定打分函数，所述第一压缩向量用于代表所述第一词语集合的整体语义，所述第二压缩向量用于代表所述第二词语集合的整体语义； 其中，在BERT模型预训练阶段加入虚拟对抗训练和对比学习预训练任务，利用对比学习任务和语料进行大规模预训练，直至训练完成，将训练完成的模型作为所述预训练BERT模型； 利用虚拟对抗训练更新模型中的参数，进行虚拟对抗训练包括： 对于输入序列进行MLM任务训练得到第一概率分布，所述第一概率分布为被MASK替换的字符在词表中的预测概率分布； 获取第一扰动向量，将所述第一扰动向量加入所述输入序列，获得第二输入序列； 将所述第二输入序列再次输入进行MLM任务训练得到第二概率分布； 根据所述第一概率分布和所述第二概率分布确定第一散度Loss和所述第一扰动向量的第一梯度； 根据所述第一梯度对所述第一扰动向量记性更新并正则化处理，得到第二扰动向量； 将所述第二扰动向量加入所述第二输入序列，获得第三输入序列； 将所述第三输入序列再次输入进行MLM任务训练得到第三概率分布； 计算实际输出概率分布和所述第三概率分布的第二散度Loss，并对所述第二散度Loss加上交叉熵Loss，所述交叉熵Loss为实际输出概率分布与被MASK替换的字符one-hot标签向量的交叉熵Loss； 对所述交叉熵Loss和所述第二散度Loss进行加权，得到最终模型的整体Loss； 根据所述整体Loss计算梯度，更新所述BERT预训练模型中的参数； 所述输入序列的生成方式包括： 获取高频词语，将其加入所述预训练BERT模型vocab.txt中； 将输入语句进行分词得到分词结果集合，所述分词结果集合包括若干个分词词语； 遍历所述分词结果集合中的分词词语，响应于分词词语与词表匹配，则保留； 响应于分词词语与词表不匹配，应用分词函数对该分词词语进行分词，对所述分词结果集合中的原分词词语进行替换更新，执行步骤“遍历所述分词结果集合中的分词词语”； 将若干个匹配成功的分词结果有序拼接，生成输入序列。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学技术大学，其通讯地址为：230026 安徽省合肥市包河区金寨路96号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。