《World Patent Information》:AI-based prior art search: Semantic patent clusters and evaluation infrastructure
编辑推荐:
Boris Genin|Alexander Gorbunov|Dmitry Zolkin|Igor Nekrasov•文中介绍了用于研究人工智能在现有技术检索中应用的基础设施。•文中提出了专利文件中语义簇的概念。•文中描述了一种用于生成语义簇数据集的工具。•文中介绍了一种用于评估
Boris Genin|Alexander Gorbunov|Dmitry Zolkin|Igor Nekrasov
- •
文中介绍了用于研究人工智能在现有技术检索中应用的基础设施。
- •
文中提出了专利文件中语义簇的概念。
- •
文中描述了一种用于生成语义簇数据集的工具。
- •
文中介绍了一种用于评估现有技术检索质量的工具。
- •
文中为美国和俄罗斯的专利数据建立了语义簇数据集。
引言
随着人工智能方法和工具的不断发展,人们又开始了在特定领域构建自动现有技术检索系统的努力。要取得成功,关键在于为机器学习创建并确保有大量可用数据集。
现有技术检索是专利审查中最核心且最耗时的任务[1,2],其质量直接影响关于发明是否具备可专利性的判断结果。同时,由于专利数据库规模庞大,且技术描述具有复杂的语义特征,即使是有经验的专家也很难避免遗漏相关文档,这一问题已得到广泛认可[[3], [4], [5]]。
从形式上讲,现有技术检索的任务是找出所有与发明申请所涉及的领域相关的专利文档。但与许多信息检索任务不同,这类任务并没有客观、标准化的相关性评判标准:确定哪些文档真正能体现现有技术仍需依靠专家的判断力以及对技术本质的深刻理解[6,7]。目前这类问题尚无成熟的算法解决方案,但近年来,人们已开始运用人工智能方法,尤其是监督式机器学习来解决这一问题[3,8]。一些基于深度神经网络和变换器的现代方法,如SEARCHFORMER,能够构建专利文档的语义表示,从而依据发明之间的相似性进行检索,而无需仅仅依赖关键词或分类代码[9]。虽然SEARCHFORMER相比传统方法有所改进,但它仍未完全解决专利检索的核心难题,即无法实现从文本相似度到对发明技术本质的理解,达到与人类专家相当的水平。
专利领域作为人工智能应用领域的优势之一,就是拥有大规模、高质量的训练数据。数以百万计的专利文献中包含了专利局审查员编制的正式检索报告。这些报告以及INID(56)字段中的引用信息,可作为“正确”检索结果的标记,可用于训练和评估自动检索系统,且不会侵犯版权[10]。
本文提出了一种统一的方法来解决两个相互关联的问题:
- ?
为现有技术检索系统的机器学习创建可扩展的数据集;
- ?
评估此类系统进行的现有技术检索的质量。
该方法的基础是专利文档的语义簇概念,即一组描述与某项申请相关的所有发明的文档。通过利用审查员的引用信息和专利家族,这些语义簇使得检索结果的评估可以从文档层面提升到发明层面。
本文介绍了作者们开发的研究基础设施,其中包括:
- ?
一种基于美国和俄罗斯专利库的可配置语义簇数据集生成工具;
- ?
一种用于自动评估检索质量的工具,该工具采用专门设计的指标(S@K、H@K、MPF@K、MRF@K),能够考虑语义簇的结构特征。
这一基础设施不仅解决了为检索系统的训练和测试准备数据的实际问题,还能对所使用的人工智能模型的智能水平进行客观评估,因为要成功解决现有技术检索问题,需要理解发明的技术本质,而不仅仅是进行表面上的文本比对。
章节摘录
用于机器学习的可配置数据集的自动化生成
首要且最重要的问题是机器学习所需的数据集。已有许多研究文献[[11], [12], [13], [14], [15], [16]]致力于机器学习数据集的创建与应用,以及专利检索系统的测试。
最近出现了新的数据来源,比如美国专利商标局的开放人工智能专利数据集“人工智能专利数据集(USPTO)”[13],其中包含按人工智能技术组件分类的1300多万份专利文献。该数据集旨在用于训练检索系统
讨论
本文提出的用于生成数据集及评估专利检索质量的基础设施,能够轻松创建包含专利文档的语义簇数据集,这些文档是自动现有技术检索系统应当识别并加以考虑的。重要的是,该基础设施还包含一种工具,在评估自动检索系统时,会综合考虑描述相关内容的文档数量
结论
本文研究了为专利申请进行自动现有技术检索的相关问题。作者认为,解决这一问题的方法在于尽可能让自动专利检索的结果与专利申请附带的检索报告中所体现的审查员检索结果保持一致。
文中提出了“专利文档的语义簇”概念。这类簇包含了描述构成某一发明的专利文档
资金支持
本研究未获得公共部门、商业机构或非营利组织提供的任何专项资助。
CRediT作者贡献说明
Boris Genin:概念构思、研究设计、方法开发、验证分析、结果可视化、初稿撰写、审稿与修改。 Alexander Gorbunov:概念构思、形式化分析、资金筹集、方法设计、项目监督、初稿撰写、审稿与修改。 Dmitry Zolkin:资金筹集、研究实施、项目管理、资源协调。 Igor Nekrasov:软件开发、验证分析、结果可视化。
Boris Genin博士是俄罗斯联邦工业产权局信息检索系统设计部门的高级研究员。他的研究方向包括基于人工智能的现有技术检索、专利检索系统的评估方法,以及基于专利文档语义簇概念的机器学习数据集构建。