综述:建筑行业中文本挖掘技术的发展:基于大型语言模型(LLM)的分析,探讨统计机器学习的主导地位以及LLM在行业内外的应用延迟现象

《ADVANCED ENGINEERING INFORMATICS》:Evolution of text mining in construction industry: an LLM-driven analysis of statistical machine learning dominance and internal-external delayed LLM adoption

【字体: 大 中 小 】 时间:2026年01月15日 来源:ADVANCED ENGINEERING INFORMATICS 9.9

编辑推荐:

  基于LLM的建筑文本挖掘框架演进及驱动因素分析,提出时空分析方法揭示技术路径的非线性特征,发现统计机器学习在建筑领域仍占主导但存在内外双重延迟,建立包含多模态数据的新型分类体系。

  
Jinjing Li|Xianbo Zhao|Haizhe Yu|Lili Gao|Xiaopeng Deng|Bon-Gang Hwang
东南大学土木工程学院,南京 211189,中国

摘要

超过85%的建筑数据仍然属于非结构化数据,这迫切需要文本挖掘(Text Mining, TM)技术。尽管人们已经对TM技术的发展给予了相当多的关注,但在时间序列分析(diachronic analysis)方面仍存在一个关键空白,尤其是在大型语言模型(Large Language Models, LLMs)的背景下对其发展轨迹的探索仍然有限。因此,本研究旨在:(1)构建基于LLM的TM框架用于建筑领域;(2)探讨建筑领域中TM方法的不同演变过程;(3)识别这些演变背后的驱动因素。为了实现这些目标,我们使用了两种基于LLM的TM方法来回顾相关文献。研究结果表明存在双重延迟现象:在内部层面,统计机器学习在建筑行业中仍占据主导地位;而在外部层面,LLM的采用速度比医疗保健和生物医学等领域滞后2-3年。本研究通过引入新的数据源(如引出式话语语料库和多模态数据)并确立基于软件的分析方法,扩展了现有的分类体系。此外,它还解决了基于LLM的TM研究范式中的不足,为实践者提供了更有效的工具选择指导。

引言

建筑、工程与施工(AEC)行业正在经历深刻的数字化转型[1],[2],[3],这一变革的驱动力在于提高效率、生产力和决策质量。在这一过程中,每天都会产生大量的文本数据,包括合同、规范、安全报告和维护日志等。其中超过80%的数据是非结构化的[4],[5],这代表了巨大的、尚未被充分利用的信息资源[6]。从这些海量数据中提取有价值的见解对于行业进步至关重要[7],[8],[9],然而,提取这些见解仍然是一个重大挑战,因此迫切需要先进且准确的文本挖掘工具。
现有的关于建筑领域TM的综述主要从两个角度提供了有价值的见解:一是项目生命周期中的应用层面分析[4],[5],[6];二是算法的技术层面讨论[6],[10],[11]。尽管这些综述具有参考价值,但它们存在一些关键局限性,往往缺乏历史视角,无法捕捉方法论偏好如何随着技术突破而演变。更重要的是,尽管之前的研究考察了BERT(双向编码器表示,Bidirectional Encoder Representations from Transformers)系列模型在特定建筑任务中的应用,但它们并未充分探讨由LLM(特别是像GPT(生成预训练Transformer, Generative Pre-trained Transformers)这样的生成式架构)引发的全面范式转变,后者通过自我监督预训练和多模态集成改变了传统的TM流程[11],[12],[13]。然而,现有文献缺乏对这一颠覆性变化及其对AEC领域文本处理范式深远影响的系统探索。
这些不足引发了几个亟待解决的问题。因此,本研究旨在通过以下目标来解决这些问题:(1)为建筑行业开发基于LLM的TM框架;(2)研究建筑领域中TM方法的演变模式;(3)识别这些演变背后的驱动因素。
为了实现这些目标,本研究建立了一个用于分析AEC领域TM技术演变的新框架。该框架通过开发基于LLM的TM框架来实现目标1;通过揭示一种非线性的、以整合为驱动的演变路径来实现目标2,这一路径挑战了简单线性技术替代的观点。此外,研究结果通过识别领域适应性瓶颈作为驱动因素来实现目标3。这些瓶颈解释了为什么AEC领域的变革相比其他领域更为滞后。本研究扩展了现有的TM分类体系,并阐明了LLM在AEC领域采用速度缓慢的原因在于该行业更重视高精度、确定性的信息结构化,而非生成能力。
本研究的结果提供了对AEC领域TM技术演变的系统理解,为研究人员和实践者提供了选择和调整TM技术的基于证据的指导。这项工作为评估LLM的适用性和局限性奠定了基础,最终有助于在建筑行业更明智、更有效地采用AI技术。

部分内容摘录

建筑领域中TM技术的早期发展

根据以往的研究,建筑领域TM技术的发展呈现出阶段性特征[6]。新技术将逐步取代旧技术。方法的发展阶段如表1所示,该表展示了TM技术方法论演变的关键阶段。
基于规则的方法(M1)作为一种早期的主流方法,使用预定义的正则表达式、语法解析器、关键词匹配规则和专家系统。

方法论

根据上一节中识别出的研究空白,本研究方法分为两个步骤。第一步是收集数据并进行系统清洗。数据收集遵循PRISMA(系统评价和元分析的优先报告条目,Preferred Reporting Items for Systematic Reviews and Meta-Analyses)原则[65]。第二步是利用LLM对收集到的文献进行文本挖掘。随后,通过BERT和GPT架构进行了文献计量分析。

结果

本节分为三个部分。首先讨论了建筑领域中TM相关研究的整体分布。然后从数据来源和方法阶段的角度揭示了时间演变和新发现。为了说明建筑领域与其他领域在TM技术上的差异,还研究了LLM在TM技术中的演变过程。

研究轨迹与学科整合

图3展示了建筑领域TM研究的整体时间演变过程。根据GPT方法的数据集,最早的相关研究发表于2003年。从那时起到2018年,每年的发表论文数量一直保持在较低水平,每年不超过五篇。2019年出现了显著增长,标志着研究活动的转折点。此后几年,相关论文数量持续显著增加。

文本挖掘技术的非替代性演变

本研究通过时间序列分析揭示了建筑领域TM技术的复杂演变过程。基于GPT方法的数据集,主要发现挑战了传统的线性技术进步观点。
统计机器学习(Statistical ML)仍然占据主导地位,2024年的应用占比达到37.5%,显示出其在技术采用中的持续影响力。统计机器学习的持久性源于其处理建筑领域特定数据特征的优越能力。

结论与建议

TM技术正在快速发展,这一趋势需要时间序列分析来帮助研究人员理解当前情况并为未来做好准备。因此,本研究旨在:(1)提出一种专为建筑领域设计的基于LLM的TM框架;(2)绘制建筑领域TM方法论的演变轨迹;(3)基于演变分析提出战略建议。

CRediT作者贡献声明

Jinjing Li:撰写 – 审稿与编辑、撰写 – 原稿撰写、可视化、验证、监督、软件开发、资源协调、方法论设计、调查、形式化分析、数据整理、概念构建。Xianbo Zhao:撰写 – 审稿与编辑、验证、监督、项目管理、调查、形式化分析、数据整理。Haizhe Yu:撰写 – 审稿与编辑、验证、调查、形式化分析。Lili Gao:撰写 – 审稿与编辑、验证、调查、形式化分析。

利益冲突声明

作者声明他们没有已知的可能会影响本文研究工作的财务利益或个人关系。

致谢

本文感谢所有参与数据收集和客观评分过程的参与者。本研究得到了国家自然科学基金(项目编号72171048)的支持。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号