综述:大语言模型(Large Language Models, LLMs)领域自适应技术及其在岩土工程(geotechnical engineering)中的应用研究
《Solid Earth Sciences》:Domain adaptation of large language models for geotechnical applications
大语言模型(Large Language Models, LLMs)的快速发展正在重塑岩土工程领域的应用前景,该领域的工作流程依赖于复杂且富含文本的数据。尽管通用LLMs展现出强大的推理能力,但其在岩土工程应用中的有效性受限于对专业术语和领域逻辑接触不足。因此,领域自适应(domain adaptation)——即针对岩土工程应用对通用LLMs进行定制化调整——已成为必要需求。本文首次综述了LLMs在岩土工程背景下的自适应调整与应用。研究系统批判性地考察了四种关键自适应策略,包括提示工程(prompt engineering)、检索增强生成(Retrieval-Augmented Generation, RAG)、领域自适应预训练(Domain-Adaptive Pretraining, DAPT)和微调(fine-tuning),并评估了各自的比较优势、局限性及实施趋势。本综述综合了当前涵盖地质解译、地下特征刻画、设计分析、数值建模、风险评估以及岩土工程教育等方面的应用。研究发现,经过领域自适应调整的LLMs在推理准确性、自动化水平和可解释性方面均有显著提升,但仍受数据稀缺性、验证挑战和可解释性不足等因素制约。研究还提出了未来研究方向。本综述为开发具备岩土工程知识素养的LLMs奠定了关键基础,并为研究人员和工程实践者推进岩土工程数字化转型提供了指导。
**引言**
岩土工程构成了现代基础设施开发和自然灾害减缓的基础。该学科本质上具有数据密集型和文本丰富型特征,高度依赖多样化信息源的整合,如地质记录、钻孔日志、实验室测试结果、设计报告和施工文件。这些材料需要复杂的解译、专家判断和情境感知推理,以支持设计计算、建模和决策制定。然而,由于地下条件的空间异质性和不确定性,这一过程往往高度迭代、主观且劳动密集。因此,自动化信息提取、解译和综合的需求日益迫切,尤其随着项目复杂性和数据量的持续增长。
过去十年间,机器学习(Machine Learning, ML)和深度学习(Deep Learning, DL)在岩土工程中的应用发展迅速。然而,这些方法主要基于数值和数据驱动,难以处理岩土工程工作流程中占主导地位的非结构化和半结构化数据。与此同时,人工智能(Artificial Intelligence, AI)的快速发展,特别是大语言模型(LLMs)的出现,引入了机器理解、处理和生成人类语言的范式转变。LLMs建立在具有自注意力机制(self-attention mechanisms)的Transformer架构之上,能够通过利用海量文本语料库中的知识生成连贯且语境感知的响应。通过基于人类反馈的强化学习(Reinforcement Learning with Human Feedback, RLHF)增强后,这些模型现已代表了一种强大的通用认知自动化新形式。
对于以文档密集型工作流程为特征的岩土工程而言,LLMs提供了变革性潜力。它们可以将非结构化数据转换为结构化格式、总结复杂的设计或地质报告、自动化岩土工程解译、辅助设计任务、支持实验规划、执行地球科学分析,并实现AI辅助决策制定。本质上,LLMs提供了弥合语言数据与数值建模之间长期差距的机会,将文本工程知识转化为可操作的计算智能。
尽管有这些 promising 的发展,LLMs在岩土工程中的应用仍处于早期和碎片化阶段。大多数现有研究是探索性的,聚焦于狭窄的、概念验证式应用,而非将LLMs整合到工程工作流程中的系统框架。关键的是,虽然LLMs在通用领域的性能已得到证实,但其在专业工程领域中的有效性高度依赖于模型如何被自适应调整至目标领域。缺乏此类自适应调整,通用模型面临技术内容误读、生成事实错误输出或违反工程逻辑的风险。为解决这一挑战,领域自适应——即精炼通用LLMs以适应特定学科使用——已成为关键研究前沿。然而,尚无全面综述考察这些自适应策略如何为岩土工程应用实施、评估或优化。
**文献筛选与分析**
为识别相关文献,本研究采用两组互补关键词:一组聚焦于模型相关术语("large language model"、"LLM"、"artificial intelligence"、"AI"或"GPT"),另一组聚焦于岩土相关术语("geotechnical engineering"、"geotechnics"、"geoengineering"、"geology"或"soil")。通过组合这些互补术语,在Web of Science、Scopus、arXiv和Google Scholar等多个数据库中进行了全面检索。经摘要人工筛选后,共识别出31项明确涉及LLMs应用于岩土工程任务的研究。出版物数量相对有限可归因于LLM技术相对处于早期阶段,尚未在岩土工程领域实现广泛采用和评价。尽管如此,文献显示出对该主题迅速增长的兴趣:2023年仅1篇,2024年8篇,2025年截至调查时已超过20篇。
为进一步刻画研究格局,研究人员对所选文章摘要中提取的关键词进行了文献共现分析。结果网络揭示了一个多样化且跨学科的研究领域。"model"一词占据中心位置,作为连接多个主题领域的概念枢纽。"domain"和"GenAI"等突出术语强调了该领域对将LLMs自适应调整于特定岩土工程应用的日益重视。
多个明显不同的主题聚类得以识别。一个主要聚类围绕"multimodal data",反映了整合多样化数据类型(如文本、视觉和数值)以支持更全面岩土工程分析的新兴 focus。另一个由"AI assistant"和"application programming interface"锚定的突出聚类代表了开发以用户为导向的工具,将LLM能力操作化用于岩土工程解译和决策支持。"prompt engineering"构成了另一个值得注意的聚类,已成为使LLM输出与岩土工程任务专业要求对齐的关键策略。研究人员越来越多地采用结构化提示来引导LLMs进行数值推理、地质分类和安全关键评估等活动。
**大语言模型的领域自适应技术**
LLMs的开发通常涉及两个阶段。在预训练(pretraining)阶段,模型通过处理大规模文本语料库学习语言结构和通用知识。然而,这些来源很少聚焦于专业岩土工程内容。常见预训练数据集的分析显示,岩土工程和地质内容在典型训练语料中代表性稀疏,因此需要针对有效部署进行领域特定自适应调整。在自适应阶段,模型被定制用于特定应用,使其更适用于岩土工程等领域的实践。
四种主要自适应技术对岩土工程应用尤为相关:提示工程、检索增强生成(RAG)、领域自适应预训练(DAPT)和微调(fine-tuning)。
**提示工程:通过智能查询实现轻量级自适应**
提示工程仍然是最易获取且资源消耗最低的自适应途径。它仅在输入层面操作,不改变内部模型参数,使从业者能够通过精心设计的提示挖掘模型潜在能力。策略范围从显式指令型提示和少样本(few-shot)演示到结构化推理支架如思维链(chain-of-thought)和自一致性(self-consistency)提示。
实证研究一致证明LLM性能对提示表述的显著敏感性。研究表明,任务特定指令提示可将GPT-4的岩土工程问题求解准确率提升至67%,而零样本(zero-shot)和思维链提示分别仅为28.9%和34%。更复杂的范式如思维树(tree-of-thought)推理进一步通过鼓励LLMs在最终确定答案前探索多种推理路径来降低幻觉(hallucination)率。一种特别有前景的增强涉及知识图谱增强提示(knowledge graph augmented prompting),通过在推理过程中动态整合岩土工程实体(如土类型、地质构造、荷载条件)的结构化本体来提供事实依据。研究表明,基于本体的图谱集成显著提高了LLM在隧道施工期间预测不良地质条件的准确率至90%以上。尽管如此,提示工程仍是一种启发式技艺而非系统科学,其有效性取决于用户专长、迭代实验和情境敏感性,这些因素共同限制了可重复性。
**RAG:连接静态模型与动态知识**
RAG代表了一种更有结构的尝试,以补偿LLM固有的知识截止日期(knowledge cutoff)限制。通过整合外部检索机制,RAG系统可以在生成答案前实时"咨询"权威领域参考文献,范围从设计标准到土性参数数据库。这种混合架构将生成过程锚定于可验证的来源,从而增强事实可靠性和透明度。
研究表明,配备精心策划的岩土工程资源库的GPT-4模型在领域测验中达到95%的准确率,显著优于其非RAG对应模型。近期进展将RAG扩展至超越单文档查找。多跳RAG(multihop-RAG)系统被引入,该系统综合多个区域标准中的设计规范要求以进行自动化钻孔布局规划,有效地执行类似于人类专家的多源推理。这种从静态检索到动态综合的演变标志着岩土工程实践中可解释AI的关键进步。然而,RAG框架的有效性受底层知识库特征的约束,如其质量、完整性和持续更新。在高度本地化的情境中,如国家岩土工程规范或场地特定报告,检索错误或过时信息可能直接传播到模型输出中。
**DAPT:构建领域流利度**
Willem
与在推理时作用的提示工程或RAG不同,DAPT在模型的学习阶段操作。DAPT是一种无监督方法,旨在通过继续使用领域特定语料库进行预训练来增强LLM对特定领域的理解。对于岩土工程,此类语料库可能包括教科书、技术手册、设计报告和研究论文。目标是使模型沉浸于该领域的文献中,使其内化岩土工程话语特有的术语、语言模式和隐含概念知识。
通过扩展暴露于领域特定的句法和语义,模型发展出一种"母语流利度",识别如固结沉降(consolidation settlement)或莫尔-库仑参数(Mohr–Coulomb parameters)等表达,不仅作为孤立标记,而是作为有意义的工程构念。研究表明,应用于基于BERT的模型并在岩土工程语料上训练后,DAPT改善了微调前的技术语境理解。DAPT因此可以建立能够更准确、更具情境敏感性地生产和解释文本的岩土工程感知语言模型。尽管计算密集,DAPT在轻量级基于提示的自适应和全规模监督微调之间提供了有前景的平衡。然而,其可扩展性仍受高质量、机器可读的岩土工程信息的可用性以及大规模预训练所需的大量计算资源的限制。
**微调:实现高任务级精度**
微调涉及进一步训练预训练LLM以将其适应特定领域或应用,通常使用标记的任务特定数据集(即监督训练)。与增强通用领域理解的DAPT相比,微调使模型行为与任务特定目标对齐。此过程始于创建包含任务特定输入-输出对的标记数据集。数据集规模可差异很大:虽然广泛的NLP应用可能需要数万个示例,但专门的岩土工程任务通常因领域聚焦的词汇和结构化的知识库而以更小的数据集获得满意结果。这些标记数据随后用于更新基础LLM的参数,利用其通用语言知识作为基础。
微调可在商业云平台(如OpenAI)或本地使用开源框架(如HuggingFace Transformers)进行。云微调提供易用性和可扩展性,但可能对专有岩土工程信息引发数据隐私担忧。反之,本地部署需要更大的计算能力但确保数据机密性。微调后的模型在处理领域特定输入时表现出改进的准确性、一致性和解译深度。代表性示例是GEOBERTje,其结合DAPT和微调构建此领域自适应模型,微调依赖于约2500个标记的岩土分类样本。这种两阶段方法达到了最先进的性能,超越传统机器学习模型和包括ChatGPT-4在内的通用LLM。近期参数高效微调的进展,如适配器层(adapter layers)和低秩自适应(Low-Rank Adaptation, LoRA),通过仅更新一小部分模型参数使这一过程更易获取。
**自适应技术的比较**
四种自适应方法形成了一个平衡成本、复杂性和性能的连续体。提示工程提供即时性和灵活性,但往往缺乏深度和鲁棒性。RAG通过整合外部来源改善事实依据,但其可靠性高度依赖于检索语料库的质量和完整性。DAPT培养领域流利度和情境理解,但需要大规模计算资源。微调虽提供最高任务精度,却需要大量计算资源和标记数据集。在实践中,混合策略正成为最有效的领域自适应手段。例如,结合DAPT与RAG可合并深度情境流利度与可靠的事实检索,而将微调适配器与优化提示集成可产生兼具准确性和适应性的结果。
**大语言模型在岩土工程任务中的自适应与应用**
当前应用中ChatGPT系列仍是最常用的模型,这反映了其作为首个广泛可用商业LLM的地位及其强大的通用性能。在领域自适应技术中,提示工程成为最常被采用的策略,显著多于微调或RAG。这种偏好主要归因于其简单性、可及性和最小技术要求,因其不需要领域特定语料、标记数据集或专门训练基础设施。
相比之下,微调需要大量计算资源、专门专长和高质量领域数据(通常已标记),而这些资源在岩土工程学科内有限。这些约束解释了其在所评述应用中较少使用的原因。RAG方法虽然有效整合外部知识源,但需要结构良好且清洁的语料(如技术标准或设计报告)以及稳健的向量数据库和检索管道,这种额外复杂性主要将RAG限制于实验或研究环境而非常规工程实践。
**地质解译与预测**
LLMs正在通过将非结构化描述与结构化分析表征相链接来转变地质数据的解译。传统上,岩土工程师依赖手动解译钻孔日志、岩芯样本和现场报告,这些过程耗时且易产生不一致。LLMs现在能够实现土类型自动分类、岩性过渡识别以及从叙述文本中结构化提取地下信息。领域特定语言模型的发展进一步增强了解译准确性。例如,GEOBERTje展示了针对特定技术和文化语境(如荷兰钻孔日志)的语言自适应如何实现优于通用模型(如GPT-4和Gemma 2)的结果。GEOBERTje相对于基于Word2Vec和基于规则方法的优势凸显了情境嵌入相对于浅层语言表征在地质文本分析中的强度。这一发现表明,通过在领域语料上微调进行自适应可能比单纯增加模型规模更有效,特别是对于专业岩土工程应用。
除基于文本的解译外,LLMs还在促进生成式地质可视化。研究表明,少样本提示使LLMs能够从有限钻孔数据中重建二维地质剖面。结合自一致性机制和知识引导示例有助于减少推理漂移,这仍是通用模型的主要局限。在预测应用中,LLMs正日益与结构化知识系统集成。GeoPredict-LLM结合多模态数据于基于知识图谱的嵌入空间内,其"提示作为前缀"(prompt as prefix)策略使通用模型能够通过融合符号知识表征与亚符号推理来执行领域特定推理。这代表了从纯文本驱动分析向知识信息型岩土工程智能的转变。
**场地规划**
场地规划是一个固有复杂的过程,整合岩土、法规和环境考量。LLMs正作为智能助手出现,能够综合这些多样化维度以支持半自主决策制定。"Geologist"智能体体现了这一新方向,该系统采用多跳RAG框架,动态检索并跨设计规范、地震分区数据和土分类进行推理,以产生符合法规要求的钻孔采样布局。通过将语义推理嵌入规则解译,该系统弥补了法规文本与工程设计逻辑之间常被忽视的 gap。据报道,多跳RAG达到85%以上的准确率并将信息检索效率提高20%。这种方法代表了从简单文档检索向知识编排的概念性转变,将LLMs定位为不仅作为信息提取器,更作为法规意图的解译者。
**设计计算**
设计计算代表了LLMs整合的关键前沿,其中语言推理与定量精度相遇。近期研究表明,当由结构化提示或RAG系统支持时,LLMs能够以显著准确性辅助地基承载力和沉降分析。GeoLLM将自然语言推理与数学工具集相集成以自动化单桩设计工作流程,其优于较小商业模型的表现展示了模型规模的影响力,同时也揭示模型规模本身并不能保证无领域自适应时的提高准确性。类似地,研究发现当在引用API RP 2A标准的紧密结构化约束内提示时,ChatGPT能可靠地生成基于代码的计算,但在自然语言中直接执行这些计算时会产生错误。这一区别凸显了语言流利度与数值精度之间的根本界限。
RAG增强系统提供了有效替代方案。研究表明,将LLMs与策划的技术标准和设计指南库耦合显著改善了解译准确性,这表明针对性情境检索比完全重新训练提供了更可持续的模型自适应策略,特别是在法规环境快速演变的情况下。多-GeoLLM(multi-GeoLLM)进一步推进了这种方法,这是一种基于智能体的多模态框架,整合视觉和文本数据进行基础设计。该系统不仅增强了计算准确性,还引入了协作式多智能体结构,在专门子模型间分配任务,反映了AI中模块化架构的更广泛趋势。
**数值建模与模拟**
LLMs融入数值建模提供了通过降低编码门槛和增强生产力来使模拟开发民主化的重要潜力。LLMs能够将自然语言问题描述转化为用于有限元或有限差分分析的可执行脚本,这一任务传统上由经验丰富的程序员完成。GeoSim AI等框架展示了LLMs如何作为岩土工程意图与数值模型语法之间的智能中介,显著减少建立边坡稳定性或渗流模拟等分析所需的时间。然而,实现此类准确性仍需迭代的人工审查和调试。
这些研究的比较表明,LLM有效性与建模环境的抽象水平相关。FEniCS等域特定工具需要较少详细指导,而MATLAB等通用编程平台需要更结构化的提示和专家监督。因此,LLMs最直接的价值在于代码支架和工作流加速,而非完全自主建模。超越代码生成,混合系统正在出现,将LLMs与基于知识的框架相集成。KG-LLM(Knowledge Graph-LLM)体现了这一趋势,将LLMs嵌入物理信息知识图谱中以支持预测性模拟,如估计灌浆参数。另一增长中的应用涉及合成数据生成,研究表明LLMs如何能够增强有限的场地特定数据集以提高模型鲁棒性,但这种方法引入了与数据溯源、偏差传播和不确定性管理相关的重要挑战。
**灾害与风险评估**
LLMs正日益应用于岩土工程灾害评估,特别是在隧道和滑坡易发环境中。通过整合文本、视觉和数值数据,这些模型实现了早期灾害检测和更自适应的风险管理方法。例如,研究人员使用Google Gemini结合定制提示来改进地下建设中岩爆(rockburst)强度等级分类的准确性。多模态LLMs能够将视觉施工场景与安全协议以高情境相关性和推理保真度相关联,但其准确性仍对提示的具体性敏感。
更结构化的框架如QASTRisk将GPT-4.5与隧道风险知识图谱相结合,通过回答基于事实的问题来识别施工前阶段的风险。据报道,该方法达到97%的精确率、94%的召回率和95%的F1分数,显著优于传统风险识别方法。知识图谱的整合支持语义可追溯性和基于查询的可解释性,这两者对于法规接受度和可审计性至关重要。多模态方法和知识图谱导向方法之间的比较揭示了重要权衡:视觉模型增强情境感知和情境理解,而符号系统提供推理和决策逻辑的透明度。这些范式的融合可能产生能够感知、阅读和推理的统一模型。
此外,对话智能体用于社区参与代表了LLM部署中常被忽视的一个维度。研究表明,聊天机器人能有效向非专业受众传达安全信息,将岩土工程知识传播扩展至专业社区之外,促进更广泛的公众对风险和韧性的理解。
**岩土工程教育与培训**
教育为岩土工程中LLMs的采用提供了最自然和即时的背景之一。其对话性质和适应性使其成为个性化辅导、内容创建和知识转化的有价值工具。调查结果显示LLMs在学术写作和编码任务中的广泛使用,但在动手分析工作中的使用相对有限,这反映了概念理解与应用技能发展之间持续存在差距。检索增强GPT-4在岩土工程测验中的强劲表现展示了这些模型作为智能辅导系统的潜力。然而,概念推理中的持续弱点强调了继续需要人工监督。
创新下一阶段在于开发自适应学习生态系统,其中LLMs实时评估学生理解并生成定制化学习任务而非静态答案。将检索增强LLMs嵌入学习管理系统可实现可扩展且个性化的岩土工程教育。在专业培训中,LLMs也正被证明是有价值的知识中介。研究表明了它们在文献综合、报告起草和法规文件解译中的价值。尽管有这些益处,教育中对LLMs的过度依赖可能侵蚀岩土工程实践核心的基本分析严谨性和创造性问题解决能力。因此,挑战不仅在于有效使用LLMs,还在于设计培养对其局限性的批判性意识和促进负责任整合到工程教育中的课程。
**讨论:工程实践中的领域自适应挑战**
对于个体从业者,提示工程为自适应LLMs处理常规岩土工程任务提供了相对可及的途径。然而,开发有效的领域特定提示需要技术熟练度和深厚的学科知识。如近期研究所示,这一过程可能耗时且易出错,对于需要耦合物理过程复杂理解或复杂领域相互依赖的任务往往不足。虽然RAG可以改善提示质量,但验证检索文档的准确性和相关性并将其有效整合到系统中需要许多个体工程师可能不具备的大量领域专长。更高级的策略如预训练或微调 poses 更大障碍:策划高质量岩土工程数据集并将模型定制到专门任务需要通常超出个体工程师能力范围的技术能力和资源。
组织可能面临类似甚至放大的挑战,特别是对中小型企业而言。实施和维护稳健的、情境感知的检索基础设施是资源密集型的,尤其当系统必须支持实时、项目规模应用时。此外,预训练和微调模型可能需要随着项目要求和法规标准演变而进行持续更新,这一持续重新训练过程带来重大运营成本。额外担忧源于对基于云平台的依赖,包括数据机密性风险、知识产权保护以及缺乏规范AI辅助工程工作流程的明确专业或监管指南所带来的不确定性。因此,组织在岩土工程实践中部署和维持基于LLM的系统时面临技术和管理双重挑战。
因此,机构准备度和人机整合方面存在 persistent gap。一方面,"Geologist"智能体和多智能体多-GeoLLM框架等系统证明,生产性的人机协作在技术上是可实现的。另一方面,岩土工程组织中的个体从业者可能不具备有效使用此类系统所需的双重专长:他们必须掌握岩土工程基础,同时理解提示工程、情境检索和LLMs固有局限。正如研究所强调的,负责任部署不仅取决于技术能力,还取决于制度方法和用户培训。该领域因此面临不仅是技术性而且是制度性的挑战:没有治理框架、验证协议和培训机制使工程师能够批判性评估AI生成输出的情况下,LLMs将仍局限于实验领域,而无法成为岩土工程实践的完全整合组成部分。
**LLMs在岩土工程任务中的技术挑战**
尽管近期发展表明领域自适应LLMs能够执行广泛的岩土工程任务,其整合到实践中仍受若干相互关联的技术挑战约束。证据跨越所评述研究突出了三个主要关注领域:
首要且最关键的挑 challenge 关乎事实可靠性和数值严谨性。诸多研究报告称,尽管产生流利且情境适当的响应,LLMs仍持续产生幻觉和在推理中漂移。在地质解译中,研究人员观察到其领域自适应模型在生成地质剖面和地层过渡时频繁出现推理错误和随机行为,即使错误输出对非专家显得可信。类似地,研究发现当在引用API RP 2A标准的紧密结构化约束内提示时,ChatGPT能提供更准确的、符合代码的答案,但在自然语言中要求执行计算时产生大量数值错误。这些研究表明,领域自适应相对于现成模型改善了性能,但与常规工程方法相比许多情况下仍存在显著性能差距。
第二个共同问题是可重复性(reproducibility),这是工程问责制的核心。研究记录了ChatGPT在处理涉及风险和不确定性的复杂问题时的不一致响应,这一问题在地质剖面生成中得到呼应。为解决这种变异性,研究人员探索了微调域特定模型如"GEOBERTje",或开发检索增强和基于知识图谱的系统,将模型推理与外部权威知识源相链接。尽管有这些进步,记录提示情境、检索来源和推理链的标准化机制在当前研究中仍然缺乏。没有此类机制,LLM生成输出无法满足设计验证或工程审计所需的证据标准。
第三个挑战源于数据稀缺性、异质性和不确定的来源。岩土工程数据集通常稀疏、高度场地特定且格式不一致。钻孔日志、实验室报告、现场照片和设计图表以混合文本、表格和图形形式呈现,难以在单一模型输入空间内对齐。这种碎片化阻碍了微调和稳健检索自适应。鉴于岩土工程安全评估依赖于可验证和可追溯的数据,数据集的来源和验证必须成为任何LLM辅助工作流程的显式组成部分。
**未来工作**
基于当前进展,未来研究应超越学术概念验证演示,向LLMs在岩土工程实践中系统化、可验证且伦理上稳健的整合演进。以下研究方向被提出以指导这一演进:
大多数现有研究在学术环境中进行,但持续进步将依赖于研究机构、专业学会和软件开发者之间的协调努力。此类合作需要建立共享基准、验证协议和数据治理框架,使LLMs从孤立原型成熟为工程工作流程中可靠且可审计的组成部分。工程公司和专业组织开发标准化培训项目以装备从业者实施AI所需的知识和技能,同等重要。
未来研究还应优先设计以人为中心的界面和治理结构,将原始AI能力转化为可信赖的工程工具。"Geologist"智能体和Chen等人、Reddy与Janga的教育研究工作凸显了透明、交互式系统的价值,这些系统支持迭代的人机协作而非被动接受模型输出。视觉提示构建器、推理可视化和置信度指标可以增强可解释性和用户信任。下一代工具应支持动态交互,允许工程师优化模型输出并检查可解释的、补充量化不确定性的中间推理。
另一优先事项是保证数值严谨性的LLM-求解器架构协同设计。Xu等人和Kim等人的研究表明,将LLMs与数学工具集或域特定编程库集成可减少相对于LLMs纯生成推理的数值错误。未来工作应通过标准API形式化这些集成,将自然语言查询转化为经既定求解器验证的可执行公式。
可追溯检索系统和知识图谱框架的进步也至关重要。多-GeoLLM和KG-LLM研究表明,将模型推理锚定于结构化知识可改善准确性和可重复性。未来研究应建立土、材料、实验室测试和设计规范的共享本体,并将来源元数据直接嵌入模型输出以支持可审计性和法规接受如云。
另一主要方向是共享基准、数据集和评估标准的开发。当前进展受碎片化的数据来源和缺乏统一评估实践的阻碍。创建多语言、多模态基准数据集将实现跨模型的客观性能比较。这些数据集应伴随提示、检索模板和评估脚本的开源库以促进透明度和可重复性。ω
研究还应推进多模态数据融合,其在地质可视化、安全评估和地质灾害预测中已显示前景。未来工作应开发自适应对齐技术,协调文本、视觉和数值信息的同时保留岩土工程不变量,从而近似人类专家实践的整合推理。此外,最初为自然语言处理开发后来扩展到视觉域的深度学习技术也可应用于图像解译。
基于早期工作,用于领域自适应的合成数据生成代表了另一重要研究前沿,尤其在数据稀缺情境中。此类合成数据集应基于物理模拟器生成,并附带描述生成程序、验证检查和不确定性界限的元数据。
轻量级、边缘可部署LLMs的开发也应受到关注,用于实时和安全关键应用。如Kamran等人和Isah与Kim的风险评估框架所说明的,现场智能可改善灾害检测和响应时间。为本地操作优化的紧凑高效模型将在隧道和边坡监测等连接受限环境中实现预警系统。
迄今为止,大多数研究聚焦于复制传统岩土工程任务如分类、设计和安全评估。未来工作应扩展至跨学科智能,利用LLMs广泛的知识库将岩土工程与环境、生物和材料科学整合。生物岩土工程和生态水文建模等新兴领域为这种跨学科整合提供了特别有前景的机会。
**结论**
LLMs正开始重新定义岩土工程的格局,为自动化数据解译、促进数值建模、支持设计和风险评估以及通过智能辅导系统增强知识转移提供前所未有的能力。所评述文献表明,自适应LLMs——特别是ChatGPT系列——已迅速成为岩土工程工作流程中可及且多用途的工具。在现有自适应策略中,提示工程目前占主导地位,因其简单性和低计算需求,而更复杂的技术如微调、RAG和DAPT正随着研究人员追求更深层领域整合而获得关注。
在所调查研究中,领域自适应LLMs在生产率、自动化和解释准确性方面展示了可测量的益处。当用于生成和执行计算代码而非直接执行数值计算时,这些LLMs实现了显著提高的可靠性,说明了它们作为推理辅助而非自主分析引擎的实力。这些发现强调了适当任务对齐的重要性——LLMs应该补充而非替代既定分析工作流程,确保其生成能力在领域专家指导下得以利用。
本综述表明,岩土工程中LLM使用的前沿正从任务特定实验走向系统集成:将自然语言推理与数值求解器、知识图谱和多模态数据流耦合。这种混合智能系统承诺一个更可解释且协作的工程学新时代,人类和机器共同构建和验证对地下的解译。然而,自适应LLMs在岩土工程中的部署仍处于早期和探索阶段。当前挑战包括高质量领域数据的有限可用性、验证协议不足以及对其事实可靠性、数值严谨性和可重复性的持续关切。为从业者提供适当培训对于LLMs在工程实践中的成功和伦理应用也至关重要。没有系统基准、透明评估框架和充足培训,LLM驱动决策在安全关键情境中的鲁棒性仍不确定。
因此,未来研究应聚焦于通过结合各种增强技术和/或多模态嵌入的混合自适应管道构建具有岩土工程知识素养的LLMs。建立共享数据集、开放基准和模型审计标准对于培养专业实践中的信任、问责和采纳至关重要。与水文地质学、地球物理学和生物岩土学等相关领域的跨学科整合将进一步扩展其分析范围。