《Journal of Intelligence》:Evaluation of Large Language Models as Tools, Models, and Partners in Creative Thinking Research: A Selective Narrative Review with the GCA Framework
创造力研究面临三个持续存在的瓶颈:发散性思维评分劳动密集,创造力认知模型描述不足,实验室任务远未达到现实世界的创造性成就。大语言模型(LLM)提供了潜在解决方案,但该领域缺乏评估它们的结构化框架。本选择性叙述性综述(2018年1月–2026年6月)应用了生成–能力–评估(GCA)框架,其三个轴通过描述性标准和暂定启发式阈值进行操作化。在生成轴上,在大多数独立比较中,LLM在发散性思维任务上的表现超过人类平均水平(Hedges' g ≈ 0.5–2.6),这一优势受到流畅性依赖性、大规模下表现最佳人类的优越性以及新颖性–典型性权衡的限制。在能力轴上,LLM模拟了某些任务水平的联想行为,并能为人类研究生成假设,但没有证据表明它们实现了类似人类的创造性机制。在评估轴上,自动评分在特定语言和任务中显示出有前景的信度和聚合效度(选定研究中ICC ≥ 0.80,r ≥ 0.70),但跨语言推广基本未经验证,个体水平的使用也不受支持。人机共创造力可能受益于劳动分工,尽管社会–情感维度可能比认知支持更重要。研究人员提供了GCA报告协议并确定了研究优先事项。
**1. Introduction**
创造性思维定义为产生既新颖又有用的想法的能力。该领域已有双过程模型、联想理论和Geneplore模型等理论框架,但存在三个瓶颈:发散性思维任务的人工评分费时费力、认知模型在计算层面规格不足、实验室任务脱离现实创造力。LLM(如GPT-4、Claude、LLaMA)可快速生成大量反应并计算语义距离分数,但文献零散且结果矛盾。本文提出生成–能力–评估(GCA)框架,三条轴分别评估LLM作为创意生成器、认知模型和评估工具,并设置暂定启发式阈值(如原始性Cohen's d ≥ 0.50,信度ICC ≥ 0.80,语义效度r ≥ 0.70)。全文区分行为表现主张与心理过程主张。
**2. Literature Selection Strategy and Methods**
检索了PubMed、PsycINFO、Web of Science、Scopus和arXiv,时间窗为2018年1月至2026年6月,使用三组关键词(创造力、LLM、评估)以AND连接。纳入标准:明确使用LLM作为工具或研究对象、涉及GCA框架中至少一个创造力维度、英文同行评议文献或高质量预印本。排除非LLM系统、非操作化创造力概念及无原创贡献的编辑评论。最终纳入104篇论文,其中79篇被引用。该综述为选择性叙述性综述,未进行定量荟萃分析,效果量逐研究报告。
**3. Foundations of Creative Thinking and the Rise of LLMs**
**3.1 Theoretical Frameworks of Creative Cognition**
创造力理论收敛于三个核心运算:联想检索、受控注意和迭代评估。双过程模型区分发散与聚合思维,联想理论将个体差异定位于语义记忆组织,Geneplore模型强调生成与探索循环。这些框架为评估LLM是否可作为有效认知模型提供了基础。
**3.2 Neurocognitive Architecture of Human Creativity**
神经影像识别出默认模式网络(DMN)与执行控制网络(ECN)的双过程神经架构,突显网络介导两者切换。该架构为LLM的生成–评估动态提供了启发式类比:DMN对应自发联想,ECN对应受控评估,但类比并非精确对应。
**3.3 Transformer Architectures as Associative Engines**
Transformer的自注意力机制计算上下文相关权重,实现联想检索,与人类语义记忆中的扩散激活类似。扩展假说认为更大模型可能形成更平坦的联想层级,从而更易访问远距离联想,这与Mednick理论相呼应。但注意是启发式比较,注意力是确定性计算,人类激活是随机且受神经调制的。
**4. LLMs as Creative Idea Generators**
**4.1 Benchmarking LLM Creativity on Standard and Alternative Tasks**
GPT-4在替代用途任务(AUT)、后果任务和发散联想任务上显著超过人类平均水平,但匹配是事后进行的。图形式解释任务(FIQ)中,AI平均灵活性更高,但人类主观创造力评分更高,且人类最佳反应超过AI最佳反应。LLM优势是任务特定的,在叙事类任务中表现不佳。科学想法生成基准(LiveIdeaBench)显示创造力与通用智能分数相关性低。
**4.2 Prompt Engineering and the Controllability of Creative Output**
提示工程是影响创造力的关键变量:措辞、示例和响应格式影响新颖性、多样性和适当性。提示敏感性普遍存在,但受控实验估计仍缺乏。创造性输出是模型–提示交互的函数,GCA框架建议完整报告提示词、模型版本、温度和响应数量。
**4.3 The Novelty–Typicality Trade-Off and Decoding Strategies**
LLM训练目标最大化下一个词元概率,偏好典型输出,与创造力定义中的新颖性存在张力。解码策略(温度、核采样、互信息最大化)调节该权衡。收敛输出会导致语义相似但表面不同的想法,重复提示时尤为明显。
**4.4 Evidence Against Attributing Creativity to LLMs**
反对归结创造力的三大支柱:缺乏意向内容(随机鹦鹉论点)、缺乏有意识评估、缺乏具身体验。人机协作研究中,社会互动质量而非认知效用预测积极情感体验,而这与聚合思维相关。LLM无法参与享有人类合作构成性意义的情感和社会维度。
**4.5 Contradictory Findings and Boundary Conditions**
三个系统性矛盾:流畅性依赖(事后匹配的优势大于预期匹配)、峰值绩效(最优秀人类超过最佳AI,规模上GPT-4未超过前50%人类平均值)、跨任务变异性(AUT表现不能推广到其他任务)。效应量(Hedges' g)在0.52到2.61之间,均超过d ≥ 0.50阈值,但峰值比较方向相反(g = ?0.88、?1.31)。这些边界条件使LLM优势是真实的但有条件的。
**5. LLMs as Cognitive Models of Creative Thought**
**5.1 Marr’s Levels Applied to LLM Creativity**
在计算层面,LLM和人类都解决开放提示下生成适当且新颖反应的问题;在算法层面,自注意力对应联想检索,解码策略对应受控生成;在实现层面,存在根本差距:确定性前馈计算与递归随机神经计算的差异。
**5.2 Empirical Evidence for and Against LLMs as Cognitive Models**
正面证据:LLM复制了联想层级随规模增加的平化现象,以及语义访问的上下文依赖性。负面证据:无法复制洞察(顿悟)、孵化效应和有意识评估。个体差异变量(开放性、工作记忆、语义结构)与LLM行为的映射不一致。LLM是部分联想模型,而非全面认知模型。
**5.3 Simulation Versus Instantiation: A Methodological Framework**
模拟指LLM输出类似人类创造行为但内部机制不类似;实例化指内部机制与理论过程有意义地类似。目前有模拟证据,如非线性关联与倒U型关系,但实例化证据缺乏。GCA框架默认模拟立场,实例化主张需明确机制对应和Marr层次。
**6. LLMs as Automated Creativity Assessment Tools**
**6.1 Semantic Distance as a Computational Proxy for Originality**
基于Transformer的嵌入已取代潜在语义分析。聚合效度(与人类原创性评分中等到强相关)、区分效度(与原创性相关强于流畅性)和效标效度均有支持。语义效度阈值r ≥ 0.70,但相关不等同于一致,个体水平评估不受支持。
**6.2 Automated Scoring Systems for Divergent Thinking**
工具包括OCSAI、CreaScorer(德语)、TransDis(中文)等。LLM评分相对传统方法有改进,ICC可达0.80以上。跨语言推广需要校准,报告ICC形式、置信区间和重复性条件。
**6.3 Cross-Cultural Validity and the Cross-Linguistic Reliability Gap**
跨语言可靠性差距存在,但配对比较缺乏。嵌入模型以英语为主,可能忽略文化特异性。部分标量不变性仅见于流畅性,原创性不成立。文化公平性要求构造等价性证据,叙事和艺术创造力需要混合方法。
**7. Human–AI Co-Creativity and Collaborative Ideation**
**7.1 Mechanisms of Effective Human–AI Creative Collaboration**
劳动分工模型:AI扩展生成空间,人类评估判断。ChatGPT辅助提高创意,但人–人组合优于人–AI组合,且生成式AI提高个体创造力但降低集体多样性。感知认知支持不直接预测创造力,社会互动质量与积极情感相关且涉及聚合思维。COFI框架提供设计维度。
**7.2 Anchoring Effects and the Homogenisation Risk**
AI建议作为认知锚,缩小后续人类想法;存在对AI创造力的偏见、个体固化、模型内提示排序效应和集体多样性损失。风险在不同分析层面运作。缓解措施包括延迟AI输入、随机排序、将AI建议视为出发点,并根据任务复杂性调整。
**8. Methodological Challenges, Ethical Concerns, and Open Questions**
**8.1 Training-Data Contamination and Benchmark Validity**
训练数据中可能包含创造力任务和基准,导致记忆而非泛化。GCA框架建议四重保障:预注册、时间保留验证、动态生成刺激、社区维护排除列表。专有模型暴露风险默认高,经典任务(如AUT)的结果应视为上限估计。
**8.2 Ethics of AI Creativity: Authorship, Bias, and Environmental Costs**
作者归属需区分AI辅助与AI生成,并披露贡献。文化语言偏见要求按文化组分别报告信度和效度指标。环境可持续性要求考虑成本效益,优先选择心理测量学性质相当的小模型。
**8.3 Future Directions: Intentionality, Evaluation, and Ecological Validity**
未来需建立意向性评估的计算模型、生态效度基准(持续创作、多模态任务)、分别评估发散与聚合思维的人机协作基准,并系统变化模型架构、数据和解码参数。开源模型有助于因果推断。
**8.4 Limitations of the Present Review**
定量证据基础薄弱(仅四项主要研究),数据点非独立,启发式阈值存在循环性;证据局限于特定模型代际(GPT-3.5/4、Claude-3、LLaMA-2);AI发展迅速可能使结果过时;综述未预注册;文献存在结构性局限。
**9. Conclusions**
GCA框架揭示LLM在创造力研究中处于中间位置。生成轴上,LLM超过人类平均原创性但有条件;能力轴上,LLM是有用的部分模型,但实例化证据缺失;评估轴上,评分工具接近启发式阈值,但跨文化部署需校准。三轴相互依存,未来发现将来自其交叉。GCA框架是临时脚手架,需通过预注册研究、荟萃分析和共识来改进。