基于种子泊松分解的领域知识引导主题建模方法研究

本研究针对传统无监督主题模型难以与预定义概念域对齐的问题，提出Seeded Poisson Factorization（SPF）模型，通过引入种子词（seed words）构建结构化先验，在Poisson Factorization（PF）框架中实现领域知识融合。研究在亚马逊用户评论数据集上验证了模型在分类性能（F1-score 0.72）和计算效率（较KeyATM提速3-5倍）的优势，为大规模文本分类提供了可扩展解决方案。

　　

在自然语言处理领域，从海量文本数据中自动识别潜在主题结构一直是核心挑战。传统无监督主题模型如潜在狄利克雷分配（Latent Dirichlet Allocation, LDA）虽然广泛应用，但其"黑箱"式生成的主题往往难以与研究者预设的概念域匹配。这一问题在电商评论分析、舆情监控等场景尤为突出——当需要针对特定产品类别或政策议题进行定向分析时，纯粹数据驱动的模型可能产生偏离业务需求的结果。更棘手的是，现有改进方法多集中于LDA框架，而计算效率更高的泊松分解（Poisson Factorization, PF）模型长期缺乏领域知识融合机制。

针对这一技术空白，研究人员在《Knowledge-Based Systems》发表了突破性研究。该工作创新性地提出种子泊松分解（Seeded Poisson Factorization, SPF）模型，通过双组分伽马先验设计，将主题-词项强度分解为中性成分（β^★）和种子成分（β?），前者保持无监督学习能力，后者强化预定义种子词的权重。模型采用随机梯度优化的变分推断（Variational Inference, VI）算法，在保持PF原有稀疏性和可扩展性优势的同时，实现对领域知识的自适应平衡——即使种子词存在误选，模型仍能通过调节成分贡献保持稳健性。

关键技术包括：1）构建文档-词项矩阵（Document-Term Matrix, DTM）作为输入；2）基于Gamma(1.0,0.3)和Gamma(0.3,0.3)分别参数化种子与非种子组分；3）采用批量大小1024的Black Box Variational Inference（BBVI）优化证据下界（ELBO）；4）通过匈牙利算法对齐无监督PF的预测标签。

主题评估
在亚马逊6类商品评论数据中，SPF成功将83%的种子词保留在各类别TOP14高频词中。特别在"玩具"类别实现全部10个种子词（如toy、game）的高强度呈现（平均39.67），而"食品"类别因包含非产品相关词汇（如shipping）仅保留4个种子词，揭示模型能自动识别语义偏移。

分类性能
相比KeyATM和SeededLDA，SPF在30k文档量级达到0.73准确率，且训练时间仅1分7秒（KeyATM需5分27秒）。小样本场景（1k文档）优势更显著，准确率0.63远超KeyATM的0.29。分析混淆矩阵发现，"健康"类别因种子词强度较低（如razor仅6.29）存在欠预测（召回率0.46），而"食品"类别因包含购买流程描述导致过预测（精确率0.51）。

鲁棒性验证
将种子词数量从10减至5仅使准确率下降2个百分点（0.71→0.69）。在添加无监督主题的实验中，模型自动将4826条评论归入新主题，其中48%原属"食品"类，且该主题高频词包含time、shipping等流程词汇，证明SPF能自主发现潜在维度。

这项研究的重要意义在于：1）首次实现领域知识在PF框架的系统性融合，突破LDA系模型长期垄断；2）提出的双组分先验设计为不完善领域知识提供容错机制；3）VI实现方案使模型处理百万级文档仅需2小时，较MCMC方法提升3-5倍效率。研究团队开源的TensorFlow实现方案已支持GPU加速，为电商分析、政策研究等需要结构化主题发现的领域提供实用工具。未来工作可探索与BERTopic等嵌入方法的结合，进一步提升种子词自动生成质量。