《Expert Systems with Applications》:Gamma belief functions and fuzzy sets and application to combining predictive models
编辑推荐:
摘要:本研究探讨了在Dempster-Shafer证据理论框架下扩展连续信念函数(Belief Functions)的问题,特别是针对严格正实数域(0, +∞)提出了伽马信念函数(Gamma Belief Function)。研究人员证明了两个独立的伽马信念函
摘要:本研究探讨了在Dempster-Shafer证据理论框架下扩展连续信念函数(Belief Functions)的问题,特别是针对严格正实数域(0, +∞)提出了伽马信念函数(Gamma Belief Function)。研究人员证明了两个独立的伽马信念函数在Dempster组合规则下是封闭的,其组合结果的形状参数(shape parameter)为α1+α2?1,速率参数(rate parameter)为β1+β2。此外,研究人员将这一概念扩展至模糊集领域,定义了伽马模糊集(Gamma Fuzzy Sets),并指出当形状参数α≥1时,其归一化乘积交集(Normalized Product Intersection)同样具有封闭性。在此基础上,研究进一步探讨了经典伽马回归(Gamma Regression)的组合问题,提出通过Dempster规则或模糊交集组合多个独立伽马回归模型的方法。实验部分利用Albemarle县住宅价值数据集验证了组合模型的预测性能,结果表明,组合模型不仅在理论上具有封闭性,且在实际预测中表现出优于单一参考模型的准确性。
研究背景与意义
在不确定性建模领域,传统的贝叶斯概率理论与Dempster-Shafer证据理论常被用于处理认知不确定性(Epistemic Uncertainty),而模糊集理论则侧重于处理由语义模糊带来的不精确性(Vagueness)。尽管高斯信念函数(Gaussian Belief Functions)已被证实在证据理论中具有良好的代数封闭性,但在处理严格为正的时间、距离或风险等变量时,缺乏相应的连续信念函数模型。同时,在处理专家语言判断时,传统的三角或梯形隶属度函数往往无法精确捕捉复杂的认知不确定性。此外,在大数据分析或元分析中,由于隐私或算力限制,往往只能获得基于不同数据子集训练的局部回归模型,如何科学有效地组合这些模型以提升全局预测精度是一个亟待解决的工程与统计问题。该研究发表于《Expert Systems with Applications》,旨在通过引入伽马信念函数和伽马模糊集,填补严格正域不确定性建模的理论空白,并为多源回归模型的集成提供新的理论框架。
关键技术方法
研究人员采用了理论推导与实证分析相结合的方法。首先,基于Dempster-Shafer证据理论,定义了伽马信念函数的质量密度及参数更新规则。其次,引入模糊集理论中的t-norm算子,特别是代数乘积t-norm(Algebraic Product t-norm),结合归一化处理,推导了伽马模糊集的交集运算性质。最后,依托广义线性模型(Generalized Linear Models, GLM)框架下的伽马回归,利用R语言glm()函数构建基准模型,并采用caret包中的createDataPartition()函数进行多次重采样交叉验证。实验数据来源于Albemarle县住宅数据集,通过对比组合模型、分量模型及全数据参考模型的预测误差,验证了理论的有效性。
研究结果
3.2. Gamma belief functions
研究人员将Dempster-Shafer理论扩展至无限辨识框架Θ=(0,+∞)。通过数学推导证明,两个伽马信念函数Γ(α1,β1)与Γ(α2,β2)的组合结果仍为伽马分布,其参数满足α=α1+α2?1和β=β1+β2。研究人员特别指出,Γ(1,0)作为一个空信念函数(Vacuous Belief Function),表达了完全的无知状态,其在组合运算中具有零效应。此外,研究发现指数分布E(λ)和爱尔朗分布En(λ)作为伽马分布的特例,在Dempster规则下同样具有封闭性,而卡方分布(χ2)则不具备此性质。
3.3. Normalized product intersection for fuzzy sets
针对模糊集交集运算可能导致非归一化(Non-normalized)的问题,研究人员分析了最小t-norm和代数乘积t-norm的性质。研究强调,只有代数乘积t-norm在进行归一化处理后仍能保持结合律。通过具体算例,研究人员展示了如何通过除以隶属度函数的最大值(Height)来实现模糊集的归一化交集运算,为后续伽马模糊集的定义奠定了运算基础。
3.4. Gamma fuzzy sets
研究人员提出了伽马模糊集的概念,即将伽马概率密度函数用作模糊隶属度函数。通过对隶属度函数求一阶和二阶导数,研究人员推导出当形状参数α≥1时,隶属度函数在y=(α?1)/β处取得最大值。研究证明,两个归一化的伽马模糊集(其形状参数均不小于1)进行归一化乘积交集运算后,得到的仍是一个伽马模糊集,且新集合的参数满足α=α1+α2?1和β=β1+β2。
4. Combining gamma regressions
研究人员将前述理论应用于伽马回归的组合。在广义线性模型中,假设分散参数(Dispersion Parameter)?恒定且链接函数为对数链接(Log-link),每个回归模型实质上定义了一族条件伽马分布。研究人员证明,对于相同的预测变量X,多个独立伽马回归模型的后验分布可以通过Dempster规则或模糊交集进行组合,且组合后的模型依然是一个合法的伽马回归模型。对于任意m个分量模型,组合后的形状参数为各分量形状参数之和减去m?1,速率参数为各分量速率参数之和。
4.1. Experiments with classic gamma regressions
利用Albemarle县住宅数据(预测变量为房屋面积,响应变量为总价值),研究人员进行了广泛的分割实验。通过将数据集按20%至80%的比例随机分割,并重复五次,构建了35对分量模型及其组合模型。结果显示,组合模型的预测均值与全数据参考模型的差异平均约为10%。更重要的是,在与实际真实值的对比中,组合模型的平均绝对误差率约为25.6%,而全数据参考模型的误差率为28.1%。这表明组合模型不仅理论上封闭,且在预测精度上优于基于全数据的单一参考模型。
讨论与结论
讨论部分指出,虽然本研究未深入探讨,但组合伽马回归可能具有缓解多重共线性(Multicollinearity)的潜在优势。当预测变量高度相关时,最大似然估计的协方差矩阵会膨胀,导致系数估计不稳定;而通过在不同数据子集上聚合模型,可以利用平均效应作为隐式的正则化(Implicit Regularization),提高预测的稳健性。
结论部分确认,伽马信念函数和伽马模糊集成功地将证据理论和模糊集理论的应用范围扩展到了严格正的实数域。研究人员的理论推导表明,这两类模型在各自的组合规则下均具有封闭性。在应用层面,该研究提出的伽马回归组合方法不仅在理论上完美闭环,且在房地产价值预测的实证研究中展现出了超越传统全数据参考模型的性能。这证明了基于证据理论的模型组合方法在处理分布式数据学习和提升预测精度方面具有重要的实际应用价值。