理解、分割与征服：通过多智能体分层强化学习实现特征子空间探索

《ACM Transactions on Knowledge Discovery from Data》：Comprehend, Divide, and Conquer: Feature Subspace Exploration via Multi-Agent Hierarchical Reinforcement Learning

　　

**AI摘要**

要查看此AI生成的摘要，您必须拥有高级访问权限。了解更多 登录

**摘要**

特征选择旨在预处理目标数据集，找到最优且最精简的特征子集，从而增强下游机器学习任务。在过滤式、包裹式和嵌入式方法中，基于强化学习（RL）的子空间探索策略提供了一种新颖的目标优化导向视角和令人瞩目的性能表现。然而，尽管性能有所提升，当前的强化学习方法在处理复杂数据集时仍面临与传统方法类似的挑战。这些挑战源于采用"每特征一智能体"的低效范式以及数据集中固有的复杂性。这一观察促使我们研究并解决上述问题，并提出了一种名为HRLFS的新方法。我们的方法论首先利用基于大语言模型（LLM）的混合状态提取器来捕获每个特征的数学和语义特征。基于这些信息，对特征进行聚类，从而便于为每个簇和子簇构建层级化智能体。大量实验证明了我们的方法在效率、可扩展性和鲁棒性方面的优势。与当代或"每特征一智能体"的基于RL的方法相比，HRLFS通过迭代特征子空间探索提升了下游机器学习性能，同时通过减少参与智能体的数量加速了总运行时间。我们的代码和数据集已公开在GitHub和Huggingface上。

**AI摘要**

**AI生成摘要（实验性）**

本摘要使用自动化工具生成，未由本文作者撰写或审核。此摘要旨在辅助发现、帮助读者评估相关性，并协助来自相邻研究领域的读者理解该工作。本摘要旨在补充作者提供的摘要，后者仍然是论文的主要摘要。完整文章仍然是权威版本记录。点击此处了解更多。

点击此处评论本摘要的准确性、清晰度和实用性。这样做将有助于改进未来重新生成的版本。要查看此AI生成的通俗摘要，您必须拥有高级访问权限。

**1 引言**

特征选择（FS）在经典机器学习模型中发挥着关键作用，通过缓解维度灾难、减少训练时间、减轻特征冗余，从而显著提升预测性能[1–3]。特征选择方法的发展已从早期的启发式和统计筛选技术演进至融合了过滤式[4–6]、包裹式[7, 8]和嵌入式策略[9–11]的复杂方法，以适应日益复杂的数据环境。与此同时，现代AI的快速发展[12–15]拓宽了特征选择的应用领域，涵盖数据模式发现[16]、生物标志物识别[17, 18]以及AI驱动数据管道的构建（AI4data）[19–22]等具有挑战性的任务。在面向多模态数据处理和实时大数据分析的新兴需求下，集成高效智能的特征选择日益被认为是提升数据质量和推进数据驱动范式的核心要素[23]。

在众多特征选择方法中，基于强化学习（RL）的策略[24]因其能够通过迭代特征子空间探索，以目标导向方式优化特征子集而受到广泛关注。尽管取得了一些进展，基于RL的特征选择方法在处理复杂数据集时仍面临显著挑战。这一困难主要源于单智能体-全特征框架的能力有限[24]。当前基于RL的研究在应对数据集复杂性方面取得了一些进展。一种富有洞察力的方法[25]是采用多智能体强化学习（MARL）[26]架构进行特征子空间探索。然而，"每特征一智能体"（OAPF）系统的局限性变得明显，因为处理高维数据集时需要过多的智能体。

综上所述，如图1(a)所示，经典特征选择方法通过单次决策执行特征选择，效率较高，但未能充分分析特征的本质，导致性能较低。如图1(b)所示的当前基于RL的方法，这些子空间探索方法源自包裹式特征选择思想，具有强大的特征选择能力，但也具有包裹方法的固有缺陷，即O(N)的时间复杂度，处理大数据集时需要大量时间。为缓解管理海量智能体的挑战，基于分组[27]和基于交互[28]的智能体架构被提出作为有前景的解决方案。然而，这些方法仅依赖于浅层的数学特征（如特征标准差）来组织特征，由于忽略了语义和上下文特征关系[29, 30]，导致不准确。

图1. HRLFS与其他特征选择方法的比较。

这些观察促使我们开发新颖的基于层级强化学习（HRL）的架构，用于特征子空间探索。本研究的核心概念是：当一个特征（如年龄）与任务无关时，其语义等价特征（如出生日期）也可能无关。此外，两个表现出相似数值模式的特征（如高度相关的生物信号）可能存在冗余，需要细粒度区分。例如，Mice-Protein[31]用于小鼠唐氏综合征研究，包含与小鼠大脑学习能力相关的77种关键蛋白质。它包含两个基因"pGSK3B_N"和"GSK3B_N"，由于它们对应同一种蛋白质"GSK-3β"，在生物学上高度相关，代表该蛋白质在表达过程中的不同形式[31]。传统特征选择方法难以应对这种内在的生物冗余。例如，"一智能体一特征"的方法独立决策，由于缺乏智能体协作，往往无法同时移除这两个特征。同时，基于纯粹数学相关性的分组和交互方法可以检测到其统计联系，但缺乏理解潜在生物原因的语义上下文。我们的方法利用语义信息识别潜在关系，并采用层级结构进行统一决策。这解决了上述方法在特征理解、智能体协作和决策效率方面的局限性。

如图1(c)所示，我们的解决方案构建层级化智能体来进行特征子空间探索决策，将平均决策时间复杂度降低至O(log N)，同时保持高性能。核心思想可分为三个阶段：（理解）我们的主要创新在于集成大语言模型（LLMs）来理解特征元数据的语义含义，并结合高斯混合模型（GMM）来捕获特征的数学特征。（分割）基于这些增强的特征表示，我们采用聚类机制对相似特征进行分组。（征服）利用这些簇，我们构建多智能体层级强化学习（MAHRL）框架，反映特征空间的自然组织方式。该层级结构战略性地将决策责任分配给簇特定智能体，并自适应地减少所需激活的智能体数量，显著降低计算开销并加速探索过程。我们的贡献可总结为：

- **全面的特征理解。** 我们利用LLMs和统计微分从数据集元数据及其数学特征中提取有意义的信息，从而实现对特征关系的更深入理解，超越数值统计。

- **超越"一智能体一特征"架构。** 聚类后的特征通过层级MARL架构进行管理，减少了激活智能体的总数，提高了计算效率，并改善了特征选择过程。

- **理论与实证效率。** 我们从理论和实验两个方面严格证明了方法的效率和有效性，显示出与现有特征选择方法相比，其具有优越的预测性能和计算可扩展性。

**2 重要定义**

**特征选择（FS）。** 给定数据集D={X∈R^(m×n), y∈R^(m×1), F}，其中X和y分别为特征和标签。m和n分别为样本数和特征数。我们使用有限集F={f?,f?,…,f?}来表示数据集D中包含的特征列，其中f?是X的第i列。特征选择的目标是找到最优特征子集F*?F，以提升模型性能同时保持计算效率。

**结合特征选择与强化学习。** 在本文中，我们将特征选择方法的决策过程建模为马尔可夫决策过程[32]。具体而言，s?表示时间步t下已选特征F?的状态。智能体（或多个智能体）具有策略函数π(?)，将通过动作a?∈{0,1}^n来选择或丢弃每个特征，其中每个动作分量对应于包含（1）或排除（0）特定特征。根据动作a?，我们可以构建特征子集F???并提取相关新状态s???。我们还可评估选择并获得奖励r?。通过记忆集合m?=(s?,a?,s???,r?)，我们可以优化策略函数π(?)朝着强化学习方向，最终获得最优选择F*。

**3 方法论**

**3.1 HRLFS概述**

HRLFS是一种高效的基于RL的特征子空间探索方法，采用"理解-分割-征服"范式。HRLFS首先提取每个特征的混合状态，对每个特征进行聚类，然后初始化层级智能体架构。通过利用每个特征的状态，层级智能体探索特征组合并优化其选择策略。之后，HRLFS输出最终最优选择，以增强下游机器学习任务。

**3.2 混合特征状态提取**

如图2所示，我们开发了一种混合多面特征状态提取方法，以同时帮助聚类组件和每个RL智能体理解给定数据集。

图2. 混合特征状态提取。

**利用特征分布。** 我们首先考虑每个特征的数学特征。为此，我们使用具有k个高斯分量的GMM来对每个特征f进行建模，以准确捕获特征值的分布。特征f的概率密度函数（PDF）定义为：P(f|θ)=Σ?=?? z?N?(f|μ?,σ?)，其中Σ?=?? z?=1。（1）

这里，N?(f|μ?,σ?)表示第i个高斯分布，z?是非负常数，控制每个分量的权重。θ=(z?,…,z?,μ?,…,μ?,σ?,…,σ?)是GMM模型的整体参数。然后我们使用以下对数似然函数来最大化PDF与实际分布之间的似然：l(Θ|F)=Σ?∈F ln(Σ?=?? z?N(f|μ?,σ?))，（2）

其中Θ={θ?}?=??表示n个特征的所有参数。通过这种方式，我们应用期望最大化算法优化损失函数，并获得最终参数θ?*作为特征f?的分布状态。

**利用特征元数据。** 另一个解决特征状态不准确的关键来源是从特征描述（即元数据）中获取语义信息。我们采用一种简单但高效的方法：将特征名称-描述对输入LLM，随后利用PCA[33]进行降维以对齐高斯分量数k。这一过程产生的句子嵌入作为语义特征状态。对于不完整的数据集，我们使用以下提示词生成其特征描述。如图3所示，我们将数据集的描述、可用特征名称及其描述以及缺少描述的特征名称输入LLM，以补全缺失的特征描述。生成的元数据在预处理期间创建一次，并作为不可变注释存储。此外，对于既无数据集描述也无特征描述的数据集（如合成数据集），我们使用全零嵌入作为其语义特征状态。通过这种方式，我们可以获得每个特征f?的语义状态e?∈R^k。

图3. 利用数据集元数据生成特征描述的提示词。

最后，我们将分布状态和语义状态连接生成混合状态，表示为h?=e?⊕θ?*。

**3.3 分而治之智能体架构**

我们接下来介绍如何构建智能体层级（分割）以及组织智能体决策（征服），以克服数据集复杂性的挑战。

**3.3.1 智能体层级构建。** 如图4所示，我们提出了一种H-聚类算法，根据特征混合状态的相似性聚合特征，并利用该分组信息构建智能体层级。具体而言，我们采用增量聚类算法来合并导致方差增加最小的两个簇[34]。算法1展示了从所有特征状态H={h?}?=??开始，每个特征初始形成一个簇，然后新簇通过相似性分组依次合并，直到仅剩一个簇。然后我们推导出簇集合C_agent，其中每个簇C?∈C_agent代表一个智能体A?。包含关系建立智能体的层级；较低层级智能体A?是较高层级智能体A?的一部分，如果C??C?（两个较低层级智能体组合形成较高层级智能体）。

图4. 通过增量聚类构建智能体层级。

**层级智能体进行簇特定决策。** 如图5所示，智能体在层级框架内不同粒度层级上协同工作做出决策，从较高级智能体延伸至较低级智能体。每个智能体共享状态和奖励，同时发展策略。树的叶节点对应单个特征，负责做出关于选择或丢弃每个特定特征的细粒度决策。

内部（非叶）节点代表更高级别的特征聚类，通过对特征空间进行划分做出更广泛的决策，确定由各自子树表示的整个特征组是否应进一步考虑还是从选择过程中剪枝。

图5. 层次化智能体迭代与优化的细节。

◆ 动作：在第 t 次迭代中，与第 i 个智能体（对应树中的一个节点）相关的动作 a_{i,t} 是一个二元选择：a_{i,t} ∈ {select, drop}。如果智能体（树节点）选择"select"动作，它会递归地将特征选择任务委派给其子节点（即以其子节点为根的子树被进一步探索）。相反，如果某个节点选择了"drop"动作，则以该节点为根的整个子树变得非活动，其所有后代智能体（或其关联的特征聚类）都不会被激活。这样，在任何内部节点的"drop"动作都会导致相应的子树从选择过程中被剪枝。

◆ 状态：每个智能体的状态是从所选特征子集派生出的向量化表示。我们采用混合特征状态作为每个智能体的状态表示。我们首先从特征 f_i 的高斯混合模型（GMM）获取参数 θ_i^* = {z_{1,i}, ?, z_{k,i}, μ_{1,i}, ?, μ_{k,i}, σ_{1,i}, ?, σ_{k,i}}。由于 z 对每个高斯分量的权重进行了调整，我们根据相应的 z 加权求和每个 μ 和 σ 以形成状态向量 s_i，形式上为：s_i = e_i ⊕ ∑_{j=1}^{k} z_{j,i}^* (μ_{j,i} ⊕ σ_{j,i})。(3)

要获得第 t 步的状态，我们将所有特征状态连接起来形成固定大小的向量 s_t ∈ R^{n×(k+2)}：s_t = ⊕_{i=1}^{n} (1_t(f_i) * s_i)，(4) 其中 1_t(?) 是一个指示函数，表示特征 f_i 在第 t 步是否被选择。如果 f_i 未被选择，该函数返回 0；如果被选择，则返回 1。

◆ 策略：智能体的策略网络是一个带有二分类头的馈前神经网络。形式上，对于特征 f_i，其在第 t 次迭代中的动作通过 a_{i,t} = π_i(s_{t-1}) 得出。

◆ 奖励：如图 5 所示，我们根据下游任务性能和所选特征数量的抑制来设计奖励函数。

? 性能：奖励函数的第一个方面通过下游任务来评估性能，如分类和回归。我们使用所选特征子集训练一个下游任务模型，并使用模型评估指标定义 r_t^p。

? 数量抑制：第二个视角侧重于通过以下方式确保特征数量紧凑：r_t^q = (|F| ? |F_t|)/|F| + λ ? |F_t|，(5) 其中 F 是整个特征集，F_t 是第 t 步选择的特征子集，λ 是超参数，|?| 表示给定集合的大小。随着 λ 的增加，保留太多特征（|F_t| 较大）的惩罚变得更加严重，从而鼓励更大的特征缩减。相反，较低的 λ 值放松了对 |F_t| 大小的惩罚，适用于只需要最小缩减的情况。该指标确保选择过程有策略地减少特征数量。

? 奖励分配：然后我们结合两个视角来获得第 t 步的奖励：r_t = α ? r_t^p + (1?α) ? r_t^q，(6) 其中 r_t 是此步骤的总奖励。α 是调整两个视角权重的超参数。获得奖励后，该框架将奖励平等分配给每个被激活的智能体。这种在奖励函数中平衡性能和特征数量的方法与稀疏约束基的特征选择方法（Lasso [35] 和 LASSONet [11]）类似，这些方法将正则化项纳入其目标函数中，但更加灵活和适应性强。

3.4 探索与优化

图 5 展示了我们使用层次化强化迭代来发现最佳特征子集的方法，将模型训练分为两个不同阶段：探索和优化。

探索阶段。在探索阶段，层次化智能体随机探索特征子空间。它们以当前状态 s_t 作为输入，层次化地选择或丢弃特征，构建一个新的所选特征集合。奖励 r_t 和下一个状态 s_{t+1} 从新选择的特征子集计算得出。每一步采取动作 a_t 的每个智能体 A_i 将经验 m_t = {s_t, a_t, r_t, s_{t+1}} 存储在其内存 M_i 中。

优化阶段。智能体将通过优先级经验回放 [36] 获得的内存小批量自主训练其各自的策略。我们利用 Actor-Critic 方法 [37] 改进策略，其中策略网络 π(?) 担任 actor 的角色，而 V(?) 作为其关联的 critic。智能体 A_i 的优化目标由期望累积奖励定义，表示为：max_π E_{m_t ～ B}[∑_{t=0}^{T} γ^t r_t]，(7) 其中 B 是指优先级回放缓冲区中经验的分布，γ 是折扣因子，T 表示一个 episode 的时间范围。此外，我们引入了 Q 函数 Q(s,a)，它表示在状态 s 下采取动作 a 并随后遵循策略 π 的期望回报：Q(s,a) = E[r + γ max_{a'} Q(s',a') | s,a]。(8)

Actor 网络的训练调整由策略梯度 [38] 决定，定义为：?_θ J(π) = E_{m_t ～ B}[?_θ log π(a_t|s_t) A(s_t,a_t)]。(9) 这里，A(s,a) = Q(s,a) ? V(s) 是优势函数，有助于策略改进的梯度估计。

层次化强化学习进展分析。层次化智能体结构在每一步激活更少的智能体，从而在迭代中实现更优越的性能。单智能体方法使用一个智能体对 N 个特征做出 N 个决策。同时，多智能体方法使用 N 个智能体对 N 个特征做出 N 个决策，两种方法的时间复杂度都是 O(N)。相比之下，我们采用层次化结构，减少了做出决策的被激活智能体数量，总共使用 2N?1 个智能体对 N 个特征做出 log(N) 个决策，时间复杂度为 O(log(N))。在下一节中，我们将提供时间复杂度优势的详细证明。

3.5 分治解决方案时间复杂度的证明

在本节中，我们提供了分治特征选择方案时间复杂度的形式化证明，分析了最好、最坏和平均情况。考虑一个由 N 个智能体组织成的完全二叉树架构，其中每个非叶智能体以概率 p 将决策权委派给其子节点。

定理 3.1（最好情况时间复杂度）。最好情况时间复杂度满足 O(1)。

证明。最好情况场景发生在根智能体立即终止决策过程而不向子节点委派的情况下。这只需要在根节点进行常数数量的操作：T_best(N) = c_1，(10) 其中 c_1 是常数。因此，T_best(N) ∈ O(1)。(11) □

定理 3.2（最坏情况时间复杂度）。最坏情况时间复杂度满足 O(N)。

证明。最坏情况场景发生在每个智能体递归地将决策委派给子节点直到达到叶节点，从而激活树中所有 N 个节点的情况。对于具有 N = 2^h ? 1 个节点（高度 h）的完全二叉树：T_worst(N) = ∑_{k=0}^{h-1} 2^k = 2^h ? 1 = N。(12) 因此，T_worst(N) ∈ O(N)。(13) □

定理 3.3（平均情况时间复杂度）。在以下假设条件下，当 p = 1/2 时，平均情况时间复杂度满足 O(log N)。

假设 1（平衡树结构）。层次化架构是一棵完全二叉树，具有：N = 2^h ? 1 个节点，其中 h 是树的高度；所有叶节点处于同一深度；每个非叶节点恰好有两个大小为 ?N/2? 的子树。

虽然这个假设在理论上很方便，但在实践中，我们的层次结构紧密近似于这样的结构。我们在第 5.12 节中提供了对该假设的经验验证，表明跨 21 个数据集观察到的平衡因子和树高度与完全二叉树的观察结果高度一致。

假设 2（独立委派）。每个非叶智能体以概率 p 独立地将决策权委派给其子节点，其中 p ∈ [0,1]。(14)

设 E(N) 表示此类树中活跃智能体的期望数量。我们将分析形式化如下：

引理 3.4（期望分解）。对于 N > 1，活跃智能体的期望数量满足 E(N) = (1?p) ? 1 + p ? [1 + E(?N/2?) + E(?N/2?)]，(15) 边界条件 E(1) = 1。

证明。根据全期望定律：E(N) = E[节点数 | 根终止] ? (1?p) (16) + E[节点数 | 根委派] ? p。(17) 具体来说：如果根终止：E[节点数] = 1。如果根委派：E[节点数] = 1 + E(?N/2?) + E(?N/2?)。对于完全二叉树，当 N = 2^h ? 1 时，?N/2? = ?N/2? = N/2，因此递推关系简化为 E(N) = 1 + 2pE(N/2)。(18) □

定理 3.5（闭合形式解）。对于 N = 2^h ? 1，递推关系解为 E(N) = [(2p)^{log_2(N+1)} ? 1]/(2p ? 1)。(19) 特别是，当 p = 1/2 时，E(N) = 2log_2(N+1) + O(1)。(20)

证明。展开 N = 2^h ? 1 的递推关系：E(N) = 1 + 2pE(N/2) = 1 + 2p[1 + 2pE(N/4)] = ∑_{k=0}^{h-1} (2p)^k + (2p)^h E(1) = [(2p)^h ? 1]/(2p ? 1) + (2p)^h ? 1 = [(2p)^{h+1} ? 1]/(2p ? 1)。(21) 代入 h = log_2(N+1) 得到：E(N) = [(2p)^{log_2(N+1)} ? 1]/(2p ? 1)。(22) 对于 p = 1/2，2p = 1，因此：E(N) = log_2(N+1) + 1 = 2log_2(N+1) + O(1)。(23) □

因此，平均情况时间复杂度满足：T_avg(N) ∈ O(log N)。(24)

在第 5.2 节中，我们进行了实验，结果表明活跃智能体减少了 70.61% 到 82.30%，时间消耗减少了 35.49% 到 55.26%。这些观察结果与该结论一致。

4 实验设置

4.1 数据集描述

我们在 21 个数据集上进行了实验，这些数据集可从 Feature Selection Benchmark [39]、美国国家生物技术信息中心基因表达综合数据库 [40]、UCI [41]、Kaggle [42]、OpenML [43]、libSVM [44] 等公开使用。这些数据集在三个任务（分类、多标签分类和回归）、样本大小和特征样本数量之间存在差异。数据集来自各个领域，包括生物学、金融和合成数据。数据集包含从 253 到 83,773 不等的样本大小。这些数据集包含从 21 到 20,670 不等的特征数量。为了避免过拟合，我们遵循现有研究 [16] 将数据集划分为训练集和验证集。具体来说，奖励在 80% 的样本上进行评估；剩余 20% 的样本用于验证所选特征的有效性和能力。数据集描述，包括样本数量、特征数量和任务类型，列于表 1 中。

表 1. 整体性能比较。每个数据集的最佳结果以粗体显示，第二好的结果以下划线显示。#Samp. 和 #Feat. 分别表示样本数量和特征数量。

| 数据集 | 任务 | #Samp. | #Feat. | KBest | LASSONet | MCDM | RLASM | ARFSS | SAFS | GAINS | CompFS | Ours |
|--------|------|--------|--------|-------|----------|------|-------|-------|------|-------|--------|------|
| SpectF C2 | 674 | 47 | 79.16 | 82.11 | 79.44 | 80.38 | 77.01 | 80.78 | 80.55 | 83.69 | 87.56 ± 0.22 |
| SVMGuide3 | C1 | 2,243 | 21 | 76.55 | 77.61 | 75.68 | 76.13 | 75.92 | 75.53 | 77.53 | 72.83 | 78.90 ± 0.45 |
| German_Credit | C1 | 1,001 | 24 | 65.75 | 58.85 | 70.49 | 64.91 | 66.89 | 66.89 | 69.40 | 68.27 | 73.07 ± 1.13 |
| Credit_Default | C3 | 30,000 | 25 | 80.40 | 79.86 | 74.87 | 80.41 | 80.11 | 77.49 | 80.05 | 78.15 | 80.56 ± 0.09 |
| SpamBase | C4 | 601 | 57 | 90.36 | 89.16 | 89.10 | 91.40 | 90.04 | 90.93 | 91.71 | 89.70 | 92.60 ± 0.31 |
| Megawatt1 | C2 | 533 | 88 | 84.02 | 89.59 | 89.59 | 83.22 | 87.64 | 86.46 | 89.42 | 91.83 | 92.70 ± 0.73 |
| Ionosphere | C3 | 513 | 49 | 91.48 | 90.17 | 88.85 | 94.11 | 90.18 | 90.18 | 92.24 | 91.08 | 94.27 ± 1.04 |
| Mice-Protein | MC | 1,080 | 77 | 82.86 | 82.71 | 81.95 | 77.78 | 80.56 | 77.81 | 81.04 | 78.96 | 83.79 ± 0.91 |
| Coil-20 | MC | 1,440 | 400 | 93.92 | 88.19 | 96.53 | 90.97 | 96.19 | 94.41 | 97.22 | 95.16 | 97.56 ± 0.06 |
| MNIST | MC | 10,000 | 784 | 89.67 | 86.40 | 91.25 | 88.30 | 90.75 | 86.65 | 91.40 | 87.65 | 91.75 ± 0.24 |
| Otto | MC | 61,878 | 93 | 72.31 | 71.65 | 73.24 | 72.86 | 73.74 | 72.13 | 72.40 | 71.97 | 74.24 ± 0.07 |
| Jannis | MC | 83,733 | 54 | 65.48 | 65.78 | 64.20 | 57.88 | 66.70 | 64.42 | 65.15 | 66.61 | 67.91 ± 0.22 |
| Cao | MC | 4,186 | 13,488 | 82.81 | 83.65 | 82.37 | 84.57 | 83.71 | 84.67 | 82.47 | 85.57 | 89.37 ± 0.13 |
| Han | MC | 2,746 | 20,670 | 70.18 | 72.57 | 71.33 | 74.73 | 74.69 | 75.79 | 74.03 | 73.20 | 81.45 ± 0.21 |
| Openml_586 | R1 | 1,000 | 25 | 56.35 | 56.03 | 55.82 | 51.04 | 55.02 | 53.15 | 59.36 | 55.49 | 61.75 ± 0.71 |
| Openml_589 | R1 | 1,000 | 25 | 53.34 | 52.99 | 54.12 | 49.36 | 52.68 | 45.51 | 59.33 | 48.46 | 61.60 ± 1.01 |
| Openml_607 | R1 | 1,000 | 50 | 53.63 | 53.70 | 55.37 | 57.42 | 54.82 | 51.82 | 60.44 | 53.18 | 61.70 ± 0.69 |
| Openml_616 | R5 | 1,000 | 50 | 31.16 | 21.69 | 28.27 | 50.38 | 31.36 | 46.16 | 49.54 | 49.16 | 53.90 ± 0.86 |
| Openml_618 | R1 | 1,000 | 50 | 49.21 | 48.97 | 48.69 | 58.57 | 49.31 | 45.16 | 55.68 | 48.55 | 56.40 ± 0.62 |
| Openml_620 | R1 | 1,000 | 25 | 53.00 | 54.63 | 55.00 | 41.63 | 54.57 | 50.16 | 61.51 | 55.49 | 62.78 ± 0.82 |
| Openml_637 | R5 | 1,000 | 50 | 23.09 | 25.42 | 23.75 | 42.04 | 25.96 | 34.18 | 39.46 | 36.17 | 40.54 ± 0.37 |

4.2 评估指标

我们使用 F1 分数（Micro-F1）、准确率和召回率来评估分类任务（多分类任务）的性能。对于回归任务，我们利用研究 [45, 46] 中的 1-相对绝对误差（1-RAE）来评估性能。所有指标的较高值表示更好的性能。

4.3 基线算法

我们与八种方法进行了广泛比较，涵盖了经典和近期方法，包括三类特征选择：过滤、嵌入式和基于强化学习的（最新的封装方法）。对于过滤方法，KBest [47] 根据统计度量选择 K 个最佳特征，MCDM [48] 使用预定义的排序器为特征分配分数并相应地选择它们。对于嵌入式方法，LASSONet [11] 利用残差组件将特征选择与模型训练过程集成，增强其泛化能力，GAINS [16] 将特征嵌入到向量空间中，并使用梯度上升搜索算法识别最佳子集。对于封装方法（包括基于强化学习的方法），CompFS [49] 提供了贪心前向选择的高效单次实现，利用每一步的注意力权重来近似特征重要性，SAFS [50] 在神经网络内集成特征选择模型以识别特征组并测量这些组之间的相似度来选择最佳特征子集。对于基于强化学习的方法，MARLFS [25] 是一个多智能体系统，其中智能体的数量与特征的数量相匹配，RLAS [51] 协同结合了中位数初始化的过滤方法、基于 Q 学习的模块选择和重要性感知的随机分组。

4.4 超参数设置和可重复性

我们执行了 200 个 epoch 来让 HRLFS 探索特征空间，并额外执行 200 个 epoch 来优化智能体，内存大小设置为 400。根据超参数和消融实验结果，所有智能体的策略模型都是 Actor-Critic，其中 actor 和 critic 模型都实现为两层神经网络，隐藏层大小为 (64, 8)。我们采用 Adam 优化 actor 和 critic 模型，minibatch 大小为 32。遵循现有研究 [52]，为了确保收敛，critic 的学习率应该是 actor 学习率的约 10 倍。因此，actor 和 critic 模型的学习率分别为 0.001 和 0.01。公式 (8) 中的超参数 γ 设置为 0.9。我们采用随机森林作为下游机器学习模型来评估每步所选特征子集的性能。我们将所有特征的高斯分量数量 k 设置为它们的 BIC 搜索结果的最大值。对于特征元数据嵌入，我们应用基于 GPT-4 [54] 的 text-embedding-3-large [53]。我们根据第 5.11 节中超参数研究的结果，将公式 (6) 中的超参数 α 和公式 (5) 中的 λ 设置为 0.4 和 0.6。

基线方法的超参数设置遵循其原始论文。

4.5 环境设置
实验在 Ubuntu 18.04.6 LTS 操作系统上进行，配备 AMD EPYC 7742 CPU 和 4 块 NVIDIA V100 GPU，运行环境为 Python 3.11.0 和 PyTorch 2.1.1。

5 实验结果

5.1 主要对比
本实验旨在回答以下问题：HRLFS 是否能够在所有领域有效地优化出优越的特征子空间？我们在多个数据集上将本方法与经典方法和最新方法进行了比较。表 1 展示了 HRLFS 的整体结果。我们观察到，HRLFS 在所有任务上均优于经典方法、基于深度学习的方法和基于强化学习的方法。其潜在驱动因素在于，与经典方法（KBest、LASSONet 和 MCDM）相比，HRLFS 通过大语言模型（LLMs）发现了特征之间的细粒度区分，从而构建出超越数值统计的更准确特征子空间，从而取得更好的性能。与基于深度学习的方法（SAFS、CompFS、GAINS）相比，HRLFS 利用分层架构管理聚类特征，该架构从粗粒度到细粒度考虑特征之间的相关性，实现了对特征子空间的更好探索。与基于强化学习的方法（RLAS、MARLFS）相比，HRLFS 通过分层强化学习（HRL）架构看待智能体协作，从而提升了性能。总体而言，本实验表明，HRLFS 在多样化数据集上表现突出且鲁棒，涵盖了不同的任务、规模和领域，突出了其在特征子空间探索方面的通用适用性。

5.2 空间/时间复杂度分析
与 OAPF 的空间/时间复杂度对比。本实验旨在回答以下问题：HRLFS 在空间/时间复杂度方面是否具有优于 OAPF 方法的优势？表 2 比较了 OAPF 架构和 HRLFS 在四个数据集上的活跃智能体数量以及整体运行时间。我们观察到，在所有 4 个数据集上，HRLFS 的活跃智能体数量至少减少了 70.61%。此外，活跃智能体的减少直接转化为大量的时间节省：在所有报告的数据集上，与 OAPF 相比，HRLFS 的整体运行时间减少了 30%–50% 以上。这些实证结果佐证了我们在第 3.5 节中的复杂度证明，该证明显示 HRLFS 的预期活跃智能体数量为 O(log N)，而 OAPF 则需要 O(N) 个活跃智能体。其根本原因是，HRLFS 基于分治范式构建的分层决策结构实现了卓越的决策效率，显著减少了活跃智能体数量，从而降低了空间和时间复杂度。总之，通过减少活跃智能体数量，分层架构不仅实现了更好的空间效率，还与 OAPF 方法相比大幅减少了运行时间。

表 2.
| 数据集 | SpamBase | Mice-Protein | Coli-20 | MNIST |
| :--- | :--- | :--- | :--- | :--- |
| **方法** | **HRLFS-h** | **HRLFS** | **HRLFS-h** | **HRLFS** | **HRLFS-h** | **HRLFS** | **HRLFS-h** | **HRLFS** |
| **活跃智能体 (平均)** | 56 | 16.46 | - | 76 | 13.45 | - | 400 | 104.39 | - | 784 | 156.73 | - |
| **变化幅度** | | -70.61% | | -82.30% | | -73.90% | | -80.01% | | | | |
| **时间消耗 (秒)** | 146.56 | 76.28 | - | 177.77 | 79.53 | - | 547.05 | 352.86 | - | 2,291.25 | 1,317.28 | - |
| **变化幅度** | | -47.95% | | -55.26% | | -35.49% | | -42.50% | | | | |

OAPF 与本模型活跃智能体平均数量对比

与基线方法的空间/时间复杂度对比。本实验旨在回答以下问题：HRLFS 在时间和性能方面是否均表现出色？图 6 展示了 HRLFS 与其他基线方法以及我们的消融模型 HRLFS-h 的性能和时间消耗对比，其中 HRLFS-h 将 MAHRL 架构替换为 OAPF 架构。我们发现，HRLFS 优于所有基线和 HRLFS-h，其时间消耗与传统统计方法（KBest、MCDM 和 LASSONet）相当，且远优于基于强化学习的方法（RLAS 和 MARLFS）、基于深度学习的方法（SAFS、CoFS 和 GAINS）以及 HRLFS-h。与基于深度学习的方法相比，我们的智能体仅由两层神经网络组成，与这些方法使用的具有大量参数的模型相比，耗时更少。与基于强化学习的方法相比，HRLFS 应用分层决策架构来管理聚类特征，大大减少了活跃智能体的数量，其中只有活跃智能体进行决策，其余智能体保持非活跃状态，从而实现更高效的迭代和更少的时间消耗。此外，HRLFS 在性能和时间上均远优于 HRLFS-h，这证明分层决策架构能够捕获特征之间的相关性，促进智能体协作，并减少活跃智能体数量。总之，通过有效的状态提取和分层架构设计，HRLFS 在时间和性能方面具有巨大优势。

图 6. HRLFS 与基线方法在下游任务性能和时间消耗方面的对比。

5.3 消融实验
我们设计了三个变体：HRLFS-s(GMM)，仅利用 GMM 进行特征表示；HRLFS-s(LLM)，仅采用 LLM 进行特征表示；HRLFS-h，将 MAHRL 架构替换为 OAPF 架构。

混合状态表示的影响。图 7 展示了特征表示变体在两个分类任务和两个回归任务上的对比结果。我们发现，HRLFS 总体上优于 HRLFS-s(GMM) 和 HRLFS-s(LLM)。这一观察结果的潜在驱动因素在于，与 HRLFS-s(GMM) 相比，混合状态表示利用 LLMs 的力量来解释和提取特征元数据中的信息，为分层智能体优化和探索特征子空间提供了有价值的见解，从而实现了更好的特征选择（FS）。与 HRLFS-s(LLM) 相比，混合状态表示组件集成了 GMM 统计数据，提供了对每个特征分布的更好描述，从而带来性能提升。总之，本实验表明，混合状态表示组件结合了特征名称和统计数据中的有意义信息，在 HRLFS 中发挥着重要作用。

图 7. 不同状态表示方法的影响。

HRL 架构的影响。图 8 比较了 HRL 架构变体在两个分类任务和两个回归任务上的表现。我们可以观察到，HRLFS 在性能上优于 HRLFS-h 的同时，减少了时间消耗。这意味着分层智能体结构大大减少了活跃智能体的数量，从而减少了消耗的时间。同时，这种分层架构为特征子空间探索提供了可变粒度，从而带来了性能提升。

图 8. MAHRL 架构的影响。

5.4 多智能体分层架构设置分析
本实验旨在回答以下问题：更细或更粗粒度的智能体分层设置如何影响整体系统？在算法 1 中，具有相似语义或数学分布的特征由同一个智能体控制，形成分层树结构。在本实验中，我们从三个任务中各选择一个数据集——Megawatt1、MNIST 和 OpenML_616——并改变涉及的智能体分层数量。较小的值表示较少的智能体层参与 FS，导致更粗粒度的决策过程。

从图 9 的结果中，我们可以观察到，增加分层级别数量导致性能一致改进并趋于稳定，表现为更高的分数和降低的标准差。这种行为背后的潜在驱动因素是，通过增加更细粒度分层中的智能体数量，促进了特征空间的更精细探索。此外，我们注意到，激活较少智能体的较粗分层由于对相关特征的探索不够详细而导致性能较低。这表明更细粒度的分层能够实现更好的智能体协调和决策，提高 FS 效率。然而，这种改进是以更高的计算复杂度和更多的活跃智能体为代价的，表明智能体参与度和系统效率之间存在权衡。

图 9. 随涉及的智能体分层粒度变化，下游任务的性能和活跃智能体比例。

5.5 混合状态提取方法分析
本实验旨在回答以下问题：结合 GMM 和 GPT-4 进行特征状态提取是否为最佳选择？我们在几个数据集上比较了不同的特征分布提取方法和具有不同参数规模的语义提取模型，如图 10 所示。Statistic+GPT-4 应用均值、最大值、最小值、方差、第一四分位数、第二四分位数和第三四分位数来提取特征分布，并利用 GPT-4 来利用元数据。GMM+BERT、GMM+QWen 和 GMM+Gemini 分别使用 GMM 提取统计量，并利用 BERT [55]、gte-Qwen2-7B-instruct [56]、gemini-embedding-exp [57] 来利用语义信息。通过比较 Statistic+GPT-4 和 GMM+GPT-4，我们可以观察到，使用 GMM 获得的特征分布相比统计数据具有更好的结果。这种行为背后的潜在驱动因素是，诸如均值、最大值、最小值等统计数据只能提供对数据的简单描述，无法捕获数据的内部结构，而 GMM 可以通过多个高斯分布的线性组合来近似任意形状的概率分布，从而更好地捕获这种复杂性并带来更好的结果。通过比较 GMM+BERT、GMM+QWen、GMM+Gemini 和 GMM+GPT-4，我们发现 GPT-4 提取语义信息的性能优于其他模型。这意味着与 BERT 和 QWen 相比，GPT-4 的模型架构和规模更大，能够捕获更复杂的语义关系和上下文信息。与 Gemini 相比，GPT-4 的数据筛选和清洗标准减少了训练数据中的错误和偏差，进一步提高了语义信息提取的准确性和可靠性。总之，由于 GMM 和 GPT-4 能够准确提取数据的特征分布和语义信息，它们是特征状态提取的最佳选择。

图 10. 不同特征状态提取模型的对比。

5.6 特征聚类算法选择分析
本实验旨在回答以下问题：在特征子空间探索任务中，H-clustering 算法的性能是否优于其他聚类方法？我们在四个具有不同特征数量的数据集上将 H-clustering（本文方法）与 KMeans [58]、DBSCAN [59] 和 SpectralClustering [60] 进行了比较，如图 11 所示。

图 11. 不同聚类算法的影响。

我们可以观察到，H-clustering 优于所有聚类算法，并且随着特征数量的增加，H-clustering 的优势变得更加明显。这种行为背后的潜在驱动因素是，与普通聚类算法相比，H-clustering 从细粒度到粗粒度聚合特征，构建分层决策架构，并在更多粒度上考虑 FS 问题，从而带来更好的性能。同时，这种从粗到细的决策方法将一项复杂任务分解为几个相对简单的任务，这天生具有处理复杂问题的优势，因此 H-clustering 对于具有更多特征的任务更具优势。总之，H-clustering 在不同粒度上决定 FS 问题，具有更好的性能，并能处理更复杂的问题，从而优于其他方法。

5.7 强化学习后端选择分析
本实验旨在回答以下问题：HRLFS 中使用的策略模型是否优于其他现有模型？我们在二分类、多分类和回归任务上比较了 ActorCritic [37]（本文方法）与 DQN [61]、Double DQN [62] 和 Dueling DQN [63]，如图 12 所示。我们发现，ActorCritic 在所有任务中均优于其他方法。这意味着与 DQN 等依赖 Q 值间接更新的方法相比，ActorCritic 结合了策略梯度和价值函数估计，能够直接优化策略，减少方差并提高学习效率，从而在所有任务上取得更好的性能。总之，由于策略优化具有更高的效率和稳定性，ActorCritic 是策略模型的合适选择。

图 12. 不同策略模型的影响。

5.8 误导性元数据分析
本实验旨在回答以下问题：混合特征状态提取是否对噪声元数据具有鲁棒性？我们选择了四个数据集，并随机打乱 25%、50%、75% 和 100% 的特征描述，以测试其在面对噪声和乱序元数据时的鲁棒性，如表 3 所示。我们发现，该方法在所有数据集上的性能并未受到错误特征的显著影响。当 0–50% 的特征描述被乱序时，该方法的性能下降最多为 2.45。即使 100% 的特征描述被乱序，性能也仅下降了 5.54%。在这种情况下，在大多数数据集上，HRLFS 仍然优于“原始”设置（无特征选择），在所有数据集上均表现出鲁棒性和有效性。这证明我们的混合特征状态提取组件结合了特征的语义和统计信息，从而具有卓越的鲁棒性。即使语义信息不准确，统计信息仍然有效，该方法可以有效探索特征子空间，保持稳定的性能。总之，我们的方法结合了语义信息和统计特征，使其在面对误导性元数据时保持稳定的性能。

表 3.
| 数据集 | HRLFS (0%) | 25% | 50% | 75% | 100% | Original |
| :--- | :--- | :--- | :--- | :--- | :--- | :--- |
| German_Credit | 73.07 | 72.95 | 72.18 | 71.41 | 70.13 | 65.44 |
| Credit_Default | 80.56 | 79.31 | 78.11 | 76.54 | 75.02 | 76.10 |
| SpectF | 87.56 | 87.05 | 86.47 | 85.57 | 84.13 | 75.96 |
| SpamBase | 92.60 | 92.24 | 91.76 | 90.96 | 89.91 | 90.13 |

不同特征描述打乱比例下的性能
“Original"表示在使用所有原始特征且无任何特征选择（FS）时的性能。

5.9 大模型生成元数据置信度分析
本实验旨在回答以下问题：大模型（LLM）生成的元数据是否可靠？我们采用 LLM 可信度评估方法 SelfCheckGPT [64] 来评估在三个具有缺失值的数据集上生成的数据集元数据的可靠性（包括两个金融数据集 German_Credit 和 Credit_default）。

SelfCheckGPT 是一种大语言模型（LLM）置信度度量指标，它要求 LLM 判断目标句子是否得到所提供样本的支持，从而给出一个置信度分数。该分数的范围为 0 到 100，分数越低表明生成内容中的幻觉程度越低，即置信度越高。实验结果如表4所示。我们发现，所有三个数据集的置信度水平都相对较高。这表明 LLM 能够通过利用数据集元数据和特征名称构建详细提示，基于可用信息提供合理的特征描述。因此，由于我们采用详细且具体的提示，所生成的特征描述是可信的，几乎不存在幻觉问题。表4.三个数据集的 SelfCheckGPT 分数German_Credit：4.16；Credit_Default：12.31；SPECTF：6.815.10 各组件运行时间分析本实验旨在回答以下问题：HRLFS 各组件的时间消耗如何随特征维度的增长而变化？我们记录了四个具有不同特征维度的数据集中各组件的时间消耗，如图13所示。我们发现，探索与优化以及元数据嵌入占据了 HRLFS 总体运行时间的主要部分，且随着特征维度的增加，它们所占的时间比例进一步上升。这表明，GMM 作为一种统计方法，能够高效且精确地提取特征分布，且对维度增长不敏感。用于构建层级智能体的两两合并策略具有 O(log N) 的时间复杂度，即使在特征维度较高的情况下也能高效执行。元数据嵌入随特征维度线性增长，并且需要调用 LLM API，这导致其时间开销迅速增加。此外，探索与优化阶段涉及多智能体层级决策以及通过下游任务进行奖励评估，使其成为主要的时间消耗模块。综上所述，虽然探索与优化和元数据嵌入占据了大部分计算开销，但它们主导了 HRLFS 的性能表现。第5.2节中的分析也证明，我们的方法相较于其他基线方法仍具有显著的运行时间优势。图13.各组件时间消耗的影响5.11 超参数研究在本节中，我们分析了 HRLFS 的两个关键超参数，即 λ（公式(5)）和 α（公式(6)）。较高的 λ 倾向于选择更少的特征，而增大 α 则优先保证性能而非特征紧凑性。我们在 SpectF 数据集上将 λ 和 α 在 0.1–1.0 范围内进行调整实验，结果如图14所示。分析表明，λ 的变化对模型性能影响较小，但会影响所选特征数量——随着 λ 的升高，特征数先减少后增加。这种模式表明，较高的 λ 首先抑制了所选特征规模，但进一步增大后减少了 rtq 的波动，从而允许纳入更多特征。关于 α，增大其值最初通过强调性能目标来提升模型性能。然而，超过一定阈值后，性能下降，因为过大的特征选择会引入冗余。所选特征数量随 α 增加而上升，反映了奖励函数中抑制力度的减弱。这些发现表明，λ 和 α 在平衡特征选择与模型性能方面至关重要。因此，我们选择 λ=0.6 和 α=0.4 以在性能和特征紧凑性之间取得平衡。实验结果证实，λ 和 α 按照我们的目标调节了奖励函数。图14.超参数 λ 和 α 的影响5.12 层级假设的实证验证我们的理论分析受到以下观察的启发：所构建的层级结构趋于近似完美二叉树。为了对这一假设进行实证评估，我们在所有21个数据集上评估了学习到的层级的平衡因子和高度。平均节点平衡因子定义为所有节点左右子树高度差的平均值[65]。具体而言，对于具有左右子树高度 hL(N)、hR(N) 的内部节点 N，定义节点级平衡因子 β(N)=|hL(N)?hR(N)|，平均节点平衡因子定义为：β? := (1/|Nint|) × Σ(N∈Nint) β(N)，其中 Nint 为内部节点集合。在完美二叉树中，该高度差从不超过1，且树高由节点数唯一确定。如图15所示，所有数据集的绝对平衡因子均低于1，且超过80%的数据集落在0.5以内。此外，对于18个数据集，我们所构建层级的高度与对应完美二叉树的高度相差不超过2层。这种高度相似性源于我们的智能体层级构建算法在较早阶段对规模相近的智能体集合进行聚类，自然地促进了平衡分割。总之，平衡性和高度分析均证实，所构建的层级结构在实证上与完美二叉树相似，从而支持了我们假设的有效性。图15.HRLFS 层级结构与完美二叉树的实证对比研究6 相关工作FS（特征选择）。特征选择方法大致可分为三类：基于过滤器的方法、基于封装的方法以及基于嵌入的方法[1]。基于过滤器的方法[4, 5]评估每个特征与预测目标之间或特征之间的统计关系，将度量值低于某一阈值的特征排除。这些方法计算效率高，但无法考虑特征间的交互作用，可能导致冗余或次优的特征子集。基于封装的方法[7, 8, 66, 67]通过迭代训练和评估特定机器学习模型来评估特征子集。然而，随着特征数量的增长，搜索空间变得越来越大，使得这些方法在处理大规模数据集时变得不切实际[28, 68]。基于嵌入的方法[9–11]将特征选择直接集成到模型训练过程中。这种方法允许同时优化特征相关性和模型性能，从而高效地识别相关特征[69–71]。然而，基于嵌入的方法通常与特定类型的模型绑定，限制了其灵活性和向不同下游任务迁移的能力。此外，一些基于嵌入的技术在应用于大型复杂数据集时仍然计算量较大。RL（强化学习）。RL 是一种机器学习范式，智能体通过与环境交互并根据其策略进行学习以做出决策[72]。RL 已成功应用于多个研究领域[73–76]。然而，由于可扩展性和效率方面的限制，经典 RL 算法在处理长程决策任务时往往力不从心[77]。为了克服这些挑战，HRL（层级强化学习）被提出，将决策过程分解为多个抽象层级，从而在复杂任务中实现更高效的学习和规划[78, 79]。在 HRL 的基础上，MAHRL（多智能体层级强化学习）聚焦于多个 HRL 智能体之间的协调与协作[77, 80–83]。例如，Chakravorty 等人[84]研究了协作多智能体系统中时间抽象的学习，而 Yang 等人[85]展示了协作 MARL 算法与单智能体 RL 的集成，前者用于训练高层策略，后者用于低层技能获取。MAHRL 的这些进展启发了我们的方法，我们在 MAHRL 框架内采用了分而治之的策略。基于 RL 的特征选择。HRL 已被广泛应用于将基于封装的特征选择重构为目标导向的序列决策问题，从而实现迭代子空间探索。在早期阶段，Liu 等人[24]提出了单智能体-全特征框架，但该框架可扩展性差且时间复杂度高（在高维数据上为 O(N)）。Liu 等人[25]引入了分配 OAPF 的 MARL 架构，但智能体数量的二次增长很快变得难以承受。基于分组和交互方式的智能体方法[27, 28]通过简单的统计准则对特征进行聚类，从而缩短决策视界，但它们忽略了语义和上下文关系，导致冗余或次优的选择[29, 30]。受到 HRL 在长程任务中成功应用的启发[78, 79]，我们采用分而治之的 MAHRL 框架，首先对特征进行语义聚类，然后为每个聚类分配协作的层级智能体，从而同时提升可扩展性、效率和下游性能。7 结论与展望本文研究了从复杂数据集中探索特征子空间的挑战。具体而言，我们通过混合特征状态提取（理解）、层级智能体初始化（划分）以及探索与优化（征服），将特征选择问题重构为 MAHRL 框架。我们对 HRLFS 进行了全面评估，展示了其在不同任务和领域的各种数据集上的高效、优越且鲁棒的性能。8 局限性与讨论HRLFS 依赖于元数据和特征名称来生成特征描述，这使其容易受到对抗性或恶意构造的输入的影响，这些输入可能会破坏生成的描述。此外，当前的设计和评估仅限于表格数据。将该框架扩展到时间序列、图像或音频等高维模态仍然是一个开放性的挑战。最后，当前的表述聚焦于标准的监督学习任务（分类和回归）。将 HRLFS 适应于更多样化的下游目标——包括生存分析、异常检测和因果推断——是一个极具前景的未来研究方向。为了更好地使用 HRLFS，我们准备了以下三个方面的工业化说明。(1) 稀疏元数据的冷启动问题。对于稀疏元数据（例如未标注的合成数据集），当语义嵌入 ei 不可用时，HRLFS 将语义向量设为零值，并回退到仅依赖分布的状态（θi*，优化后的 GMM 参数）。这保留了核心的聚类和智能体决策逻辑，通过数学特征特性维持特征选择性能。(2) 监测所选特征漂移。我们跟踪 HRLFS 特征聚类的两个漂移指标：(i) GMM 参数 θi*（μ, σ）的统计漂移，以及 (ii) 在留出数据上的任务性能漂移。漂移触发将启动特征子空间的重新探索，以在非平稳分布下保持最优性。(3) 大规模 LLM 嵌入的成本控制。对于大规模数据集，通过轻量级开源模型（例如 Qwen3-Embedding-0.6B [86]）进行本地化部署来控制 LLM 嵌入成本。当特征数量超过 10? 时，对特征进行抽样以平衡嵌入的准确性和计算成本。(4) 重训练频率与特征变更。HRLFS 的重训练频率与特征变更率保持一致：(i) 变更率低于5%：轻量级策略重训练；(ii) 变更率为5–20%：完整特征重新聚类加策略微调；(iii) 变更率超过20%：完整的 HRLFS 重训练。静态数据集仅在任务目标/评估指标发生变化时才需要重训练。