《Future Generation Computer Systems》:Building predictive models through human-guided machine learning: A tool for non-experts
编辑推荐:
摘要(专业译文)
机器学习(Machine Learning,ML)的民主化(Democratizing ML)要求不具备技术背景的人员能够在保持对建模过程有效掌控的前提下,构建可用的预测模型。以人为中心的人工智能(Human-Centered Artific
摘要(专业译文)
机器学习(Machine Learning,ML)的民主化(Democratizing ML)要求不具备技术背景的人员能够在保持对建模过程有效掌控的前提下,构建可用的预测模型。以人为中心的人工智能(Human-Centered Artificial Intelligence,HCAI)与人类引导的机器学习(Human-Guided Machine Learning,HGML)倡导在ML全生命周期中引入主动用户参与,以同时实现高人类控制与高自动化。研究人员提出并实现了InsuML(INteractive SUpport for non-expert users in Machine Learning):一款免费开源、具备图形用户界面(Graphical User Interface,GUI)的桌面应用,面向表格数据(tabular data)落实HGML各阶段,将用户决策转化为合法的自动化机器学习(AutoML)配置。研究人员在14个OpenML数据集上开展用户研究,招募17名无ML经验的最终用户,通过两类证据进行评估:一是将引导式工作流与无人类引导的默认配置性能对比,二是依据HCAI准则设计问卷收集受试者反馈。结果表明,遵循引导流程的非专家用户在多数数据集上获得了优于默认配置平均水平的模型,且用户认可工具易用性与自动化能力。这证明无ML专业背景的终端用户可在持续参与控制的前提下,借助InsuML构建高质量预测模型。
研究背景与问题提出
传统机器学习建模高度依赖数据科学家与工程经验,领域专家难以直接将业务知识转化为可用模型。自动化机器学习(AutoML)虽可封装数据预处理、特征工程、算法选择与超参数优化,但多数方案偏向“自动化优先”的黑箱范式:用户难以理解决策路径、难以注入领域约束,对偏差与不公平风险也缺乏透明干预手段。以人为中心的人工智能(HCAI)强调将自动化水平与人类控制水平解耦为双独立维度,追求“高自动化+高人类控制”的协同区间;人类引导的机器学习(HGML)则把该理念落到ML流水线中,让领域专家在数据处理、模型开发与结果解释阶段持续引导搜索。现有HGML框架多停留于理论层,少数配套软件面向AI专家而非终端用户。因此,亟需一套开源、低门槛、可解释、能把非专家领域判断翻译成AutoML配置的工具。
研究人员开展的工作与结论
研究人员构建了InsuML系统,并以Ludwig引擎为底层AutoML后端,通过三层架构(界面层、核心逻辑层、AutoML层)把变量选择、缺失值策略、搜索预算、评估指标等人类决策映射为合法配置。研究在14个公开表格数据集(含二分类、多分类与回归)上组织17名无ML背景用户完成引导式建模,并与同数据集下纯默认配置(无人类引导)结果配对比较,同时用HCAI维度化问卷度量可用性、可配置性与可解释性。核心结论为:非专家沿引导流程在14个数据集中11个取得正向平均提升(虽置信区间未全部显著),且训练耗时更短;用户满意度均值3.96/5,自动化与易用性评分最高。意义在于验证了“人类控制叠加自动化”可兼顾模型质量与用户主体性,为ML民主化提供可复现软件原型与评估范式。
主要关键技术方法
研究采用的关键方法包括:基于PySide6的图形化引导流水线,覆盖数据载入、训练配置、评估与预测页签;以Ludwig(v0.17.9)声明式YAML配置承载神经网络的自动架构搜索与超参数优化;固定20%分层留出测试集并与受试者所用随机种子配对,保证引导组与无引导组可比;HGML阶段映射表把变量/实例/指标控制权交还用户,计算与搜索交由引擎;用户实验采用级联轮转分配14个OpenML数据集,记录测试集指标与训练时长;统计上用Student t分布计算配对差异的95%置信区间;最后按HCAI框架将18项李克特题归为易用性、流水线可配置性、信息可解释性、自动化四类做定性量化。
研究结果解读
相关工作中的HGML与AutoML定位
综述表明HCAI提供双维度设计哲学,HGML在数据中用变量/实例选择、开发中用模型与参数引导、解释中用对比与敏感性分析来落地。对比已有HGML框架,多数缺非专家级软件;免费AutoML工具在HCAI框架下或偏自动化或偏可配置,少有同时高分。InsuML补上“端到端可操作+非专家可懂”的空缺。
系统:InsuML设计
界面用侧边栏导航从数据到预测分步引导,训练前展示默认项与用户项摘要以防黑箱。架构上界面层做输入校验,核心层把选择转成Ludwig局部配置,AutoML层执行训练与调参。用户不能手选模型族(受限于Ludwig仅神经网络),但可定搜索策略、迭代次数、时间预算、早停、缺失值填充与不平衡处理;系统自动做编码、切分与超参搜索。
评估:数据集、终端用户研究、无引导基线
14个OpenML数据集覆盖AUC、准确率、MAE、RMSE等场景。17名无ML经验计算机工程学生各做两小时会话,级联使用数据集,保留每对“数据集—种子”最优测试成绩。无引导实验用相同代码与默认配置、固定千秒预算、同种子切分,作为自动化极值参照。
引导与无引导实验对比
在配对评价中,引导组平均指标在11/14数据集优于无引导组:分类AUC最多+0.046(credit-g),多分类准确率最多+0.050(cmc),回归误差在cholesterol与plasma_retinol亦更低;仅cloud与liver-disorders略差,breast-w持平。所有95% CI含0,故不作显著断言,但方向与训练效率(引导组121–287s vs 无引导477–757s)支持“领域轻量引导有收益”。
HCAI视角下的用户评价
问卷总均3.96/5。自动化(4.47)与易用性(4.21)最高,步骤清晰、愿意托付未配置步骤;可配置性(3.80)与可解释性(3.78)偏弱,尤其“理解选项含义”仅3.06、“能向他人解释结果”3.59。说明工具降低操作门槛成功,但在选项语义透明、错误恢复与结果信任校准上仍须增强。
讨论与结论(翻译浓缩)
讨论指出,引导式流程在多数数据集上较纯默认配置更优,且用户保持控制感与满意感,证明HCAI“高自动化×高人类控制”可行。InsuML相对既有HGML贡献在于:首个面向非专家、开源、可评估的端到端桌面系统,把领域知识轻量注入AutoML而不牺牲自动化。
结论部分直译:研究人员开发了InsuML,以开源桌面应用形式把HGML阶段具象化;用户研究表明无ML经验者也能在引导中获得不劣于甚至优于默认AutoML的模型,并认可其易用与可控。该系统推进了预测建模的民主化,未来可在模型族扩展、解释增强与真实场景验证上继续迭代。
你希望把这份评审解读压缩成可用于投稿系统的“审稿意见初稿”还是“论文亮点摘要”?