INSYTE：一种用于传统人工智能系统到自主式人工智能系统的分类框架

《ACM Transactions on Autonomous and Adaptive Systems》：INSYTE: A Classification Framework for Traditional to Agentic AI Systems

INSYTE框架通过八个维度（系统设计、功能、环境、独立性）对AI系统进行多维度分类，生成雷达图可视化，解决了现有框架的粗放、单一和无法适应代理AI系统等问题，并与OECD定义对齐，适用于跨领域安全评估与协作。

　　在人工智能和自主系统领域，随着技术的快速发展，传统的分类框架已经难以满足当前智能系统的需求。本文提出的INSYTE框架旨在解决这一问题，通过引入多维度的分类方式，对从传统规则系统到先进的具身AI系统进行更精准的分类。这一框架不仅适用于各类AI系统，还特别关注“代理AI系统”，即那些能够在有限直接监督下实现复杂目标的系统。INSYTE框架通过八个维度的分析，能够更全面地描绘AI系统的能力和特性，从而为不同领域的系统提供一个统一的评估标准。

传统的分类方法，如“自动化等级”（Levels of Automation, LoA），通常以单一维度来衡量系统自主性，这种做法虽然在早期的自动化讨论中起到了重要作用，但随着AI技术的进步，其局限性逐渐显现。LoA框架往往缺乏足够的细节，难以准确描述系统的复杂性和多样性，而且在不同领域中的应用存在不一致。此外，它未能充分反映AI系统设计、功能复杂度和操作环境的多样性，导致对代理AI系统的分类不够精准。这些问题在INSYTE框架中得到了解决。通过将系统特征分为八个维度，该框架提供了更细致的分类视角，使得不同系统可以在多个维度上进行比较和评估，而不仅仅是单一等级的划分。

INSYTE框架的核心在于其多维的分类方式，它将系统特性分为四个主要类别：系统设计（包括“未指定性”和“适应性”）、系统功能（包括“功能广度”和“功能深度”）、操作环境（包括“环境多样性”和“环境动态性”）以及操作独立性（包括“对干预的独立性”和“对监督的独立性”）。每个维度都有从0到5的等级划分，其中0表示系统在该维度上几乎没有能力，而5则表示系统在该维度上达到了最大程度的自主性和适应性。这种分级方式不仅能够帮助用户更细致地理解系统的行为和性能，还能够提供一个直观的视觉工具——雷达图，以展示系统在各个维度上的表现。通过雷达图，用户可以迅速把握系统的整体能力，并对各个具体特性进行深入分析。

为了确保INSYTE框架的广泛适用性，其构建过程考虑了多个因素。首先，基于作者们在“保障自主性”国际项目中的25个示范项目，获取了大量关于AI系统和自主系统的设计、功能和操作环境的见解。这些项目涵盖了医疗、交通、制造、农业等多个领域，提供了丰富的实践案例。其次，作者们参考了现有的分类框架，包括LoA和其他多维框架，以确保INSYTE能够弥补这些框架的不足。例如，一些现有框架在描述AI代理的复杂性、环境变化和操作独立性方面存在局限，而INSYTE则通过八个维度的细致划分，能够更全面地覆盖这些特性。此外，框架的构建还结合了对前沿AI模型的研究，特别是大型语言模型（LLMs）和具身AI系统的能力扩展，确保其适用于当前最先进的系统。

INSYTE框架的另一个关键优势在于其灵活性。不同于传统的单一等级分类方法，该框架允许用户根据不同的需求和目标，对各个维度进行独立评估。这种灵活性使得不同系统可以在同一框架下进行比较，无论它们在哪个维度上的表现如何。例如，一个高度自动化但缺乏适应性的系统可能在“环境动态性”维度上得分较低，而在“功能深度”维度上得分较高。通过这样的多维分析，用户可以更全面地理解系统的整体能力，并据此做出更合理的决策。

为了支持用户应用INSYTE框架，作者们开发了一个在线工具，它包含一个引导用户逐步评估系统各个维度的表格，并提供雷达图生成功能，以帮助用户创建和下载系统的INSYTE模式。该工具的设计考虑到了用户的实际需求，包括界面的友好性、操作的便捷性以及数据的安全性。所有用户输入的数据仅存储在浏览器的本地存储中，确保了隐私保护。此外，该工具还提供了多种系统示例，以帮助用户更好地理解各个维度的含义和评估标准。

在框架的评估过程中，16名参与者进行了两轮测试。第一轮测试中，作者们根据反馈对框架和工具进行了优化，例如提高了等级描述的清晰度，并增加了更多示例以帮助用户理解。第二轮测试的结果显示，大多数参与者认为INSYTE框架在使用上是可行的，并且在多个方面具有较高的实用性。例如，参与者指出，该框架能够帮助不同背景的人员（如工程师、安全专家和非技术人员）更好地沟通和理解系统的特点。此外，框架的多维特性使得它能够用于风险评估、安全保证和跨行业标准制定。

从实际应用的角度来看，INSYTE框架具有广泛的适用性。它不仅可以用于医疗、交通、制造等传统领域，还可以适用于新兴的AI应用，如智能助手、自动驾驶系统和机器人。在医疗领域，INSYTE可以帮助评估AI系统在临床决策支持中的表现，以及其对患者安全的影响。在交通领域，它能够帮助设计更安全、高效的自动驾驶系统，确保其在复杂环境中的适应性和独立性。在制造业中，该框架可用于评估自动化系统的功能广度和深度，以确保其能够胜任多样化的任务需求。此外，INSYTE还能够支持安全工程和监管实践，通过多维度的分析，帮助识别潜在风险，并制定相应的应对策略。

对于安全工程而言，INSYTE框架提供了一种系统化的方法，以评估和管理AI系统的风险。在系统设计、功能和操作环境的各个维度上，框架可以帮助安全工程师识别可能导致危险的特征组合，例如高适应性与高环境动态性的结合。这使得他们能够更全面地考虑系统在不同情境下的表现，并采取相应的措施来降低风险。此外，该框架还支持跨行业和跨组织的沟通，使得不同背景的人员能够在统一的标准下讨论系统的安全性和适用性。

在监管方面，INSYTE框架能够为政策制定者提供一个更加精细的分类标准。许多国家和地区正在制定基于风险的AI监管框架，而INSYTE能够帮助识别高风险系统，并区分其在不同维度上的表现。例如，一个系统可能在功能广度上表现出色，但在环境动态性上较为薄弱，这使得其在动态环境中运行的风险较低。通过这样的分析，监管机构可以更有针对性地制定标准，确保AI系统的安全性和可控性。此外，该框架还能够支持安全保证的实践，通过多维度的评估，确保系统在部署前达到预期的安全水平。

INSYTE框架还能够支持法律和责任的讨论。在AI系统的开发和应用过程中，责任归属问题是一个重要议题。通过分析系统在各个维度上的表现，该框架可以帮助法律专业人士评估系统在事故中的责任分配。例如，如果一个系统在“对监督的独立性”维度上得分较高，意味着其在运行过程中较少依赖人类的实时监督，这可能会影响责任的界定。同时，框架的多维特性也使得其能够用于事故后的分析，帮助识别系统设计中的潜在问题。

尽管INSYTE框架具有诸多优势，但在实际应用中仍然面临一些挑战。例如，对于某些高度复杂的系统，评估其在各个维度上的表现可能需要更多的专业知识和经验。此外，不同行业和领域对系统特性的理解可能存在差异，这可能会影响框架的统一应用。因此，作者建议在应用该框架时，最好由跨职能团队共同参与，以确保评估的全面性和准确性。

总之，INSYTE框架为AI系统和自主系统的分类提供了一个更加全面和细致的方法。通过八个维度的分析，它能够帮助用户更深入地理解系统的复杂性，并支持跨行业、跨组织的沟通和协作。该框架不仅适用于当前的AI系统，还能够适应未来技术的发展，为AI监管和安全保证提供一个坚实的基础。随着AI技术的不断进步，INSYTE框架的适用性和重要性将进一步凸显，成为智能系统分类和评估的重要工具。