MTP：一种用于人工智能集成编程的基于意义类型的语言抽象机制

《Proceedings of the ACM on Programming Languages》：MTP: A Meaning-Typed Language Abstraction for AI-Integrated Programming

MTP范式通过语义丰富的代码抽象LLM集成，实现自动提示生成与响应处理，减少开发复杂度。在Jac语言中验证显示，开发效率提升3.2倍，代码量减少45%，且对命名规范鲁棒性达50%。

　　

摘要

软件开发正从传统的编程方式转向基于人工智能（AI）的应用程序，这些应用程序在运行时利用生成式AI和大型语言模型（LLMs）。然而，集成LLMs仍然非常复杂，开发者需要手动编写提示并处理输出结果。现有的工具试图辅助提示工程，但往往会增加额外的复杂性。

本文提出了一种名为“Meaning-Typed Programming (MTP)”的新范式，它通过直观的语言级结构来抽象LLMs的集成过程。MTP利用代码固有的语义丰富性，自动完成提示生成和响应处理，无需开发者额外投入精力。我们介绍了以下关键技术：(1) by操作符，用于无缝调用LLMs；(2) MT-IR，一种基于语义的中间表示方法，用于提取信息；(3) MT-Runtime，一个自动管理系统与LLMs交互的系统。我们在Python的超集编程语言Jac中实现了MTP，发现MTP显著降低了编码复杂性，同时保持了准确性和效率。与现有方法相比，MTP大幅减少了开发复杂性、所需的代码修改量以及成本，同时提升了运行时性能，并保持了或超过了现有方法的准确性。用户测试表明，使用MTP的开发者完成任务的速度提高了3.2倍，代码行数减少了45%。此外，即使在命名规范降低50%的情况下，MTP仍表现出良好的适应性，显示出对次优代码的鲁棒性。MTP是作为Jaseci开源项目的一部分开发的，可通过模块byLLM获取。