城市环境中的实时空间检索增强生成技术

《ACM Transactions on Intelligent Systems and Technology》：Real-time Spatial Retrieval Augmented Generation for Urban Environments

　　

摘要AI总结

要查看此由AI生成的总结，您需要拥有高级访问权限。

了解更多信息登录

摘要

摘要

生成式人工智能，尤其是大型语言模型，通过城市基础模型为城市应用带来了变革性机遇。然而，这些基础模型存在局限性，因为它们仅包含训练时的知识，且更新它们既耗时又昂贵。检索增强生成技术作为一种将上下文信息注入基础模型的方法，在相关研究中备受青睐。与微调等技术在动态、实时的城市环境中的效果相比，它更具优势。不过，基于语义数据库、知识图谱、结构化数据或AI驱动的网络搜索的传统RAG架构，并不能完全满足城市环境的需求。城市环境是复杂的系统，具有大量相互关联的数据、频繁的更新需求、实时处理要求、安全保障需求以及与物理世界的紧密联系。本研究提出了一种实时空间RAG架构，通过链接数据实现时间与空间的过滤功能，从而有效将生成式AI整合到城市中。该架构采用FIWARE来实现，FIWARE是一个用于开发智慧城市解决方案和数字孪生的软件组件生态系统。通过马德里市的旅游助手以及交通信号灯和照明设备管理这两个用例，展示了该架构的设计与实现方式。这些用例可用于验证通过所提出的RAG架构对基础模型的正确整合。同时，它们也有助于分析当前模型的局限性，比如即便信息在模型的上下文窗口范围内，模型也无法处理大量信息，以及基于变换器架构的大型语言模型因逐个生成输出而导致的较高延迟问题。

AI总结

AI生成的总结（实验性）

此总结是由自动化工具生成的，未经文章作者撰写或审核。它旨在帮助读者发现相关内容、评估文章的相关性，以及让相关领域的读者理解本文内容。它是对作者提供的摘要的补充，后者仍是文章的主要总结。完整文章才是权威版本。点击此处了解更多。

点击此处，可以对此总结的准确性、清晰度及实用性发表意见。您的反馈将有助于改进未来的总结版本。

要查看此由AI生成的通俗语言总结，您需要拥有高级访问权限。