CarbonWise CX：一种基于代理式AI的框架，用于利用RAG（Retrieval-Augmentation）和基于LLM（Large Language Model）的代码生成技术，实现碳意识客户支持分析

《IEEE Women in Engineering Magazine》：CarbonWise CX: An Agentic AI Framework for Carbon-Aware Customer Support Analytics Using RAG and LLM-Based Code Generation

　　

摘要：

组织积累了大量的结构化和非结构化的客户支持数据，但现有的系统（如SQL查询和固定仪表板）仍然存在响应延迟的问题，这导致运营成本增加以及云资源使用效率低下。本项目旨在开发一种基于云原生技术和人工智能驱动的分析系统，以改进企业的决策流程，同时不违背绿色云计算的原则。该系统名为CarbonWise CX，它结合了检索增强生成（Retrieval-Augmented Generation, RAG）技术来进行定性推理，并利用大型语言模型（LLM）进行定量决策；同时支持可扩展的云部署版本。系统通过一个智能决策层处理自然语言查询，自动选择合适的分析工作流程。其中一项创新是“碳意识云路由”功能，该功能能够根据当前的碳排放强度动态选择执行区域，同时保持原有的延迟和服务水平协议（SLA）要求。在AWS EC2上部署的CarbonWise CX系统通过模块化架构，在多区域工作负载测试中实现了每条查询碳排放量减少34.6%的效果。此外，通过对8,469条实际客户支持记录的分析，发现该系统比传统工作流程减少了62.3%的手动任务，并将查询响应时间缩短了41.8%。CarbonWise CX的实施显著提升了服务水平协议合规性（提高了29.5%），优化了云资源使用效率（提高了36.7%），并大幅减轻了分析师的工作负担。该架构展示了人工智能与绿色云计算如何结合，提供智能、可扩展且环保的客户体验分析服务。本文符合联合国的可持续发展目标...

显示更多