基于多任务学习与大语言模型的光伏功率概率预测方法研究

针对光伏功率中短期概率预测数据稀缺难题，研究团队创新性地融合多任务学习与大语言模型(LLM)，提出LLaMA-DCBL框架。通过小波分解处理时序数据，结合预训练LLaMA的零样本/少样本泛化能力，采用扩张卷积双向LSTM适配器微调，实现周尺度预测精度112.16%的提升，为电力系统调度提供可靠不确定性量化工具。

　　

随着全球光伏装机容量从2019年113GW激增至2023年462GW，光伏发电的间歇性对电网调度构成严峻挑战。传统机器学习方法在数据稀缺条件下难以实现可靠的中期功率预测，特别是周尺度的概率预测尚属研究空白。这一瓶颈严重制约了电力市场的交易策略优化和可再生能源消纳效率。

江西省教育厅科技研究项目(GJJ2403005/GJJ2403008)支持的研究团队创新性地将自然语言处理领域的大语言模型(LLM)引入能源预测领域。研究人员发现，光伏功率时序数据与语言序列具有相似的上下文依赖特性，而Meta公司开发的LLaMA模型(LLaMA)凭借其旋转位置编码和多头因果注意力机制，能有效捕捉非线性特征。团队通过小波分解将原始功率曲线转化为平滑子频段，结合多任务学习提取共享特征，显著提升了零样本/少样本条件下的预测鲁棒性。

关键技术包括：1) 小波分解预处理时序数据；2) 基于LLaMA架构构建预测模型；3) 设计扩张卷积双向LSTM(DCBL)适配器进行任务微调；4) 集成直接概率预测方法量化不确定性。实验采用中国西北地区两座光伏电站的实际运行数据，对比现有基准模型验证性能。

【Background】
研究指出光伏并网规模扩大导致电网稳定性风险，现有预测方法多集中于短期确定性预测，缺乏对周尺度概率分布的建模能力。

【LLaMA for PV power forecasting】
通过改造LLaMA的Transformer架构，利用其旋转位置嵌入(RoPE)和RMS层归一化处理时序特征，解决了传统RNN模型长期依赖捕捉不足的问题。

【LLaMA-DCBL and multi-task learning】
创新性地引入扩张卷积扩大感受野，结合双向LSTM捕获前后向上下文信息，适配器结构使预训练模型能快速适应特定电站数据特征。

【Data description】
采用中国国家电网调度AI创新竞赛发布的真实数据，在排除气象变量干扰条件下，验证模型在数据稀缺场景的泛化能力。

【Conclusion】
该研究实现了周预测区间锐度指标112.16%的提升，其创新点在于：1) 首次将LLM应用于能源时序预测；2) 多任务学习框架增强特征共享；3) DCBL适配器平衡模型微调效率与精度。这项工作为可再生能源高比例接入电网提供了关键决策支持工具，相关成果发表于《Renewable Energy》。研究同时指出，未来可探索气象因子融合预测以进一步提升模型解释性。