MyGPT：一个解决隐私与幻觉问题的开源检索增强生成平台

《Nature Communications》：Democratizing reliable knowledge-seeking with MyGPT: a privacy-first, open-source retrieval-augmented generation platform

　　

摘要

大语言模型（LLMs）已经改变了知识发现的格局，但由于隐私问题和数据泄露风险，它们在敏感领域的应用受到了限制。此外，当被查询训练数据之外的信息时，大语言模型可能会出现"幻觉"现象，从而损害其在科学、临床或政策相关任务中的可靠性。我们提出MyGPT，一个完全开源的、隐私保护型的检索增强生成（RAG）平台，使用开源大语言模型，可本地运行或在安全的机构环境中运行。MyGPT使用户能够查询用户自定义的库，包括生物医学文献、保密的临床文档和多语言的全球健康政策，同时确保敏感数据永远不会离开安全环境。我们引入了置信度指标，包括"相关性分数"和"幻觉指数"，并在单一界面内提供来自库的明确来源引用，以评估生成答案的上下文支持程度。MyGPT为商业大语言模型服务提供了一个经济高效的、模块化的开源替代方案，并使知识探索在不同领域中得以普及，包括在没有互联网连接的偏远设施中的使用。