《Nutrients》:When the Algorithm Becomes the Dietitian: Large Language Model Hallucinations, Algorithmic Food Environments, and the Erosion of Nutritional Autonomy
编辑推荐:
大型语言模型(Large Language Models, LLMs)能够回答饮食相关问题,但其作为注册营养师替代品的使用程度仍未得到充分量化。评估已发现营养目标不准确、临床建议不完整以及个性化不足,同时在一些一般营养任务上表现出有用性能。社交媒体和食品配送界
大型语言模型(Large Language Models, LLMs)能够回答饮食相关问题,但其作为注册营养师替代品的使用程度仍未得到充分量化。评估已发现营养目标不准确、临床建议不完整以及个性化不足,同时在一些一般营养任务上表现出有用性能。社交媒体和食品配送界面也可能通过食物线索、社会认同和选择架构影响饮食选择。这一概念性观点提出了ADRIFT(通过信息、框架和技术机制进行算法饮食重构,Algorithmic Dietary Reconfiguration through Informational, Framing, and Technological mechanisms)框架,以考察这些影响可能如何相互作用。基于对营养学、行为学、神经科学和人工智能文献的针对性非系统性综合,ADRIFT区分了三个轴:信息错误和缺乏支持的建议;通过内容和界面设计进行的框架设定;以及适应性个性化和认知委托。直接证据支持部分组成机制,但它们在减少营养自主性的反馈回路中的汇聚仍属假设。研究人员提出了一个涵盖幻觉和相关营养错误的六类分类法,将营养自主性侵蚀定义为知情、自主饮食决策能力下降,并概述了八个可检验的假设。该框架涉及无监督使用,并不预测语言模型将取代营养专业人员。需要进行纵向验证、平台实验和临床安全评估,以确定所提出的危害是否发生、发生在哪些人群以及何种条件下。
数字平台正在深刻改变人们接触食品信息、接收饮食相关内容和寻求营养指导的方式。社交媒体中的食物图像、影响力人物建议和商业推广,食品配送界面的选项呈现与排序,以及通用大型语言模型(Large Language Models, LLMs)对饮食问题的即时