今日动态 返回首页
会员注册 登录 生物通快讯免费订阅
  • 首页 今日动态 人才市场 新技术专栏 中国科学人 云展台
    BioHot
    • 定制我的BioHot
    • 进入我的BioHot
    • 进入我的集采
    • 肿瘤癌症研究
    • 免疫/基因/细胞疗法
    • 神经生物学
    • 健康与疾病
    • 衰老机制与长寿
    • 单细胞技术
    • 基因编辑-CRISPR
    • RNA研究
    • 肠道菌与人体微生态
    • 细胞代谢
    • AI生物信息学
    • COVID
    云讲堂直播 会展中心 特价专栏 技术快讯 免费试用

  • 生物通官微
    陪你抓住生命科技
    跳动的脉搏

生物通首页  >  今日动态  >  正文

大型语言模型毒性问题的系统综述:定义、数据集、检测工具、去毒方法及面临的挑战

《ARTIFICIAL INTELLIGENCE REVIEW》:A systematic review of toxicity in large language models: definitions, datasets, detectors, detoxification methods and challenges

【字体: 大 中 小 】 时间:2026年07月04日 来源:ARTIFICIAL INTELLIGENCE REVIEW 18.8

编辑推荐:

  摘要Transformer架构的出现开启了新的可能性时代,其在生成任务中展现出了卓越的能力,GPT4o、Claude 3和Llama 3等模型便是明证。然而,这些进步也存在一个问题:由于这些系统主要在社交媒体平台上的数据上训练,它们无意中会延续社会中的偏见与有害内容。鉴于人工智能

  

摘要

Transformer架构的出现开启了新的可能性时代,其在生成任务中展现出了卓越的能力,GPT4o、Claude 3和Llama 3等模型便是明证。然而,这些进步也存在一个问题:由于这些系统主要在社交媒体平台上的数据上训练,它们无意中会延续社会中的偏见与有害内容。鉴于人工智能安全与对齐的重要性,我们的研究通过全面梳理有关有害语言的文献,对这一问题进行了深入探讨。我们研究了各种定义、检测方法以及缓解策略,旨在揭示这一问题的复杂性。我们的研究主要聚焦于基于Transformer的架构,同时以深度学习方法作为比较基准,用于分析有害语言的检测与缓解机制。通过研究,我们发现了有害内容检测与缓解模型中存在的诸多挑战,这些问题包括固有偏见和泛化问题,以及对有害语言的标准化定义需求和数据集标注的质量保障问题。此外,我们还强调了透明标注流程、解决标注分歧以及提升大型语言模型鲁棒性的重要性。同时,我们倡导建立标准化评估指标,以衡量有害内容检测与缓解方法的有效性。应对这些挑战不仅十分必要,更是推动开发更安全、更具伦理合规性的人工智能系统的关键。

Transformer架构的出现开启了新的可能性时代,其在生成任务中展现出了卓越的能力,GPT4o、Claude 3和Llama 3等模型便是明证。然而,这些进步也存在一个问题:由于这些系统主要在社交媒体平台上的数据上训练,它们无意中会延续社会中的偏见与有害内容。鉴于人工智能安全与对齐的重要性,我们的研究通过全面梳理有关有害语言的文献,对这一问题进行了深入探讨。我们研究了各种定义、检测方法以及缓解策略,旨在揭示这一问题的复杂性。我们的研究主要聚焦于基于Transformer的架构,同时以深度学习方法作为比较基准,用于分析有害语言的检测与缓解机制。通过研究,我们发现了有害内容检测与缓解模型中存在的诸多挑战,这些问题包括固有偏见和泛化问题,以及对有害语言的标准化定义需求和数据集标注的质量保障问题。此外,我们还强调了透明标注流程、解决标注分歧以及提升大型语言模型鲁棒性的重要性。同时,我们倡导建立标准化评估指标,以衡量有害内容检测与缓解方法的有效性。应对这些挑战不仅十分必要,更是推动开发更安全、更具伦理合规性的人工智能系统的关键。

相关新闻
生物通微信公众号
生物通新浪微博
微信
新浪微博
我要投稿
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热搜:人工智能安全|AI 对齐|Transformer 架构|有害语言辨析|伦理合规性评估

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号