《Remote Sensing in Ecology and Conservation》:Listening to the City: Evaluating BirdNET Reliability and Bias in Urban Bird Community Assessments
编辑推荐:
BirdNET正越来越多地被用于被动声学监测(PAM),但其在高水平人为噪声的城市环境中的可靠性仍知之甚少。研究人员通过分析意大利都灵和佛罗伦萨两座城市超过4300份10分钟音频记录(总计约723小时音频),并对每个物种最多人工验证500个检测片段,评估了Bi
BirdNET正越来越多地被用于被动声学监测(PAM),但其在高水平人为噪声的城市环境中的可靠性仍知之甚少。研究人员通过分析意大利都灵和佛罗伦萨两座城市超过4300份10分钟音频记录(总计约723小时音频),并对每个物种最多人工验证500个检测片段,评估了BirdNET的性能。总体而言,BirdNET在佛罗伦萨检测到203种,在都灵检测到192种,其中许多为两城市共有。研究人员使用BirdNET Analyzer量化了真阳性与假阳性,表征了错误分类类型,比较了季节性过滤与全年物种列表下的分类器性能,并估算了物种特异性置信阈值。BirdNET高估了物种丰富度,且相当比例的检测物种无法通过人工审核确认:仅都灵的48种和佛罗伦萨的65种被验证为真实存在,分别相当于58%和52%的检测物种为错误检测。与全年列表相比,在两座城市采用季节性过滤物种列表均提高了精确度(都灵提高11.2%,佛罗伦萨提高8.2%)。大多数错误分类源于生物声(与其他鸟类物种的混淆),其次为人为声,如交通噪声和人声。尽管存在这些错误,总体分类性能良好,段级精确度在都灵达到0.704,在佛罗伦萨达到0.780。最优置信阈值在物种间差异很大,并在城市间存在差异,反映了当地噪声条件和群落组成,突显了场地特异性校准的必要性。研究结果表明,尽管BirdNET能够有效支持城市生物多样性监测,但其性能高度依赖于环境和物种。应用生态过滤器和校准物种特异性置信阈值对于减少错误分类并提高复杂城市声景中自动化声学数据的可靠性至关重要。
论文解读
一、研究背景
被动声学监测(PAM)已成为当代野生动物研究的重要工具,能够以非侵入方式记录物种存在与行为模式。然而,PAM产生海量音频数据,人工处理耗时费力且易受观察者偏差影响,因此亟需自动化分析方案。以卷积神经网络(CNN)为代表的机器学习方法为声学数据处理提供了高效途径,其中BirdNET作为开源工具已获得广泛验证,但多数评估集中于单物种,多物种识别尤其在城市高噪声声景中的可靠性仍不清楚。城市声景以人为噪声为主,可能掩盖或改变生物声信号,进而影响自动检测准确性。因此,研究人员在意大利都灵和佛罗伦萨两座城市开展研究,旨在评估BirdNET在城市环境中的分类性能,量化假阳性来源,并检验季节性物种过滤与物种特异性置信阈值对精度的提升作用。
二、研究方法概述
研究人员于2024年春季在都灵(5月28日至6月6日)和佛罗伦萨(5月6日至13日)的城市绿地区域内部署了AudioMoth自动录音单元,每小时记录10分钟音频,共获得4339个文件(都灵2533个,佛罗伦萨1806个)。使用BirdNET(置信阈值0.3)分别以全年物种列表和季节性过滤列表进行检测;利用BirdNET Analyzer的“Segments”功能生成3秒片段,每个物种最多人工审核500个检测片段,由两名标注者独立判定真阳性与假阳性,并将错误分类分为生物声、人为声和地球物理声三类。通过逻辑回归估算物种特异性置信阈值(0.85、0.90、0.95、0.99),并用Spearman相关和Wilcoxon符号秩检验比较城市间差异。样本来源为两城市绿地区域,时间与部署信息已注明。
三、研究结果
BirdNET在佛罗伦萨全年列表检测203种、季节性列表136种;在都灵分别为192种和113种。人工审核确认,全年列表下佛罗伦萨正确检出65种、都灵50种;季节性列表下佛罗伦萨65种、都灵48种。在季节性分析中,都灵58%的检测物种未获确认,佛罗伦萨为52%,表明BirdNET显著高估物种丰富度。
段级精度方面,季节性列表下都灵为0.704(真阳性10514次,假阳性4416次),佛罗伦萨为0.780(真阳性11979次,假阳性3373次)。使用全年列表使精度分别下降0.112(都灵)和0.082(佛罗伦萨),说明应用季节性过滤可有效提升分类精度。此外,季节性列表在都灵遗漏了两个真实存在物种:欧亚角鸮(Otus scops)和苍雨燕(Apus pallidus)。
城市间比较显示,物种级精度在佛罗伦萨和都灵间呈显著正相关(全年列表Spearman ρ=0.70,p<0.001;季节性列表ρ=0.65,p<0.001),但Wilcoxon检验表明佛罗伦萨的精度显著高于都灵(全年和季节性均显著)。少数物种如火冠戴菊(Regulus ignicapilla)、黄腿鸥(Larus michahellis)、纵纹腹小鸮(Athene noctua)和绿头鸭(Anas platyrhynchos)在两城市间的假阳性率差异明显。
错误分类分析显示,最常见的错误类型是生物声(与其他鸟类混淆),其次为人为声(都灵占16.9%,佛罗伦萨占19.9%),地球物理声最少。最优置信阈值在不同物种和不同城市间变化很大,表明阈值需要针对具体场地进行校准。
四、讨论
研究结果与近期大规模评估一致,BirdNET常高估物种丰富度,但生态过滤器能减少假阳性。城市间精度差异可能受物种丰富度、群落结构、声音方言、交通噪声、绿地面积和访客密度等因素影响,但本研究未直接测量这些变量,因此这些解释属于待检验假设。错误分类结构在两城市间较为稳定,生物声错误尤其发生于频率重叠的类群;3秒分析窗可能加剧相似片段混淆。人为噪声是假阳性重要来源,且可能掩盖目标信号。季节性列表虽能提高精度,但依赖于eBird数据,可能存在漏检(如都灵的欧亚角鸮和苍雨燕),建议对低报告类群进行交叉核对。此外,BirdNET对家麻雀(Passer domesticus)与意大利麻雀(Passer italiae)的区分存在局限,且地理过滤错误地将家麻雀纳入意大利点位。这些结果强调,阈值校准必须结合当地噪声环境和群落组成,而非仅依赖物种身份。
五、结论
研究结果表明,BirdNET可成为城市环境中被动声学监测的有力工具,但其性能高度依赖于物种和具体环境。结合物种特异性阈值设定方面的近期进展,研究结果强调需要超越对BirdNET输出的“一刀切”解释,使置信阈值同时适应物种特征和当地声学条件。据研究人员所知,本研究是首批在明确比较不同城市背景下对BirdNET进行详细多物种评估的研究之一。人工验证的规模(每个物种最多500个片段)为低频检测物种提供了稳健的阈值估计,而跨城市比较表明,性能不仅随物种特征变化,也随城市环境变化,凸显了场地特异性校准的必要性。生态信息过滤(如季节性和区域物种列表)进一步有助于减少假阳性,特别是在候鸟迁徙系统。通过整合阈值校准、物种列表过滤和详细误差分析,本研究提供了一个基于证据的实用框架,用于诊断和缓解BirdNET在城市环境中的局限性。随着自动化声学监测日益普及,类似方法将有助于确保BirdNET及类似工具为生物多样性监测和城市保护规划提供可靠且具有生态意义的信息。