"智能马效应"揭示无监督学习模型在放射学模式识别中的潜在偏差机制

来自Springer Nature的研究团队通过分析无监督学习AI模型在COVID-19胸片诊断中的表现，发现其存在类似"聪明汉斯马"的伪相关学习现象。研究表明，这些模型可能依赖图像边缘注释而非肺部放射学特征进行判断，导致51%的假阳性率，这对医学AI的可解释性(Explainable AI)提出重要警示。

　　

有句谚语说，思考应该交给马儿——毕竟它们脑袋更大。在奇蹄目动物中确实不乏知名"思想家"，比如罗马皇帝卡利古拉的爱驹英西塔图斯。据记载，这匹住着宫殿、接见使节并为皇帝祝酒的名马，与另一匹叫"聪明汉斯"的奥尔洛夫快步马齐名。后者在第一次世界大战前因会做算术轰动一时，后来发现它只是通过解读人类微表情来敲击正确答案——正确结果源于错误理由，与算术毫无关系。

如今普遍认为，思考工作应该交给人工智能(AI)——它们确实拥有更大容量。在医学领域，一项研究却揭示了AI可能像"聪明汉斯"那样出现误判。研究表明，用于放射学模式识别的无监督学习AI模型存在特殊偏差倾向，被命名为"聪明汉斯效应"。某个AI模型能准确识别COVID-19患者的胸片，但有时依赖的是图像边缘的文本注释而非肺部放射学特征——正确结果出自错误理由，与放射学诊断相去甚远。在另组数据中，其假阳性率高达51%。

放任马匹(哪怕是数字马匹)自由发挥，就得接受结果可能令人啼笑皆非。卡利古拉曾计划任命爱驹为执政官，这个决定显然没给他带来好结局。不过看看当今世界领导人，似乎还有比马匹执政更糟糕的选择。有时候，把思考交给马儿或许真是更好的选择——当然不一定要让它们看胸片。