AI 在生物学中的幻觉：系统性风险

生物模型中的 AI 幻觉：成因与开发者启示

生物领域的 AI 模型在测试数据上表现出色，但常常输出生物学上不可能的预测。例如，一个用于预测酶功能的神经网络在验证集上完美得分，却在专家审查下彻底崩盘。开发者必须内置严格的数据校验和防护机制，避免这些假阳性。

成功基础与数据陷阱

AlphaFold 的突破依赖于自 1970 年代起积累的蛋白质数据库（PDB）和 CASP 竞赛的专家验证。没有这些金标准，模型就会彻底失败。许多项目依赖电子健康记录作为拐杖，却忽略了新鲜生物标志物和实验数据的短缺。

一篇《Nature Communications》论文用 2200 万条酶序列训练模型。各项指标完美：训练、验证和测试集准确率无懈可击。但微生物学家 Valérie de Crécy-Lagard 发现，她研究十年的酶中存在明显错误。

关键系统性缺陷

审计揭示了生物学中典型的 AI 陷阱：

• 数据泄漏：135 个“新型”酶早已存在于数据库中。模型在死记硬背，而不是真正预测。
• 生物学不可能性：它声称大肠杆菌能合成该菌株无法产生的化合物。
• 过拟合：它将相同功能强加给 12 种无关酶。

这些故障伪装成可靠科学，在缺乏领域专长的同行评审中轻松过关。

真实应用中的连锁反应

系统性数据偏差会放大错误。Zoe COVID-19 应用忽略了长新冠症状如脑雾和疲劳，这些未列入其清单。算法夸大恢复率：用户只是流失，模型却判定他们“痊愈”。

从不匹配来源合并生物途径，会产生不现实的地图。AI 仅进行插值，无法理解细胞因果关系，从而引发幻觉连锁反应。

生物信息学开发者在融合异构数据集时屡屡碰壁。将不同物种论文中的途径混用，导致模型与真实细胞不符。

中高级开发者实用建议

为降低风险：

• 记录数据来源：包括来源、局限性和边界条件。
• 在验证阶段引入专家审计，而非仅靠指标。
• 优先机制洞察，而非前沿架构。
• 测试生物学合理性：结合体外模拟和湿实验验证。
• 通过分层拆分和独立来源的留出集防止数据泄漏。

核心启示

• 优质数据和标准（PDB、CASP）是生物 AI 成功基石。
• 数据泄漏和过拟合用虚假准确率掩盖幻觉。
• 缺少领域专长，模型输出生物学胡言乱语。
• 投资机制理解，而非单纯指标。
• 生产环境必须进行实验室验证。

AI 是强大工具，但无法取代生物学专业知识。没有它，生物科技就可能建立在统计幻影之上。

— Editorial Team