Halucynacje AI w biologii: systemowe ryzyka

Systemowe halucynacje SI w modelach biologicznych: przyczyny i lekcje dla deweloperów

Modele sztucznej inteligencji w biologii wykazują wysoką dokładność na danych testowych, ale często generują biologicznie niemożliwe przewidywania. Przykładem jest sieć neuronowa do prognozowania funkcji enzymów, która przeszła walidację, ale zawiodła podczas ekspertyzy. Deweloperzy powinni wdrażać rygorystyczne kontrole danych i mechanizmów, aby uniknąć fałszywych wniosków.

Podstawy sukcesu i pułapki danych

AlphaFold osiągnął przełom dzięki Protein Data Bank (PDB), gromadzonej od lat 70., oraz konkursowi CASP z ekspercką weryfikacją. Bez takich standardów modele ponoszą porażkę. Wiele projektów wykorzystuje elektroniczne karty medyczne jako podstawę, ignorując niedobór nowych biomarkerów i danych laboratoryjnych.

W publikacji Nature Communications model został przeszkolony na 22 milionach sekwencji enzymów. Metryki były idealne: dokładność na treningu, walidacji i testach. Jednak mikrobiolog Valérie de Crécy-Lagard wykryła błędy w enzymach, które badała przez 10 lat.

Kluczowe błędy systemowe

Audyt ujawnił typowe problemy SI w biologii:

• Data Leakage: 135 'nowych' enzymów już było obecnych w bazach. Model zapamiętywał, a nie przewidywał.
• Biologiczna niewykonalność: Przypisywała E. coli syntezę substancji, na które bakteria nie jest zdolna.
• Przeuczenie: Nałożyła jedną funkcję na 12 różnych enzymów.

Takie artefakty maskują się jako fakty naukowe, przechodząc recenzję bez ekspertyzy domenowej.

Kaskadowe konsekwencje w aplikacjach

Systematyczne przesunięcie danych nasila błędy przy skalowaniu. Aplikacja Zoe dla COVID-19 ignorowała objawy long COVID (mgła mózgowa, zmęczenie), których nie było na liście kontrolnej. Algorytm zawyżał statystyki wyzdrowień: użytkownicy po prostu odchodzili, a model ich 'wyleczył'.

Łączenie szlaków biologicznych z różnych źródeł prowadzi do nierealistycznych schematów. SI interpoluje bez uwzględnienia związków przyczynowo-skutkowych w komórce, generując 'kaskady halucynacji'.

Deweloperzy w bioinformatyce spotykają się z tym przy integracji heterogenicznych zestawów danych. Na przykład, połączenie szlaków z artykułów o różnych gatunkach tworzy model niezgodny z rzeczywistą komórką.

Praktyczne zalecenia dla średniozaawansowanych/seniorów

Aby zminimalizować ryzyka:

• Ustalaj pochodzenie danych: źródła, ograniczenia, obszary nieprzydatności.
• Wdrażaj audyt ekspercki na etapach walidacji, oprócz metryk.
• Priorytetyzuj zrozumienie mechanistyczne nad architekturami SOTA.
• Testuj pod kątem biologicznej wiarygodności: symulacje in silico + weryfikacja w laboratorium mokrym.
• Unikaj data leakage poprzez stratyfikowany podział i zestawy hold-out z niezależnych źródeł.

Co jest ważne

• Jakościowe dane i standardy (PDB, CASP) — podstawa sukcesu SI w biologii.
• Data leakage i przeuczenie maskują halucynacje jako dokładność.
• Bez ekspertyzy domenowej modele generują biologiczne śmieci.
• Inwestuj w mechanizmy, a nie w metryki.
• Weryfikacja laboratoryjna jest obowiązkowa dla produkcji.

SI to narzędzie, ale nie zastępuje zrozumienia biologii. Bez tego biotechnologie ryzykują fundamentem ze statystycznych iluzji.

— Editorial Team