Sztuczna inteligencja w medycynie? „Bez walidacji to może być dramat”

AI i analiza danych zmieniają medycynę, ale – jak podkreśla dr Roman Topór-Mądry, dyrektor Centrum Danych o Zdrowiu Collegium Medicum Uniwersytetu Jagiellońskiego – bez solidnej walidacji klinicznej mogą stać się zagrożeniem dla pacjentów.

Fot. Pexels

Dlaczego warto posłuchać tej rozmowy?

Wyjaśnia, czym naprawdę są health data – to nie tylko dane medyczne, ale szeroki zestaw informacji wpływających na zdrowie.
Pokazuje ograniczenia AI w medycynie, w tym realne przykłady błędów i „halucynacji” systemów sztucznej inteligencji.
Tłumaczy, dlaczego prawo i walidacja kliniczna są konieczne, nawet jeśli spowalniają wdrażanie nowych technologii.
Wskazuje, jakich kompetencji brakuje dziś w ochronie zdrowia i dlaczego przyszłość należy do zespołów interdyscyplinarnych.

Posłuchaj rozmowy

Health data – szerokie spojrzenie na zdrowie

Pojęcie health data obejmuje znacznie więcej niż wyniki badań, dane kliniczne czy zapisy z historii choroby. To również informacje „okołozdrowotne”, takie jak poziom wykształcenia czy dochód, które w istotny sposób wpływają na ryzyko chorób i prognozy zdrowotne. Dopiero zestawienie danych indywidualnych, klinicznych, populacyjnych i epidemiologicznych pozwala opisać trajektorie zdrowia pacjentów oraz całych populacji, a także projektować system ochrony zdrowia odpowiadający rzeczywistym potrzebom.

Kluczowe znaczenie mają dane indywidualne. Zmienność między pacjentami jest tak duża, że modele populacyjne – choć potrzebne – nie zawsze pozwalają na trafne przewidywanie ryzyka i skutków leczenia w konkretnych przypadkach.

Nie zastąpi lekarza, ale może mu pomóc. Jak AI zmienia ochronę zdrowia

Dane są, modele są – ale to wciąż za mało

Rozwój analizy danych i uczenia maszynowego otworzył przed medycyną nowe możliwości, jednak ich wykorzystanie napotyka poważne ograniczenia. Modele powstają zazwyczaj na podstawie danych historycznych, pochodzących z jednego ośrodka lub jednej populacji. Przeniesienie takich rozwiązań do innego szpitala, regionu czy kraju bywa problematyczne, bo zależności statystyczne nie zawsze się powtarzają.

Dodatkowym wyzwaniem jest fakt, że algorytmy nie uwzględniają nowych metod leczenia, jeśli nie zostały one wcześniej zastosowane i opisane w danych. W efekcie sztuczna inteligencja porusza się w granicach przeszłych doświadczeń, podczas gdy medycyna stale się zmienia.

Bezpieczeństwo pacjenta ważniejsze niż tempo innowacji

Choć tempo rozwoju narzędzi opartych o AI jest imponujące, ich powszechne wdrażanie wymaga dużej ostrożności. Prawo i procedury regulacyjne pełnią w tym przypadku funkcję ochronną. Walidacja kliniczna pozwala sprawdzić, czy dane rozwiązanie rzeczywiście poprawia efekty leczenia i nie stwarza zagrożenia dla pacjentów.

Przykłady błędów systemów opartych o sztuczną inteligencję pokazują, że brak kontroli może prowadzić do poważnych konsekwencji. Zdarzało się, że algorytmy generowały niebezpieczne rekomendacje terapeutyczne lub błędnie interpretowały dane pacjentów na skutek problemów technicznych i organizacyjnych. To właśnie dlatego medycyna pozostaje obszarem, w którym szybkie decyzje technologiczne muszą być szczególnie dokładnie sprawdzane.

Postęp technologiczny a zdrowie populacji

Dynamiczny rozwój technologii nie zawsze przekłada się na poprawę podstawowych wskaźników zdrowotnych. W Polsce średnia długość życia przestała rosnąć, co rodzi pytania o skuteczność wdrażania nowoczesnych rozwiązań. Pierwszym krokiem powinno być zrozumienie przyczyn tego zjawiska – dopiero potem możliwa jest ocena, czy dostępne narzędzia są właściwie wykorzystywane i czy trafiają do pacjentów, którzy najbardziej ich potrzebują.

Kluczowe pozostaje przełożenie innowacji na codzienną praktykę ochrony zdrowia, a nie tylko ich obecność w wyspecjalizowanych, pojedynczych ośrodkach.

Czy sztuczna inteligencja zastąpi sędziów?

Interdyscyplinarne zespoły zamiast pojedynczych specjalizacji

Odpowiedzią na lukę kompetencyjną w ochronie zdrowia nie są pojedyncze technologie, lecz współpraca specjalistów z różnych dziedzin. Lekarze, badacze, genetycy, analitycy danych, informatycy, matematycy oraz praktycy systemów ochrony zdrowia muszą działać wspólnie, aby właściwie identyfikować problemy i projektować skuteczne rozwiązania.

Dopiero połączenie tych wszystkich kompetencji pomoże nam właściwie określać i potrzeby, i te remedia dla naszych chorych.

Kształcenie kadr dla medycyny przyszłości

Na te potrzeby odpowiadają studia podyplomowe Collegium Medicum Uniwersytetu Jagiellońskiego „Innowacje w medycynie — era analizy danych”. Ich celem jest przygotowanie specjalistów zdolnych łączyć wiedzę kliniczną z analizą danych i nowymi technologiami oraz realnie wpływać na funkcjonowanie systemu ochrony zdrowia.

Rekrutacja trwa do 31 stycznia.

Autor:

Jacek Bańka

Komentarze (0)

Brak komentarzy

Kultura

Sport

Muzyka

Audycje

Podcasty

Kontakt

Ramówka

Studia nagraniowe