Kamica nerkowa a AI. Czy chatbot może zastąpić lekarza?

Coraz więcej pacjentów, zamiast od razu udać się do lekarza, najpierw konsultuje swoje objawy z chatbotem. Sztuczna inteligencja odpowiada szybko, jasno i bez kolejek. Ale czy jej odpowiedzi są bezpieczne dla pacjenta? To pytanie zadali sobie naukowcy i studenci Uniwersytet Medyczny we Wrocławiu, którzy przeanalizowali, jak modele językowe radzą sobie z najczęstszymi pytaniami dotyczącymi kamicy układu moczowego. 

Badanie, opublikowane w czasopiśmie Artificial Intelligence Review, pokazuje, że odpowiedzi generowane przez AI są zazwyczaj poprawne i merytorycznie wartościowe. Jednocześnie ujawnia ich największą słabość: nie tyle oczywiste błędy, ile brak pełnego kontekstu klinicznego, który w medycynie jest kluczowy. 

Największe ryzyko to „prawie dobre” odpowiedzi  

Modele językowe bardzo rzadko udzielały odpowiedzi całkowicie błędnych. Znacznie częściej problem dotyczył informacji częściowo trafnych – takich, które brzmią wiarygodnie, ale pomijają istotne szczegóły diagnostyczne lub terapeutyczne. To właśnie one mogą prowadzić do błędnych decyzji po stronie pacjenta. 

Jak podkreśla współautor badania, Wojciech Tomczak z Uniwersyteckiego Centrum Urologii oraz Szkoły Doktorskiej UMW, 

Z klinicznego punktu widzenia ważniejsze od oczywistych błędów są odpowiedzi częściowo trafne - bo to właśnie one mogą być dla pacjenta najbardziej mylące, gdy brzmią wiarygodnie, ale nie oddają pełnego kontekstu diagnostycznego lub terapeutycznego. 

Kamica nerkowa 

Kamica układu moczowego to choroba, w której sposób leczenia zależy od wielu czynników – od obserwacji i leczenia zachowawczego, po interwencje zabiegowe. Właśnie dlatego uproszczone odpowiedzi mogą być szczególnie ryzykowne. 

Odpowiedzi błędne lub jedynie częściowo trafne są w tej kategorii szczególnie niebezpieczne, ponieważ mogą skłaniać pacjenta do samoleczenia albo do lekceważenia objawów alarmowych - zaznacza współautor. 

W praktyce oznacza to, że pacjent bazując na odpowiedzi AI może zbyt długo zwlekać z wizytą u lekarza albo podjąć niewłaściwe działania na własną rękę. W skrajnych przypadkach konsekwencje mogą być bardzo poważne, łącznie z utratą funkcji nerki czy ciężkimi zakażeniami. 

Dlaczego AI wydaje się wiarygodna? 

Z perspektywy użytkownika chatboty mają ogromną przewagę: są zrozumiałe, uporządkowane i brzmią przekonująco. Problem polega na tym, że pacjent najczęściej ocenia odpowiedź przez pryzmat formy, a nie jej kompletności. 

Z perspektywy pacjenta ta różnica prawdopodobnie nie będzie wyraźnie zauważalna, ponieważ odbiorca najczęściej ocenia odpowiedź przede wszystkim przez pryzmat jej zrozumiałości i pozornej wiarygodności - zaznacza badacz z Uniwersyteckiego Centrum Urologii UMW. 

To sprawia, że nawet niepełne lub uproszczone informacje mogą zostać uznane za wystarczające. 

AI jako wsparcie 

Autorzy badania podkreślają, że modele językowe mają realny potencjał w edukacji zdrowotnej. Pomagają zrozumieć problem, uporządkować wiedzę i przygotować się do rozmowy z lekarzem. Warunkiem jest jednak świadome korzystanie z tych narzędzi. 

Ostateczna ocena sytuacji zawsze powinna jednak należeć do lekarza - podkreśla Wojciech Tomczak. 

Kluczowa pozostaje więc rola konsultacji medycznej, w której uzyskane wcześniej informacje mogą zostać zweryfikowane i osadzone w kontekście konkretnego przypadku.