Myli się w aż 70 proc. przypadków. AI w medycynie może powodować błędy i zagrażać życiu

Zespół badaczy z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano koło Mediolanu, kierowany przez Vincenzo Guastafierro, przeanalizował odpowiedzi generowane przez ChatGPT w 200 fikcyjnych przypadkach klinicznych. Każdy z nich został przygotowany we współpracy z lekarzami różnych specjalizacji i zgodnie z aktualnymi wytycznymi diagnostycznymi.

Jak donosi dziennik "Il Messaggero", wyniki nie napawają optymizmem - chatboty popełniały błędy w około 70 proc. analizowanych sytuacji. Co więcej, aż w 30 proc. przypadków sztuczna inteligencja powoływała się na nieistniejące źródła naukowe lub błędnie cytowała istniejące publikacje.

Autorzy badania zwrócili uwagę, że choć część odpowiedzi ChatGPT miała pewną wartość merytoryczną - w 62 proc. przypadków uznano je za częściowo przydatne - jedynie 32 proc. analiz było całkowicie wolnych od błędów.

Najpoważniejsze pomyłki dotyczyły rozpoznań nowotworów. Sztuczna inteligencja nieprawidłowo zdiagnozowała raka skóry i pomyliła dwa różne typy raka piersi, co w rzeczywistej praktyce mogłoby prowadzić do dramatycznych skutków dla pacjentów.

Wyniki badań opublikowane w "European Journal of Pathology" stanowią ważne ostrzeżenie przed nadmiernym zaufaniem do systemów AI w medycynie. Jak podkreślił kierujący projektem Vincenzo Guastafierro, "oko kliniczne lekarza pozostaje niezastąpione. AI musi być uważana za wsparcie, ale nie za zamiennik kompetencji człowieka".

Zdaniem naukowca, choć sztuczna inteligencja może przyspieszyć proces analizy danych i ułatwić lekarzom dostęp do wiedzy, wciąż wymaga ścisłej kontroli i weryfikacji.

"Rezultaty te pokazują, jak bardzo konieczna jest ostrożność przy wykorzystywaniu AI na polu medycyny, bo pomyłki w diagnozie mogłyby mieć poważne konsekwencje" - zaznaczył Guastafierro.

Eksperci zgodnie podkreślają, że sztuczna inteligencja ma potencjał, by zrewolucjonizować diagnostykę, jednak nie może zastąpić doświadczenia i intuicji lekarza. Wyniki włoskiego badania to przypomnienie, że nawet najbardziej zaawansowana technologia powinna być narzędziem pomocniczym, a nie decydującym o ludzkim zdrowiu.

Marta Słupska, dziennikarka Wirtualnej Polski

Źródło: PAP