Myli się w aż 70 proc. przypadków. AI w medycynie może powodować błędy i zagrażać życiu
Sztuczna inteligencja coraz śmielej wkracza do medycyny, ale najnowsze badania włoskich naukowców pokazują, że jej skuteczność w diagnozowaniu chorób wciąż pozostawia wiele do życzenia. Jak wynika z analizy opublikowanej w "European Journal of Pathology", chatboty oparte na AI mylą się w około 70 proc. przypadków, a niektóre błędy mogłyby mieć poważne konsekwencje zdrowotne.
"AI musi być uważana za wsparcie, ale nie za zamiennik kompetencji człowieka"
W tym artykule:
Sztuczna inteligencja pod lupą lekarzy
Zespół badaczy z Instytutu Klinicznego i Uniwersytetu Humanitas w Rozzano koło Mediolanu, kierowany przez Vincenzo Guastafierro, przeanalizował odpowiedzi generowane przez ChatGPT w 200 fikcyjnych przypadkach klinicznych. Każdy z nich został przygotowany we współpracy z lekarzami różnych specjalizacji i zgodnie z aktualnymi wytycznymi diagnostycznymi.
Jak donosi dziennik "Il Messaggero", wyniki nie napawają optymizmem - chatboty popełniały błędy w około 70 proc. analizowanych sytuacji. Co więcej, aż w 30 proc. przypadków sztuczna inteligencja powoływała się na nieistniejące źródła naukowe lub błędnie cytowała istniejące publikacje.
Autorzy badania zwrócili uwagę, że choć część odpowiedzi ChatGPT miała pewną wartość merytoryczną - w 62 proc. przypadków uznano je za częściowo przydatne - jedynie 32 proc. analiz było całkowicie wolnych od błędów.
Sprawdziliśmy warszawskie SOR-y
Najpoważniejsze pomyłki dotyczyły rozpoznań nowotworów. Sztuczna inteligencja nieprawidłowo zdiagnozowała raka skóry i pomyliła dwa różne typy raka piersi, co w rzeczywistej praktyce mogłoby prowadzić do dramatycznych skutków dla pacjentów.
Lekarz niezastąpiony
Wyniki badań opublikowane w "European Journal of Pathology" stanowią ważne ostrzeżenie przed nadmiernym zaufaniem do systemów AI w medycynie. Jak podkreślił kierujący projektem Vincenzo Guastafierro, "oko kliniczne lekarza pozostaje niezastąpione. AI musi być uważana za wsparcie, ale nie za zamiennik kompetencji człowieka".
Zdaniem naukowca, choć sztuczna inteligencja może przyspieszyć proces analizy danych i ułatwić lekarzom dostęp do wiedzy, wciąż wymaga ścisłej kontroli i weryfikacji.
"Rezultaty te pokazują, jak bardzo konieczna jest ostrożność przy wykorzystywaniu AI na polu medycyny, bo pomyłki w diagnozie mogłyby mieć poważne konsekwencje" - zaznaczył Guastafierro.
Eksperci zgodnie podkreślają, że sztuczna inteligencja ma potencjał, by zrewolucjonizować diagnostykę, jednak nie może zastąpić doświadczenia i intuicji lekarza. Wyniki włoskiego badania to przypomnienie, że nawet najbardziej zaawansowana technologia powinna być narzędziem pomocniczym, a nie decydującym o ludzkim zdrowiu.
Marta Słupska, dziennikarka Wirtualnej Polski
Źródło: PAP
Treści w naszych serwisach służą celom informacyjno-edukacyjnym i nie zastępują konsultacji lekarskiej. Przed podjęciem decyzji zdrowotnych skonsultuj się ze specjalistą.
