Google wprowadza pacjentów w błąd? "Niebezpieczne" i "alarmujące"

Google ogranicza wybrane "AI Overviews" w tematach zdrowotnych po tym, jak dziennikarze "Guardiana" opisali przykłady błędnych streszczeń. Chodzi o krótkie odpowiedzi tworzone przez generatywną AI, które pojawiają się nad klasycznymi linkami i często przejmują rolę "pierwszej odpowiedzi".

Największe kontrowersje wzbudziły pytania o badania wątroby. Po wpisaniu zapytania o prawidłowe zakresy dla wątrobowych badań krwi system potrafił zwrócić zestaw liczb bez wyjaśnienia, dla jakiej populacji i według jakich metod są one właściwe.

Eksperci określili to jako "niebezpieczne" i "alarmujące", bo część pacjentów mogłaby uznać wynik za prawidłowy i odpuścić wizytę kontrolną, mimo że choroba wymaga dalszej diagnostyki.

Po publikacji Google usunęło AI Overviews dla zapytań "jaki jest prawidłowy zakres dla wątrobowych badań krwi" oraz "jaki jest prawidłowy zakres dla badań funkcji wątroby". Firma nie ujawnia szczegółów pojedynczych decyzji.

- Nie komentujemy poszczególnych usunięć w obrębie wyszukiwarki. W przypadkach, gdy AI Overviews pomijają kontekst, pracujemy nad szerokimi usprawnieniami, a także podejmujemy działania zgodnie z naszymi zasadami, gdy jest to właściwe - przekazał rzecznik Google.

- Jeśli pytanie zostanie zadane w nieco inny sposób, potencjalnie wprowadzające w błąd podsumowanie AI może się nadal pojawić – skomentowała Vanessa Hebditch, dyrektorka ds. komunikacji i polityki w organizacji British Liver Trust.

"Guardian" sprawdził, że warianty typu "zakres wartości referencyjnych LFT" wciąż potrafią uruchomić odpowiedzi AI. Hebditch przypomina, że LFT (liver function test) to zestaw różnych badań, a interpretacja zależy od obrazu klinicznego.

- Zrozumienie wyników i tego, co zrobić dalej, jest złożone i wymaga znacznie więcej niż porównania zestawu liczb - podkreśliła. Jej zdaniem problemem jest też forma: "AI Overviews przedstawiają listę badań pogrubioną czcionką, przez co czytelnicy mogą łatwo przeoczyć, że te liczby mogą w ogóle nie dotyczyć ich badania".

Najpoważniejsze ryzyko to fałszywe uspokojenie.

- AI Overviews nie ostrzegają, że ktoś może mieć prawidłowe wyniki tych testów, mimo że ma poważną chorobę wątroby i wymaga dalszej opieki medycznej. Taka fałszywa pewność może być bardzo szkodliwa - dodała Hebditch.

Podobne wątpliwości zgłasza Sue Farrington, przewodnicząca Patient Information Forum. Jej zdaniem wyłączenie części streszczeń to "dobry rezultat", ale też "dopiero pierwszy krok" potrzebny do utrzymania zaufania do zdrowotnych wyników wyszukiwania. Farrington wskazuje, że wiele osób ma problem z dotarciem do rzetelnych treści, dlatego Google powinno "kierować ludzi do solidnych, sprawdzonych źródeł informacji zdrowotnej" i do zaufanych organizacji.

Victor Tangermann z serwisu Futurism ocenił, że wnioski ze śledztwa pokazują, iż firma ma jeszcze sporo do zrobienia, by "upewnić się, że jego narzędzie AI nie rozpowszechnia niebezpiecznej dezinformacji zdrowotnej".

Google broni narzędzia, podkreślając, że weryfikuje jakość odpowiedzi także wewnętrznie.

- Nasz wewnętrzny zespół klinicystów przeanalizował przekazane nam materiały i stwierdził, że w wielu przypadkach informacje nie były nieprawidłowe, a dodatkowo były poparte przez wysokiej jakości strony internetowe - przekazał rzecznik.

- AI Overviews pojawiają się ponad wynikami rankingowymi. Gdy temat dotyczy zdrowia, błędy mają większą wagę – ostrzega komentator branżowy Matt Southern.

Marta Słupska, dziennikarka Wirtualnej Polski

Źródło: theguardian.com