Pacjent ma wiedzieć, kto z nim rozmawia
Pacjent dzwoniący do przychodni może usłyszeć automatyczny głos, który pomoże mu umówić wizytę, a na stronie placówki – skorzystać z czatu odpowiadającego na pytania o badania. Od 2 sierpnia 2026 roku musi jednak od początku wiedzieć, że rozmawia z systemem sztucznej inteligencji. Tego dnia zaczęły obowiązywać zasady przejrzystości określone w art. 50 unijnego AI Act.
Nowe wymagania obejmują systemy AI przeznaczone do bezpośredniego kontaktu z człowiekiem. W ochronie zdrowia mogą to być przede wszystkim chatboty odpowiadające na pytania pacjentów, voiceboty obsługujące infolinie oraz wirtualni asystenci pomagający w umawianiu albo odwoływaniu wizyt.
Informacja o wykorzystaniu sztucznej inteligencji powinna pojawić się najpóźniej na początku pierwszej interakcji. Komunikat musi być jasny, zrozumiały i przekazany w sposób pozwalający odróżnić go od pozostałych treści. Dotyczy to zarówno rozmowy telefonicznej, jak i kontaktu przez stronę internetową czy aplikację.
Przepisy przewidują wyjątek, gdy dla rozsądnej i dobrze poinformowanej osoby jest oczywiste, że kontaktuje się z AI. Nie należy jednak zakładać, że każdy pacjent rozpozna automatyczny system. Samo połączenie z infolinią lub otwarcie internetowego czatu nie przesądza jeszcze, że użytkownik wie, z jakim narzędziem ma do czynienia.
Placówka też ponosi odpowiedzialność
Za odpowiednie zaprojektowanie systemu odpowiada przede wszystkim jego dostawca. Przychodnia lub szpital korzystające z gotowego rozwiązania powinny jednak sprawdzić, czy informacja o AI rzeczywiście pojawia się we wszystkich kanałach kontaktu i czy jest dostępna również dla pacjentów ze szczególnymi potrzebami.
Placówki powinny także ustalić, kto odpowiada za treść komunikatu, jego aktualizowanie oraz prawidłowe działanie od strony technicznej. Znaczenie mają również umowy zawarte z firmami dostarczającymi rozwiązania oparte na sztucznej inteligencji.
Jeżeli podmiot medyczny sam stworzył system, zlecił jego opracowanie lub udostępnia go pod własną nazwą, w określonych przypadkach może zostać uznany za dostawcę. Wówczas zakres jego odpowiedzialności będzie większy.
Materiały stworzone przez AI muszą być oznaczane
AI Act obejmuje również realistyczne obrazy, nagrania dźwiękowe i filmy wygenerowane albo zmodyfikowane przez sztuczną inteligencję. Jeżeli taki materiał może zostać odebrany jako autentyczny, odbiorca powinien zostać poinformowany, że ma do czynienia z deepfake’em.
W przypadku placówek medycznych może chodzić m.in. o syntetyczny głos lekarza, komputerowo wygenerowaną wypowiedź specjalisty lub realistyczny wizerunek fikcyjnego pacjenta. Oznaczenie powinno być widoczne albo słyszalne już przy pierwszym kontakcie z materiałem, a nie jedynie zapisane w jego danych technicznych.
Obowiązki mogą dotyczyć również tekstów o zdrowiu publicznym przygotowanych przez AI. Oznaczenie nie jest jednak wymagane, jeżeli materiał przeszedł rzeczywistą kontrolę redakcyjną, a za jego publikację odpowiada wskazana osoba lub organizacja. Taka weryfikacja powinna obejmować nie tylko język, lecz także prawdziwość informacji, jakość źródeł i zasadność przedstawionych wniosków.
Przepisy obowiązujące od 2 sierpnia koncentrują się na przejrzystości i informowaniu użytkowników. Nie oznacza to jeszcze pełnego wejścia w życie wszystkich regulacji dotyczących systemów AI wysokiego ryzyka, w tym części rozwiązań wykorzystywanych jako wyroby medyczne.
Źródło: Rynek Zdrowia, Medonet
Treści w naszych serwisach służą celom informacyjno-edukacyjnym i nie zastępują konsultacji lekarskiej. Przed podjęciem decyzji zdrowotnych skonsultuj się ze specjalistą.
Z pracą w mediach związana od 2010 roku. Absolwentka filologii polskiej na Uniwersytecie Warszawskim o specjalności zawodowej filologia dla mediów oraz studiów podyplomowych Redakcja językowa tekstu. W przeszłości związana m.in. z holdingiem Infor oraz wydawnictwem Edipresse Polska, dla których przygotowywała m.in. zdrowotne artykuły oraz filmy z udziałem ekspertów. W Wirtualnej Polsce od 2023 roku.
