• Oskar Luty z kancelarii Fairfield ostrzega, że wklejanie do czatu AI dokumentacji pacjenta z danymi osobowymi może być traktowane jako naruszenie tajemnicy lekarskiej i zasad ochrony danych
• Korzystanie z ogólnodostępnych czatów jako narzędzia pomocniczego nie jest zakazane, ale ich odpowiedź nie może być podstawą decyzji lekarskiej ani jej uzasadniać
• Inaczej jest z certyfikowanymi wyrobami medycznymi opartymi na sztucznej inteligencji. Ich stosowanie może wręcz świadczyć o staranności, choć za ostateczną decyzję nadal odpowiada lekarz
• Planowana ustawa o odpowiedzialności za produkt niebezpieczny obejmie także oprogramowanie. Wtedy za błąd prawidłowo używanego wyrobu medycznego może odpowiadać jego producent

Katarzyna Nocuń, Rynek Zdrowia: Czy lekarz może korzystać z dowolnego chata? Wpisywać objawy pacjenta, pytać o diagnozę i na tej podstawie ją stawiać? Czy może wklejać do chata dokumentację medyczną pacjenta? Czy lekarz powinien korzystać wyłącznie z chatów/ narzędzi, które mają status wyrobów medycznych?

Oskar Luty z kancelarii Fairfield: Pamiętajmy, że wiele modeli LLM przetwarza i wykorzystuje to, co jest wprowadzane przez użytkownika.

„Wklejanie” dokumentacji pacjenta z danymi osobowymi może z tego względu być traktowane jako naruszenie tajemnicy lekarskiej oraz naruszenie zasad ochrony danych osobowych.

Odrębną kwestią jest dopuszczalność prawna korzystania z LLM jako narzędzia pomocniczego lekarza.

W przypadku ogólnych systemów AI działanie takie nie jest zakazane, natomiast wynik pozyskany z „chata” nie może stanowić podstawy decyzji lekarskiej ani jej uzasadniać. Inaczej jest w przypadku wyrobów medycznych AI przeznaczonych wprost do wsparcia decyzji lekarskiej - wyroby takie jak najbardziej mogą być stosowane przez lekarzy, a korzystanie z nich może świadczyć wręcz o staranności lekarskiej. W każdym jednak wypadku za ostateczną decyzję odpowiada prawnie lekarz.

Czy polskie prawo reguluje te kwestie?

Prawo polskie samodzielnie nie reguluje tych kwestii - w tym obszarze obowiązują akty unijne: rozporządzenie o AI, rozporządzenie o wyrobach medycznych (MDR) oraz dyrektywa o odpowiedzialności produktowej.

Co z narzędziami AI, które pełnią jedynie funkcję skryby, czyli pomagają uporządkować zebraną podczas wywiadu z pacjentem wiedzę? Czy lekarz może korzystać z dowolnej, np. darmowej aplikacji? Czy powinna ona być jednak wyrobem medycznym? Co na to polskie przepisy?

W niektórych krajach (UK) automatyczny skryba traktowany jest jako wyrób medyczny. Klasyfikacja prawna tego rodzaju wyrobu może być przedmiotem kontrowersji, natomiast moim zdaniem automatyczny skryba bez dodatkowych funkcjonalności zdrowotnych (np. przetwarzania danych, oceny danych) nie jest wyrobem medycznym.

Rozumiem, że odpowiedzialność za diagnozę zawsze ponosi lekarz, a korzystając z wyrobu AI, bierze odpowiedzialność za jego ewentualne halucynacje i błędy?

Dziś tak, ale już wkrótce - niekoniecznie. Na horyzoncie jest już nowa ustawa o odpowiedzialności za produkt niebezpieczny, która rozszerza odpowiedzialność producentów również na oprogramowanie (czego obowiązujące przepisy nie robią).

Jeżeli zatem lekarz skorzysta z legalnego wyrobu medycznego, prawidłowo użytkowanego w ramach przewidzianego zastosowania tego wyrobu oraz w racjonalnym zakresie polega na generowanym przez produkt wyniku, to w konkretnej sytuacji odpowiedzialność za błąd może obciążyć producenta oprogramowania. To jednak zawsze wymaga oceny danego przypadku.

Materiał chroniony prawem autorskim - zasady przedruków określa regulamin.