W idealnej relacji pacjent–lekarz w XXI wieku lekarz występuje jako autorytet teoretyczny, podczas gdy władza praktyczna rozkłada się pomiędzy pacjenta, medyka oraz wspólne oczekiwania dotyczące standardów opieki. Lekarz nie jest już paternalistyczną figurą
z minionej epoki. Obecnie ciąży na nim obowiązek zapewnienia poziomu świadczeń określonego przez szeroką społeczność medyczną, przy jednoczesnym dbaniu o to, by pacjent pozostawał aktywnym uczestnikiem procesu decyzyjnego w kwestii własnego leczenia. To właśnie przekonanie, że wszystkie strony kierują się dobrem pacjenta, legitymizuje autorytet lekarza i całego systemu opieki zdrowotnej. Z kolei sprzeczne interesy, takie jak dążenie do maksymalizacji zysków, podważają ich wiarygodność.
W sytuacjach, w których lekarz dostrzega rozbieżność między obowiązkami zawodowymi a moralnymi, kluczową rolę zaczyna odgrywać jego sumienie. Na potrzeby niniejszej analizy posłużę się definicją ze „Stanford Encyclopedia of Philosophy”, zgodnie z którą sumienie to wewnętrzne „poczucie obowiązku”, nakazujące nam „działać zgodnie z wyznawanymi zasadami lub przekonaniami moralnymi”7. Sumienie jednostki nie zawsze musi być zbieżne z tym, co uznaje się za obiektywną moralność, ani wywodzić się z jednego konkretnego źródła. Może ono wynikać z przekonań religijnych, własnego kodeksu etycznego lub intuicyjnego rozróżniania dobra i zła.
Prostym przykładem konfliktu angażującego sumienie jest sytuacja, w której pacjentka wymaga ratującej życie aborcji, jednak lekarz prowadzący uznaje ten zabieg za zabójstwo
i nie chce stać się współwinny poprzez jego wykonanie lub asystowanie przy nim8.
W takim scenariuszu sumienie lekarza pełni funkcję bezpiecznika wobec działań, których oczekują od niego inne autorytety praktyczne (pacjentka oraz instytucje medyczne).
W istocie kierowanie się sumieniem pozwala na zakwestionowanie autorytetu
w sytuacjach, gdy lekarz uznaje jego osąd za błędny. Badania wykazały, że 42 procent lekarzy uważa, iż nigdy nie powinno się oczekiwać od nich działań sprzecznych z ich przekonaniami, co pokazuje, jak ważne dla wielu medyków jest zachowanie integralności moralnej9. Amerykańskie Stowarzyszenie Medyczne (AMA) uznaje, że lekarze to ludzie, od których nie można wymagać całkowitego oddzielenia osobistych wartości od pracy zawodowej. Dlatego AMA opracowało wytyczne pozwalające lekarzom chronić własne sumienie przy jednoczesnym zapewnieniu pacjentom odpowiedniego standardu opieki10. Jeśli zatem sumienie lekarza uznamy za bezpiecznik chroniący przed nadużyciami innych autorytetów, to zalecenia przedstawione przez AMA domykają ten układ, zapobiegając z kolei nieograniczonemu szafowaniu klauzulą sumienia – co samo w sobie mogłoby prowadzić do nadużyć i obniżenia jakości opieki. W ten sposób autorytet lekarza zachowuje swoją prawomocność.
Sumienie lekarza a sztuczna inteligencja
Uczestnicy słynnych eksperymentów Stanleya Milgrama z użyciem wstrząsów elektrycznych dowiedli ludzkiej skłonności do bezkrytycznego ulegania autorytetom. Pozwala to częściowo wyjaśnić, dlaczego lekarze w nazistowskich Niemczech byli
w stanie dopuszczać się okrucieństw niemal bez wahania. W obu przypadkach podejmowane działania – z jednej strony „eutanazja” dzieci z niepełnosprawnościami,
z drugiej podawanie (rzekomo) śmiertelnych dawek prądu – były obiektywnie złe, mimo że osoby wydające polecenia często przedstawiały je jako środki służące słusznym celom. Idąc tym tropem, system ochrony zdrowia oparty na sztucznej inteligencji wprowadziłby zupełnie nową instancję decyzyjną, co mogłoby doprowadzić do wyparcia dotychczasowych źródeł autorytetu – zwłaszcza że, jak widzieliśmy, głębokie sieci neuronowe potrafią przewyższać człowieka
w realizacji złożonych zadań. W takim scenariuszu nowy autorytet miałby
w założeniu stanowić realne ulepszenie systemu opieki zdrowotnej opartego na wysiłkach ludzi pełnych dobrych chęci, lecz omylnych. Potencjalne zagrożenia wydają się jednak równie zróżnicowane, co ludzie, których algorytmy miałyby pewnego dnia zastąpić, a ryzyko błędu – równie poważne lub wręcz większe.
Rosnące znaczenie sztucznej inteligencji
w medycynie nieuchronnie doprowadzi do sytuacji, w których lekarze będą kwestionować decyzje systemów. Być może algorytm uzna silny ból brzucha u pacjentki za niewystarczającą przesłankę do rozpoznania skrętu jajnika i zaleci jedynie leczenie ambulatoryjne zaparć. Może uzna, że biały mężczyzna z wynikiem 34 w skali MELD (Model for End-Stage Liver Disease) bardziej zasługuje na przeszczep wątroby niż czarnoskóry pacjent z wynikiem 35. Albo też przeprowadzi zakulisową analizę kosztów i zdecyduje, że hospitalizacja psychiatryczna nastolatka
z myślami samobójczymi nie powinna być refundowana. W takich okolicznościach odwołanie się do sumienia lekarza musiałoby ewoluować: z manifestacji osobistych przekonań stać się narzędziem rzecznictwa
w interesie pacjenta. Jednak ryzyko, jakie podejmuje lekarz, sprzeciwiając się systemowi, sprawia, że sytuacje te są wyjątkowo trudne.
W dobie tzw. medycyny defensywnej bezpieczniejszym wyjściem może się wydawać uległość wobec algorytmów. Łatwiej przecież dopuścić do sytuacji, w której pozew o błąd
w sztuce spadnie na barki producenta oprogramowania, niż ryzykować osobistą odpowiedzialność za zignorowanie komputerowej sugestii podania środka przeczyszczającego na rzecz decyzji
o natychmiastowej operacji.
Rozważne wdrażanie sztucznej inteligencji
w medycynie będzie wymagało nieustannego dialogu między lekarzami, administratorami systemu ochrony zdrowia i twórcami oprogramowania na temat legitymizacji autorytetu AI. Czy jest on „słuszny, uzasadniony i oparty na racjonalnych przesłankach”? Czy nadal będziemy oczekiwać od lekarzy zachowania określonych standardów opieki, czy też zostaną one poluzowane, jeśli algorytm uzna to za stosowne? Czy praktyczny autorytet pewnego dnia będzie należał wyłącznie do sztucznej inteligencji, czy też AI stanie się po prostu równorzędnym głosem obok innych źródeł autorytetu medycznego? Z pewnością musimy wyciągnąć lekcję z historii i stworzyć środowisko, w którym podejmowanie decyzji zgodnie z ludzkim sumieniem będzie nie tylko dopuszczalne, ale i wspierane. Droga usłana dobrymi chęciami nie musi prowadzić do piekła – pod warunkiem, że zostanie wytyczona ze świadomością zagrożeń i będziemy nią kroczyć z najwyższą z ostrożnością.
Dr Amelia Haj (MD, PhD) jest specjalistką medycyny transfuzjologicznej na Oddziale Patologii
w Massachusetts General Hospital oraz dyrektor medyczną centrum krwiodawstwa MGH Kraft Family Blood Donor Center. W 2018 r. była stypendystką programu FASPE Medical.
21
W idealnej relacji pacjent–lekarz w XXI wieku lekarz występuje jako autorytet teoretyczny, podczas gdy władza praktyczna rozkłada się pomiędzy pacjenta, medyka oraz wspólne oczekiwania dotyczące standardów opieki. Lekarz nie jest już paternalistyczną figurą
z minionej epoki. Obecnie ciąży na nim obowiązek zapewnienia poziomu świadczeń określonego przez szeroką społeczność medyczną, przy jednoczesnym dbaniu o to, by pacjent pozostawał aktywnym uczestnikiem procesu decyzyjnego w kwestii własnego leczenia. To właśnie przekonanie, że wszystkie strony kierują się dobrem pacjenta, legitymizuje autorytet lekarza i całego systemu opieki zdrowotnej. Z kolei sprzeczne interesy, takie jak dążenie do maksymalizacji zysków, podważają ich wiarygodność.
W sytuacjach, w których lekarz dostrzega rozbieżność między obowiązkami zawodowymi a moralnymi, kluczową rolę zaczyna odgrywać jego sumienie. Na potrzeby niniejszej analizy posłużę się definicją ze „Stanford Encyclopedia of Philosophy”, zgodnie z którą sumienie to wewnętrzne „poczucie obowiązku”, nakazujące nam „działać zgodnie z wyznawanymi zasadami lub przekonaniami moralnymi”7. Sumienie jednostki nie zawsze musi być zbieżne z tym, co uznaje się za obiektywną moralność, ani wywodzić się z jednego konkretnego źródła. Może ono wynikać z przekonań religijnych, własnego kodeksu etycznego lub intuicyjnego rozróżniania dobra i zła.
Prostym przykładem konfliktu angażującego sumienie jest sytuacja, w której pacjentka wymaga ratującej życie aborcji, jednak lekarz prowadzący uznaje ten zabieg za zabójstwo
i nie chce stać się współwinny poprzez jego wykonanie lub asystowanie przy nim8.
W takim scenariuszu sumienie lekarza pełni funkcję bezpiecznika wobec działań, których oczekują od niego inne autorytety praktyczne (pacjentka oraz instytucje medyczne).
W istocie kierowanie się sumieniem pozwala na zakwestionowanie autorytetu
w sytuacjach, gdy lekarz uznaje jego osąd za błędny. Badania wykazały, że 42 procent lekarzy uważa, iż nigdy nie powinno się oczekiwać od nich działań sprzecznych z ich przekonaniami, co pokazuje, jak ważne dla wielu medyków jest zachowanie integralności moralnej9. Amerykańskie Stowarzyszenie Medyczne (AMA) uznaje, że lekarze to ludzie, od których nie można wymagać całkowitego oddzielenia osobistych wartości od pracy zawodowej. Dlatego AMA opracowało wytyczne pozwalające lekarzom chronić własne sumienie przy jednoczesnym zapewnieniu pacjentom odpowiedniego standardu opieki10. Jeśli zatem sumienie lekarza uznamy za bezpiecznik chroniący przed nadużyciami innych autorytetów, to zalecenia przedstawione przez AMA domykają ten układ, zapobiegając z kolei nieograniczonemu szafowaniu klauzulą sumienia – co samo w sobie mogłoby prowadzić do nadużyć i obniżenia jakości opieki. W ten sposób autorytet lekarza zachowuje swoją prawomocność.
Sumienie lekarza a sztuczna inteligencja
Uczestnicy słynnych eksperymentów Stanleya Milgrama z użyciem wstrząsów elektrycznych dowiedli ludzkiej skłonności do bezkrytycznego ulegania autorytetom. Pozwala to częściowo wyjaśnić, dlaczego lekarze w nazistowskich Niemczech byli
w stanie dopuszczać się okrucieństw niemal bez wahania. W obu przypadkach podejmowane działania – z jednej strony „eutanazja” dzieci z niepełnosprawnościami,
z drugiej podawanie (rzekomo) śmiertelnych dawek prądu – były obiektywnie złe, mimo że osoby wydające polecenia często przedstawiały je jako środki służące słusznym celom. Idąc tym tropem, system ochrony zdrowia oparty na sztucznej inteligencji wprowadziłby zupełnie nową instancję decyzyjną, co mogłoby doprowadzić do wyparcia dotychczasowych źródeł autorytetu – zwłaszcza że, jak widzieliśmy, głębokie sieci neuronowe potrafią przewyższać człowieka
w realizacji złożonych zadań. W takim scenariuszu nowy autorytet miałby
w założeniu stanowić realne ulepszenie systemu opieki zdrowotnej opartego na wysiłkach ludzi pełnych dobrych chęci, lecz omylnych. Potencjalne zagrożenia wydają się jednak równie zróżnicowane, co ludzie, których algorytmy miałyby pewnego dnia zastąpić, a ryzyko błędu – równie poważne lub wręcz większe.
Rosnące znaczenie sztucznej inteligencji
w medycynie nieuchronnie doprowadzi do sytuacji, w których lekarze będą kwestionować decyzje systemów. Być może algorytm uzna silny ból brzucha u pacjentki za niewystarczającą przesłankę do rozpoznania skrętu jajnika i zaleci jedynie leczenie ambulatoryjne zaparć. Może uzna, że biały mężczyzna z wynikiem 34 w skali MELD (Model for End-Stage Liver Disease) bardziej zasługuje na przeszczep wątroby niż czarnoskóry pacjent z wynikiem 35. Albo też przeprowadzi zakulisową analizę kosztów i zdecyduje, że hospitalizacja psychiatryczna nastolatka
z myślami samobójczymi nie powinna być refundowana. W takich okolicznościach odwołanie się do sumienia lekarza musiałoby ewoluować: z manifestacji osobistych przekonań stać się narzędziem rzecznictwa
w interesie pacjenta. Jednak ryzyko, jakie podejmuje lekarz, sprzeciwiając się systemowi, sprawia, że sytuacje te są wyjątkowo trudne.
W dobie tzw. medycyny defensywnej bezpieczniejszym wyjściem może się wydawać uległość wobec algorytmów. Łatwiej przecież dopuścić do sytuacji, w której pozew o błąd
w sztuce spadnie na barki producenta oprogramowania, niż ryzykować osobistą odpowiedzialność za zignorowanie komputerowej sugestii podania środka przeczyszczającego na rzecz decyzji
o natychmiastowej operacji.
Rozważne wdrażanie sztucznej inteligencji
w medycynie będzie wymagało nieustannego dialogu między lekarzami, administratorami systemu ochrony zdrowia i twórcami oprogramowania na temat legitymizacji autorytetu AI. Czy jest on „słuszny, uzasadniony i oparty na racjonalnych przesłankach”? Czy nadal będziemy oczekiwać od lekarzy zachowania określonych standardów opieki, czy też zostaną one poluzowane, jeśli algorytm uzna to za stosowne? Czy praktyczny autorytet pewnego dnia będzie należał wyłącznie do sztucznej inteligencji, czy też AI stanie się po prostu równorzędnym głosem obok innych źródeł autorytetu medycznego? Z pewnością musimy wyciągnąć lekcję z historii i stworzyć środowisko, w którym podejmowanie decyzji zgodnie z ludzkim sumieniem będzie nie tylko dopuszczalne, ale i wspierane. Droga usłana dobrymi chęciami nie musi prowadzić do piekła – pod warunkiem, że zostanie wytyczona ze świadomością zagrożeń i będziemy nią kroczyć z najwyższą z ostrożnością.
Dr Amelia Haj (MD, PhD) jest specjalistką medycyny transfuzjologicznej na Oddziale Patologii
w Massachusetts General Hospital oraz dyrektor medyczną centrum krwiodawstwa MGH Kraft Family Blood Donor Center. W 2018 r. była stypendystką programu FASPE Medical.
Bibliografia:
1 A. Esteva, i in., Dermatologist-Level Classification of Skin Cancer with Deep Neural Networks, „Nature” 542 (2017), nr 7639,
s. 115–118, doi:10.1038/nature21056.
2 S. Mukherjee, A.I. Versus M.D., „The New Yorker”, 19 czerwca 2017, www.newyorker.com/magazine/2017/04/03/ai-versus-md.
3 J. Angwin, i in., Machine Bias, „ProPublica”, 23 maja 2016, www.propublica.org/article/machinebias-risk-assessments-in-criminal-sentencing.
4 R. Caruana, i in., Intelligible Models for HealthCare: Predicting Pneumonia Risk and Hospital 30-
Day Readmission, [w:] Proceedings of the 21st ACM SIGKDD International Conference on Knowledge
Discovery and Data Mining – KDD ‘15, Sydney 2015, doi:10.1145/2783258.2788613.
5 D. S. Char, i in., Implementing Machine Learning in Health Care – Addressing Ethical Challenges, „New England Journal of Medicine” 378 (2018), nr 11, s. 981–983, doi:10.1056/NEJMp17142.
6 M. Lacewing, Authority and Legitimacy, Londyn 2018, cw.routledge.com/textbooks/alevelphilosophy/data/AS/WhyShouldIBeGoverned/Authorityandlegitimacy.pdf.
7 Conscience, [w:] Stanford Encyclopedia of Philosophy, plato.stanford.edu/entries/conscience/#ConsMotiActMora.
8 M. S. Swartz, „Conscience Clauses” or „Unconscionable Clauses”: Personal Beliefs Versus Professional Responsibilities, „Yale Journal of Health Policy, Law, and Ethics” 6 (2006), nr 2, p. 269–350.
9 R. Lawrence i in., Physicians’ Beliefs About Conscience in Medicine: A National Survey, „Academic Medicine” 84 (2009), nr 9,
p. 1276–1282.
10 American Medical Association, Code of Medical Ethics Opinion 1.1.7, Ethics: Physician Exercise of Conscience, www.ama-assn.org/delivering-care/physician-exerciseconscience.