Przemyślenie abstrakcji: ponowne humanizowanie technologii
Tak mówi Wszechmocny Pan do tych kości: Oto Ja wprowadzę do was ożywcze tchnienie
i ożyjecie. I dam wam ścięgna, i sprawię, że obrośniecie ciałem, i powlokę was skórą, i dam wam moje ożywcze tchnienie, i ożyjecie,
i poznacie, że Ja jestem Pan.
Ezechiel 37:5-6
Pierwszym tematem, który wyłonił się podczas naszych wizyt i dyskusji FASPE, była abstrakcja. Podczas Holokaustu naziści sprowadzili Żydów, Romów, bezdomnych, gejów, osoby z niepełnosprawnościami
i osoby oznaczone jako przestępcy do zestawu karykaturalnych cech, ułatwiając mieszkańcom Niemiec odczłowieczanie tych grup. Zamiast postrzegać żydowskiego sąsiada jako lekarza, ojca, członka społeczności lub przyjaciela, wielu zaczęło patrzeć na nich z podejrzliwością. Podczas gdy niektóre z tych karykatur były nieformalnie rozpowszechniane w zwykłych rozmowach wśród Niemców lub przez machinę propagandową Trzeciej Rzeszy, inne były formalnie usystematyzowane za pośrednictwem niemieckich instytucji, takich jak technologie śledzenia spisów ludności, formularze medyczne i rozporządzenia, takie jak ustawy norymberskie12.
Jednym z uderzających przykładów tego procesu był ośrodek eutanazji
w Brandenburgii, który odwiedziliśmy jako grupa podczas naszej podróży. Brandenburgia była jednym z pierwszych miejsc próbnego gazowania, otwartym w ramach Aktion T4
w 1939 r.13. Na początku programu Niemcy
z niepełnosprawnością fizyczną i psychiczną, w tym wiele dzieci, byli zabijani przez eksperymentalne gazowanie. Wybierając pacjentów, którzy mieli żyć, a którzy umrzeć, lekarze opierali się na danych demograficznych, które były podawane na obowiązkowych formularzach medycznych używanych w szpitalach w całym kraju. Informacje te obejmowały to, czy pacjenci odbywali regularne wizyty, jak długo byli hospitalizowani, na jaką chorobę cierpieli, czy popełnili przestępstwo, jaki zawód wykonywali (i czy wykonywali pożyteczną pracę) oraz jaka była ich narodowość. Pacjenci, którzy cierpieli na określone choroby, ci, którzy byli uwięzieni przez ponad pięć lat, ci, których uznano za niepoczytalnych pod względem kryminalnym lub którzy nie mieli niemieckiej krwi lub narodowości, mieli być natychmiast zgłaszani. Wielu z tych pacjentów zostało następnie zagazowanych. W ośrodkach eutanazji, takich jak ten w Brandenburgii, a także
w późniejszych obozach koncentracyjnych, abstrakcyjne wyobrażenia decydowały o ich przeżyciu.
W nowoczesnym krajobrazie technologicznym, biorąc za główny przykład technologie AI, inżynierowie w dużym stopniu polegają na rozwijaniu i wykorzystywaniu abstrakcyjnych reprezentacji świata do modelowania i podejmowania decyzji. Ta abstrakcja jest konieczna, ponieważ niemożliwe jest uchwycenie pełnej złożoności świata w jednym modelu. Tak więc postęp technologiczny zależy od rozwoju skutecznych abstrakcji, które reprezentują najważniejsze aspekty konkretnego zadania decyzyjnego w danym kontekście.
W przypadku nowoczesnych systemów AI inżynierowie podejmują różnorodne decyzje, które wpływają na abstrakcje wykorzystywane w tych modelach. Obejmują one wybór danych w każdym zestawie danych, cechy do reprezentowania danych dla danego zadania decyzyjnego, struktury modeli AI i cele szkoleniowe oraz przestrzenie wyjściowe dla tych modeli (tj. zestaw możliwych skutków decyzji).
Ślepe zaufanie do „obiektywnej” natury systemów AI ze strony opinii publicznej
i samych technologów może sprawić, że ludzie uwierzą, że te abstrakcje są moralnie neutralne. Ponieważ ich perspektywy są zabarwione szczególnym kontekstem społecznym w świecie technologii, szczególnie technologowie mogą zacząć wierzyć, że nie mają wpływu na wybór tych abstrakcyjnych reprezentacji. My, jako technologowie, mamy tendencję do stosowania soczewek techno-optymistycznych, ufając, że nowe technologie zawsze będą ulepszać społeczeństwo — ta tendencja sprawia, że wielu z nas decyduje się na pracę
w technologii. Jednak ten punkt widzenia może sprawić, że będziemy zadowoleni
z wpływu naszej pracy. Ryzykujemy odejściem od „przestrzeni powodów moralnych”, w której nieustannie i celowo zastanawiamy się nad naszą odpowiedzialnością moralną i wyborami15.
Jako konkretny, współczesny przykład błędnego techno-optymizmu i bezkrytycznej abstrakcji danych w systemie wspomagania decyzji opartym na sztucznej inteligencji, grupa Design & Technology badała narzędzie Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) do przewidywania recydywy16. Na podstawie danych demograficznych dotyczących osoby oskarżonej o popełnienie przestępstwa,
w tym jej „bieżących zarzutów, oczekujących
16
13 United States Holocaust Memorial Museum. Brandenburg T4 Facility. Libeskind, a+u nr 257: 82.
14Kristen Iannuzzi. Nazi Euthanasia and Action T4: Effects on the Ethical Treatment of Individuals with Disabilities. 2014.