Lekcja 2: Oceniaj świadomie i regularnie, aby zminimalizować szkody.
Technologowie często twierdzą, że ich kluczowym wkładem jest poprawa skali
i wydajności. Subtelna sugestia jest oczywiście taka, że skala i wydajność są
z natury pozytywnymi celami. Przynajmniej wydają się one ściśle powiązane
z przykładami współczesnych osiągnięć technologicznych, takimi jak wieżowce, globalne sieci komunikacyjne i wysoce zautomatyzowane linie montażowe.
Ostatnio szeroko chwalono duże modele językowe za ich szerokie zastosowanie, które obiecuje powszechny wzrost i bardziej wydajne wykonywanie zadań. W świecie, który wydaje się dążyć do wszystkiego większego i szybszego, skala i wydajność stały się kluczowymi miarami wydajności.
Jednak podczas gdy świętujemy te osiągnięcia, często wydaje się, że pomijamy zdolność technologii do umożliwienia szkód na dużą skalę.
Technologia nie stworzyła uprzedzeń nazistowskich. Ale umożliwiła okrucieństwa na skalę dotychczas niepojętą.
20 stycznia 1942 roku na przedmieściach Berlina piętnastu nazistowskich urzędników partyjnych dyskutowało, jak poradzić sobie
z około 11 000 000 Żydów w Europie. Ta zimna kalkulacja stanowiła część tego, co obecnie nazywa się konferencją
w Wannsee6. Różni obecni urzędnicy wyrażali obawy dotyczące trudności logistycznych związanych z „ewakuacją” (eufemizm oznaczający morderstwo) tak dużej liczby osób. Naziści mieli problem. Technologia obiecała „rozwiązanie”
w postaci komór gazowych. Podczas gdy naziści dokonywali masowych morderstw już przed konferencją w Wannsee, późniejsza skala morderstw stała się możliwa w dużej mierze dzięki nowym, diabolicznym technologiom.
Co zatem jest dobrego w skali i wydajności?
Co więcej, pytania te dotyczą nie tylko tego, jak możemy myśleć o projektowaniu technologii, ale także tego, jak możemy postrzegać nasze własne role jako technologów. Wychowani na retoryce mówiącej o inżynierach ratujących świat, wielu z nas postawiło sobie za cel tworzenie zmian na dużą skalę poprzez naszą pracę.
W rzeczywistości możemy być zmotywowani jednym z 14 Wielkich Wyzwań Narodowej Akademii Inżynierii (obietnica osobistej
i zawodowej wielkości zawarta nawet w ich nazwie). Od globalnych pandemii po pogarszającą się zmianę klimatu, wszyscy czujemy pilną potrzebę tworzenia zmiany –
i to szybko!
Jednak pogoń za takim wpływem często oznacza oddanie kontroli nad kształtem, jaki przybiera nasza praca. Technologie, które opracowujemy, ostatecznie opuszczają laboratorium (lub, co teraz częściej, otwartą przestrzeń biurową) i przenikają społeczeństwo, splatając się z globalnymi problemami i istniejącymi strukturami władzy. Im większa skala, tym mniej możemy być w stanie dostosować się i tym więcej szkód może być ich konsekwencją. Mamy czas podczas całej naszej kariery, aby pracować nad pozytywną zmianą. Powinniśmy rozważyć to, by rozpocząć od skupienia się na efektach na mniejszą skalę lub zwolnienie tempa, aby wprowadzać zmiany regularnie – i najlepiej w drodze współpracy.
Lekcja 3: Sprawdź, czyje głosy są pomijane w procesie projektowania i znajdź sposoby na nawiązanie z nimi kontaktu.
To, co wiemy o naszym wpływie jako technologów, zależy od tego, na kim zależy nam na tyle, by podjąć rozmowę. Na przykład osoby, które nie są „użytkownikami” produktu, są często pomijane w badaniach użytkowników, nawet jeśli produkt na nie wpływa. Co więcej, różnorodność osób objętych badaniami użytkowników może się znacznie różnić
w zależności od tego, ile czasu poświęcono badaniu, z kim się kontaktowano i kto może sobie pozwolić na udział. Niezamierzone konsekwencje pojawiają się, gdy projektanci nie biorą pod uwagę perspektywy osób, które nie są „użytkownikami docelowymi”. Te konsekwencje często nieproporcjonalnie szkodzą społecznościom mniejszościowym.