Home » 2022 » Raport: Nie tylko dylemat wagonika. Czy i jak samochody autonomiczne będą wzbudzać w nas zaufanie

Raport: Nie tylko dylemat wagonika. Czy i jak samochody autonomiczne będą wzbudzać w nas zaufanie

Spread the love

Samochody autonomiczne potrafią poruszać się bez kierowcy. Obserwują świat w 360 stopniach za pomocą kamer, radarów (fale radiowe) i lidarów (światło laserowe). Zebrane dane są analizowane w czasie rzeczywistym z wykorzystaniem metod sztucznej inteligencji, np. rozpoznawania obrazów. Następnie samochód podejmuje decyzje odnośnie zachowania na drodze. Jednak decyzje podjęte przez autonomiczny samochód, tak jak każdego innego uczestnika ruchu, mogą być brzemienne w skutkach. Kto jest odpowiedzialny za śmierć spowodowaną na drodze? Właściciel? Projektant? Ludzki kierowca, który powinien być gotowy do przejęcia kontroli? To jeden z wielu dylematów etycznych, które dotyczą tematu pojazdów autonomicznych. Najbardziej popularnym z nich jest dylemat wagonika. Jakie są jego warianty? A może tak naprawdę jest błędnym dylematem w tym kontekście?

Autonomiczne wehikuły (AVs)

Prace nad samochodami autonomicznymi nabrały tempa dzięki DARPA (Defense Advanced Research Projects Agency) Grand Challenge – wyścigom aut autonomicznych odbywającym się w Kalifornii. W 2004 i 2005 roku na pustyni, a w 2007 r. w bazie wojskowej udającej miasto. 2 miliony dolarów nagrody zachęciły wielu uczestników. W 2004 r. zwycięzca przejechał tylko 12 km, a w 2005 r. już 212 km. Z powodu tak dużego postępu w ciągu zaledwie roku, kolejna edycja odbyła się na terenie “miejskim”.

DARPA Grand Challenge 2005 - czego się nie robi dla 2 milionów dolarów, nawet buduje samochody autonomiczne

Stopnie autonomiczności pojazdów

Pomiędzy autem prowadzonym wyłącznie przez kierowcę, a autem bez kierowcy, jest kilka stadiów pośrednich. Obecnie stosunkowo dużo stosunkowo starych samochodów ma tempomaty pozwalające utrzymać prędkość na autostradzie, wspomaganie parkowania, wchodzenia w zakręt czy poślizg. To są pewne formy częściowo autonomicznej jazdy z poziomów 1 i 2. Poziom 3 to obecnie standard we wszystkich “autonomicznych” samochodach, które można kupić jako osoba prywatna, czyli np. w najbardziej znanych Teslach. Poziom 4 i 5 to rozwiązania przyszłości, chociaż trwają obecnie testy taksówek bez kierownicy – takie rozwiązania pomagały w Chinach rozwozić jedzenie w szczycie pandemii.

Autonomiczne auta. Test. Jak działają? | Tomasz Leżoń, Magazyn TVN24

Ustawodawstwo – Gdzie można jeździć? Gdzie jeszcze nie?

Rok 2022 jest przełomowy ze względu na zmiany prawne. W 1968 wiele krajów, w tym praktycznie cała Europa, podpisały Konwencję Wiedeńską o Ruchu Drogowym, w której zapisane było m.in., że samochód zawsze musi mieć kierowcę. Dopiero w 2022 roku wprowadzono zmiany, które wejdą w życie w wakacje, mówiące, że samochód nie musi mieć kierowcy. To otworzy drogę prawną dla poziomów 4 i 5 w krajach, które sygnowały konwencje. Chiny, USA ani Japonia nie podpisywały konwencji, co tłumaczy obecność poziomów 4 lub 5 w tych krajach.

  • Japonia – poziom 3, poziom 4 w mało zaludnionych miejscach
  • Wielka Brytania – poziom 3 niepełny, np. niedziałający podczas remontów dróg
  • Stany Zjednoczone – 37 Stanów poziom 3, a 4 z nich poziom 5
  • Chiny – poziom 4, po wybuchu pandemii Covid w niektórych miejscach poziom 5
  • Unia Europejska – poziom 3, niektóre kraje pracują nad prawnymi aspektami poziomu 4

Pewne prace trwają też w Kanadzie, Australii, Nowej Zelandii i Izraelu.

Standardized Regulatory Framework and Rapid Technological Advancement Set to Propel Autonomous Vehicles Globally
Mapa przedstawiająca kilka krajów zaangażowanych w zmiany prawne związane z samochodami autonomicznymi.

Producenci

Kalifornia jako jeden z 4 stanów zezwala na w pełni autonomiczną jazdę bez kierowcy. Obliguje jednak firmy testujące pojazdy autonomiczne do wysyłania corocznych raportów o sumie przejechanych kilometrów i liczbie odłączeń, czyli przejęć kontroli przez kierowców podczas jazd testowych. Na tej podstawie możemy zobaczyć, co ile, średnio, kilometrów, samochód “zawodził” i potrzebował wsparcia kierowcy.

Wiele firm próbuje tworzyć pojazdy autonomiczne, część z nich wygląda dość niezwykle:

Toyota halts all self-driving e-Palette vehicles after Olympic village accident | Reuters
Toyota e-Palette
Uber suspends autonomous car testing after fatal crash | Business | Economy and finance news from a German perspective | DW | 19.03.2018
Uber ATG
Google, Fiat Chrysler strike driverless car deal | Business | Economy and finance news from a German perspective | DW | 04.05.2016
Waymo by Google
Tesla's full self-driving mode is actually not fully self-driving - Marketplace
Tesla Autopilot

Głośne wypadki

  • Tesla: Chiny 2016 – wypadek śmiertelny, przyczyny niejasne; Floryda 2016 – samochód próbuje przejechać pod skręcającą ciężarówką i jedzie dalej bez dachu
  • Waymo: kilkanaście kraks, ale bez ofiar śmiertelnych – głównym powodem kraks było złe zachowanie innych kierowców, nie zatrzymywanie się na znaku stopu lub czerwonym świetle
  • Uber: Arizona 2018 – samochód zabija pieszą przechodzącą w miejscu niedozwolonym, w 2020 kierowca uznany za winnego zabójstwa, bo podczas wypadku oglądał serial na platformie Hulu
  • Toyota: Tokyo 2020 – samochód wjeżdża w niedowidzącego pieszego przechodzącego przez pasy, nie zabija go
NHTSA investigating 'violent' Tesla crash into semi that left 2 critically injured | Fox News
Wypadek podobny do Tesli, Floryda 2016, chociaż z 2021 roku. Tesla nie próbowała jechać dalej, 2 pasażerów przeżyło, jednak odnieśli poważne obrażenia.

Wypadek Ubera, Arizona 2018.

Do większości wypadków dochodzi z powodu złego zachowania innych uczestników ruchu. Czy samochody autonomiczne nie znają zasady ograniczonego zaufania? Wrócę do tego zagadnienia, ale najpierw:

Dylemat kolejki

Oryginalny dylemat kolejki składa się z dwóch wariantów: przełącznika i mostu. W wersji z przełącznikiem kolejka przejedzie 5 osób, ale możemy przesunąć przełącznik, by zabiła tylko jedną. W wersji z mostem kolejka przejedzie 5 osób, ale możemy zrzucić osobę otyłą na tory i w ten sposób zatrzymać kolejkę. Obie sytuacje mają ten sam skutek: śmierć jednej osoby zamiast pięciu, oraz nasze spowodowanie tej śmierci i uratowanie tych 5 osób. Różnią się jednak tym, że w przypadku przełącznika nasz wpływ jest pośredni, a w przypadku mostu bezpośredni. To my celowym działaniem zepchnęliśmy kogoś pod pociąg. Badania ankietowe pokazują, że ludzie są bardziej skłonni przesunąć przełącznik, niż popchnąć otyłego. Przeprowadzono wiele badań w różnych warunkach, np. wojny i otyłego żołnierza z obcego kraju, dlatego nie będę przytaczał konkretnych procentów z konkretnego badania (Thomson, 1976; Christen, 2021, i inne).

Ethical Dilemma Train Hotsell, 50% OFF | www.ingeniovirtual.comTrolley Dilemma | Simanaitis Says
Dwie klasyczne wersje dylematu kolejki: przełącznik i most.

“Czy jest w ogóle sens zastanawiania się nad tak abstrakcyjnymi problemami? Przecież autonomiczny samochód nigdy nie będzie musiał zrzucać grubasa z mostu” – możesz zapytać. Zanim jednak na nie odpowiem, zastanówmy się nad jeszcze bardziej abstrakcyjnymi problemami.

Więcej dylematów kolejki

Zastanów się, gdybyś Ty, kierowco, prowadził samochód i nagle pod koła wskoczyłyby Ci A i B, to przejechałbyś A, B czy wybrał opcję C – nacisnął guzik autodestrukcji i zniszczył pojazd ze sobą w środku? Załóżmy, że nie ma innej możliwości, gdyż „żaden nie może żyćgdy ten drugi przeżyje” – J.K. Rowling. Zakładamy też, że gdy nie podejmiesz decyzji i nie skręcisz, to przejedziesz zarówno A jak i B.

Dylematy pokrewieństwa:

  1. A – Twoja Mama, B – Twój Tata
  2. A – Twoja Mama, B – Mama Twojej Mamy
  3. A – Twoja Mama, B – Twoja Córka
  4. A – Twoja Mama, B – Twoja Żona

Dylematy wielkości:

  1. A – jedna osoba, B – pięć osób
  2. A – kobieta, B – kobieta w ciąży
  3. A – pięcioosobowa rodzina bez żadnych zewnętrznych więzi, B – jedna osoba, która ma dużą rodzinę i wielu przyjaciół

Dylematy “ważności”:

  1. A – mężczyzna, B – kobieta
  2. A – dziecko dwuletnie, B – dziecko ośmioletnie
  3. A – Johnny Depp, B – Amber Heard
  4. A – Robert Biedroń, B – Janusz Korwin – Mikke
  5. A – osoba z dużym ubezpieczeniem, B – osoba bez ubezpieczenia
  6. A – niepełnosprawny fizycznie, B – wysportowany, zdrowy człowiek
  7. A – niepełnosprawny umysłowo, B – geniusz
  8. A – czarnoskóry, B – białoskóry
  9. A – para heteroseksualna, B – para homoseksualna
  10. A – dziecko, B – emeryt
  11. A – prezydent, B – premier
  12. A – pracujący, B – bezrobotny
  13. A – dyrektor, B – szeregowy pracownik
  14. A – zwierzę, B – człowiek

Dylematy historyczne:

  1. A – Hitler, B – Stalin
  2. A – Mickiewicz, B – Słowacki
  3. A – Piłsudski, B – Dmowski

"Ciekawa gra" z MIT: https://www.moralmachine.net/ (Awad, 2018)

Do czego potrzebne nam są te abstrakcyjne dylematy?

Autonomiczny samochód nie jest agentem moralnym, nie będzie potrafił ocenić, co dla niego jest mniejszym złem. To odpowiedzialność programistów i inżynierów, by zaprogramować odpowiednie zasady moralne. Ale jak możemy zdecydować czyje życie jest cenniejsze w tak skomplikowanym przypadku jak: 1 biznesmen + 3 bezdomnych VS 1 pies + 1 kobieta w ciąży + 1 lekarka. Albo przedstawiony powyżej: 1 lekarka + 2 atletki + 1 emerytka VS 1 lekarz + 2 atletów + 1 emeryt. A może jeszcze okazać się że to pary: lekarz z lekarką, emeryt z emerytką, itd. Czy wówczas mężczyźni w samochodzie powinni zginać, by ich partnerki mogły żyć?


Różnice w postrzeganiu wartości życia pomiędzy kulturami (Maxmen, 2018)

Te zasady nie są projektowane wprost, nikt nie buduje systemu reguł: jeśli masz zabić bezdomnego ALBO homoseksualnego, to zabij bezdomnego. Ale programiści muszą stworzyć pewną funkcję wartości, której samochód będzie używać do oceny najlepszego zachowania w danej sytuacji. Jeśli chce skręcić w lewo i jest na prawym pasie, to funkcja powinna przyznawać większą wartość zmianie pasa na lewy. Jeśli pod koła wyskakuje nagle matka z dzieckiem, to funkcja powinna… No właśnie?

Nawet badania klasycznych przypadków dylematu kolejki pokazują, że ludzie nie mają jednego systemu wartości. Jak więc samochody mogą mieć taki system, skoro będzie on stworzony przez ludzi. By jeszcze dobitniej pokazać wpływ pojedynczego programisty, posłużę się przykładem z gry The Sims 2. Ta gra wprowadziła funkcję, bez której obecnie nie wyobrażamy sobie Simsów: związki homoseksualne. To był bug. Nikt tego nie planował. Specyfikacja wymagań zawierała błąd językowy, a programista który implementował tę funkcję był gejem, więc nie uznał tego za dziwne. Gdyby implementował to inny programista, prawdopodobnie Simsy nie dopuszczałyby związków homoseksualnych i nie byłyby tak progresywne w tamtych czasach.

LGBTQ Characters in The Sims | LGBTQ Video Game Archive
Be Proud in The Sims 2 too...

Tak więc prywatne poglądy jednej osoby mogą zmienić świat, nie tylko świat Simsów, ale również nasz, rzeczywisty.

Wypadki, a dylemat kolejki

Większość wspomnianych wypadków miała miejsce, ponieważ samochód zakładał, że inni uczestnicy ruchu będą zachowywać się właściwie. Żeby zrozumieć czemu samochód tak zakłada, musimy zrozumieć jak samochód jest programowany. W dylemacie kolejki mamy bardzo prostą sytuację jednej decyzji, jest zastana sytuacja, a uczestnik może podjąć tylko decyzję A lub B, nie może zrobić nic więcej. Prawdziwe sytuacje są znacznie bardziej płynne i mniej czarno-białe. Samochód ciągle operuje w pętli podejmując decyzje i zmieniając swój stan, najlepsza decyzja podjęta w stanie N może okazać się tragiczna w stanie N+1. Samochód musi więc przewidywać, tak jak szachista, kilka ruchów do przodu. Niestety, to przewidywanie jest jeszcze trudniejsze niż w szachach. Szachy mają bardzo duży, ale skończony wachlarz stanów szachownicy i możliwych ruchów. Sytuacja na drodze ma nieskończenie wiele możliwości – za sekundę ze studzienki ściekowej może wyskoczyć przerośnięty żółw ninja w pomarańczowej opasce, jak samochód miałby się na to przygotować?

Rozważmy sytuację: samochód podejmie decyzje, żeby zjechać w pobliże lewej krawędzi drogi, bo po prawej jedzie rowerzysta i samochód chce zachować odstęp. Nagle z lewej strony wybiega pieszy i samochód go potrąca. Gdyby samochód jechał bliżej rowerzysty i naraził go na większy dyskomfort, nie przejechałby pieszego. Komfort rowerzysty VS życie pieszego. Jak mamy uwzględnić różne prawdopodobieństwa warunkowe różnych sytuacji, których liczba jest nieograniczona?

Ucząc taki samochód, zazwyczaj korzystamy z systemów opierających się na prawdopodobieństwie zdarzeń i prawdopodobnych rezultatach tych zdarzeń. Jeśli dziecko wybiega na jezdnię za piłką, to prawdopodobnie będzie biegło za piłką do końca, może się jednak zdarzyć, że nas zauważy i odskoczy od piłki. Powinniśmy więc skręcić w lewo, czy może w prawo, po której stronie prawdopodobnie będzie dziecko, po której jest mniejsza szansa, że go nie przejedziemy? Jeśli uwzględnimy prawdopodobieństwo, to przejedziemy procentowo mniej dzieci. Brzmi to strasznie, prawie jak parafraza Stalina, ale śmierć kilkuset mniej, lub kilkuset więcej, to ważna statystyka. A prawdopodobnie nie jesteśmy w stanie ocalić wszystkich nieuważnych pieszych, bo jako kierowcy manualni, też często nie jesteśmy w stanie ich ocalić.

Jest jeszcze jeden ważny aspekt procesu uczenia. Samochód musi “przeżyć” odpowiednio dużo przypadków podobnego rodzaju, by móc nauczyć się dobrze na nie reagować. W ośrodkach testowych inżynierowie pozwalają samochodom przejeżdżać “pieszych” i karają samochody za takie zachowanie ujemną funkcją wartości. Samochód stara się więc unikać takich sytuacji w przyszłości, by maksymalizować swoją funkcję wartości. Bardzo możliwe, że samochody dostały za mało przypadków związanych z innymi pojazdami przejeżdżającymi na czerwonym świetle, by móc nauczyć się poprawnie reagować w takiej sytuacji.

Podsumowanie dylematów kolejki

Dylematy w stylu kolejki są jednoetapowe, proste i czarno-białe. Są typowo akademickimi rozważaniami na temat moralności i nie da się zaimplementować ich bezpośrednio w autonomicznych samochodach. Są jednak ważne, ponieważ pozwalają wyznaczyć oczekiwane zachowanie pojazdu w różnych brzegowych sytuacjach. Ta moralna wiedza, zbierana m.in. przez Maszynę Moralną z MIT pozwala lepiej określić funkcję wartości, którą powinien kierować się samochód. Ta funkcja jest następnie używana do nagradzania i karania samochodu podczas treningu w testowych sytuacjach drogowych. Na tej podstawie samochód uczy się, jak prawdopodobne są pewne zachowania, co może wydarzyć się na drodze, i jak najlepiej planować przyszłe decyzje, by maksymalizować wartość podróży. Podróż jest więcej warta gdy jest bezpieczna, szybka, ekologiczna, bez ofiar i kolizji.

Brak opisu.

Oprócz dylematu kolejki

Zastanówmy się jeszcze krótko nad innymi dylematami moralnymi, które nie są często rozważane, bo wszyscy zajmują się wyłącznie dylematem kolejki. Rozważmy świat samochodów autonomicznych za 100 lat. Zdecydowana większość pojazdów jest autonomiczna, tylko pasjonaci wciąż umieją prowadzić, tak jak tylko pasjonaci umieją obecnie jeździć konno. Miasta są przystosowane do pojazdów autonomicznych, tam gdzie się da powstaje bezkolizyjny ruch pieszych, kładki lub przejścia podziemne. Wszystkie pojazdy są elektryczne, a drogi wyposażone są w bezprzewodowe ładowanie podczas jazdy, przypominające sieć trakcyjną. Niestety, w takim mieście przyszłości, pojawi się wiele problemów moralnych, mniej lub bardziej związanych z samochodami autonomicznymi.

Problem prywatności:

Większość problemów z przejeżdżaniem innych samochodów na czerwonym lub wjeżdżaniem pod przyczepę, można wyeliminować, zakładając że wszystkie samochody będą komunikować się ze sobą. Również piesi mogą dzielić się swoją lokalizacją z samochodami, np. ze smartfonów, by wyeliminować problem pieszych przechodzących poza pasami. I tutaj pojawia się pierwszy problem etyczny: prywatność. Czy chcemy zrezygnować z prywatności dla bezpieczeństwa? Czy to powinno być obowiązkowe, czy dobrowolne? Czy na pewno życie ludzkie jest dobrem największym, czy jednak wolność jest równie ważna? Ten sam problem możemy zaobserwować obecnie w kontekście pasów bezpieczeństwa. Czy za ich niezapinanie powinno się dawać mandaty?

Problem reorganizacji miast:

Zmiany infrastrukturalne, rozdzielanie ruchu, budowa niebezpiecznych dla pieszych szybkich dróg, reorganizacja przestrzeni miejskiej, przesuwanie ulic, niszczenie zabytków, i wszystkie inne zmiany, które mogą być konieczne, by dostosować miasta do bezkolizyjnego, bezzałogowego transportu. Można wyobrazić sobie dystopijną wizję miasta szachownicy, w którym nie ma możliwości przejścia z jednego pola na drugie, ponieważ pola oddzielone są bezkolizyjnym transportem. To skrajny przykład, ale dużo mniejszych problemów przychodzi do głowy, związanych np. z reorganizacją ruchu, “tu zawsze była droga, teraz nie ma, a ja ją lubiłem”. Być może superszybkie autostrady będą musiały być dodatkowo ogrodzone płotami pod napięciem, by zagwarantować że ludzie nie będą na nie wchodzić.

Problem wykluczenia cyfrowego/transportowego:

Wiele firm zajmujących się AVs mówi, że dzięki nim będzie możliwy transport z terenów wiejskich osobom wykluczonym transportowo. Ale czy na pewno? Czy firmie będzie opłacać się ciągnąć sieć trakcyjną lub budować punkty ładowania po drodze na odludzie, na którym mieszka jedna staruszka chcąca dojechać do lekarza? Może okazać się, że powszechny dostęp do pojazdów autonomicznych w świecie korporacji spowoduje jeszcze większe wykluczenie transportowe osób mieszkających poza “centrami życia”.

Problem odpowiedzialności:

Kto jest odpowiedzialny za wypadki samochodów bezzałogowych? Winą nie będzie można obarczyć kierowcy, który powinien być gotowy przejąć kontrolę. Kto ponosi winę za śmierć pieszych lub innych pasażerów? A może to tylko nieszczęśliwy wypadek, wina siły wyższej, tak tornado lub powódź? Gdy dojdziemy do możliwości procesorów, pozwalających uwzględniać wielkie ilości danych, teoretycznie będzie możliwe stworzenie funkcji wartości, która każdą potencjalną ofiarę oceni pod jakimś względem, np. wymiernej straty społecznej po śmierci tej osoby: weźmie pod uwagę jej pracę i utracony wkład społeczny, więzi z innymi i wartość ich smutku i spadku produktywności, koszty śmierci w stylu ubezpieczenia, zyski ze śmierci jak koniec z wypłatą emerytury, itd. Następnie policzy sumę strat po wszystkich ofiarach i zdecyduje kogo zabić. W jaki sposób ta funkcja powinna działać i czy winą programisty będzie że działa tak a nie inaczej?

Podsumowanie

Dylemat wagonika stanowi ciekawy punkt wyjścia do szerszych rozwiązań etycznych. Zarówno innych wersji dylematu wagonika, jak i problemów miast przyszłości wywołanych szerokim wprowadzaniem pojazdów autonomicznych. Tak jak większość problemów etycznych, prawdopodobnie te także nigdy nie znajdą definitywnego rozwiązania. Prawdopodobnie za 100 lat, w mieście przyszłości, nasze wnuki będą zastanawiać się, czy lepiej jest przejechać marsjanina, czy świadomego, chodzącego na dwóch łapach psa. To dopiero będą dylematy kolejki.

Literatura

  • https://www.brookings.edu/research/the-folly-of-trolleys-ethical-challenges-and-autonomous-vehicles/
  • Thomson, J. J. (1976). KILLING, LETTING DIE, AND THE TROLLEY PROBLEM. The Monist, 59(2), 204–217. http://www.jstor.org/stable/27902416
  • Christen, M., Narvaez, D., Zenk, J. D., Villano, M., Crowell, C. R., & Moore, D. R. (2021). Trolley dilemma in the sky: Context matters when civilians and cadets make remotely piloted aircraft decisions. PloS one16(3), e0247273. https://doi.org/10.1371/journal.pone.0247273
  • Awad, E., Dsouza, S., Kim, R. et al. The Moral Machine experiment. Nature 563, 59–64 (2018). https://doi.org/10.1038/s41586-018-0637-6
  • https://www.moralmachine.net/
  • Maxmen A. Self-driving car dilemmas reveal that moral choices are not universal. Nature. 2018 Oct;562(7728):469-470. doi: 10.1038/d41586-018-07135-0. PMID: 30356197. (https://www.nature.com/articles/d41586-018-07135-0)

Jeden komentarz

  1. Przemyślenie z trochę innej kategorii niż uwagi z zajęć, ale nasunęło mi się na myśl, że jeżeli zaczniemy przebudowywać infrastruktury pod autonomiczne samochody, to czy nie doprowadzi to do marginalizowania osób, których na taki samochód nie stać lub po prostu nie chcą takiego mieć? Uławianie poruszania się samochodom autonomicznym może doprowadzić do tego, że nie będzie można znaleźć np. zwykłej stacji benzynowej, bo wszędzie będą tylko stacje ładowania (co, zapewne, miałoby swoje mocne strony, ale nie mówmy o ekologii), albo powstaną strefy, w których wolno poruszać się tylko samochodem autonomicznym, a my, takiego nie mając, musimy dotrzeć gdzieś w obrębie takiej strefy.

Leave a comment

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Najnowsze komentarze