Mye diskusjon og etisk tanke om selvkjørende biler har fokusert på tragiske dilemmaer, som hypotetikere der en bil må bestemme seg for om han skal løpe over en gruppe skolebarn eller kaste seg utfor en klippe, og drepe sine egne beboere. Men slike situasjoner er ekstreme tilfeller.
Som det nyeste krasjet - der en selvkjørende bil drepte en fotgjenger i Tempe, Arizona - demonstrerer, de dagligdagse, hverdagslige situasjonene ved hver gangkjøring, sving og kryss, mye hardere og bredere etiske kvartaler.
Ekstreme etikk
Som en filosof som jobbet med ingeniører i Stanfords Center for Automotive Research, ble jeg opprinnelig overrasket over at vi tilbrakte laboratoriemøtene våre på å diskutere det jeg trodde var et enkelt spørsmål: Hvordan skal en selvkjørende bil nærme seg et veikryss?
Min antagelse hadde vært at vi skulle tenke på hvordan en bil skulle bestemme mellom passasjerers liv og fotgjengere. Jeg visste hvordan jeg skulle tenke på slike dilemmaer fordi disse krasjscenariene ligner en berømt filosofisk hjernetrim som kalles "tralleproblemet." Tenk deg at en løpende trillebane kaster nedover sporene og vil treffe enten en gruppe på fem eller en enkelt person - vil du drepe en for å redde fem?
Imidlertid tviler mange filosofer i dag at å undersøke slike spørsmål er en fruktbar mulighet for forskning. Barbara Fried, for eksempel en kollega i Stanford, har hevdet at tragiske dilemmaer får folk til å tro at etiske kvandarer stort sett oppstår under ekstreme og alvorlige omstendigheter.
Faktisk er etiske kvandarer allestedsnærværende. Hverdagslige, hverdagslige situasjoner er overraskende rotete og sammensatte, ofte på subtile måter. For eksempel: Bør byen din bruke penger på et diabetesforebyggende program eller på flere sosionomer? Bør din lokale avdeling for folkehelse ansette en annen inspektør for restauranthygiene standarder, eller fortsette et program som tilbyr gratis nåler og injeksjonsmateriell?
Disse spørsmålene er ekstremt vanskelige å svare på grunn av usikkerhet rundt konsekvensene - for eksempel hvem som vil bli berørt og i hvilken grad. Løsningene filosofer har foreslått for ekstreme og desperate situasjoner er til liten hjelp her.
Problemet er likt med selvkjørende biler. Å tenke gjennom ekstreme situasjoner og krasjscenarier kan ikke hjelpe med å svare på spørsmål som oppstår i hverdagslige situasjoner.
En utfordring på kryss og tvers
Man kan spørre seg, hva kan være så vanskelig med hverdagslige trafikksituasjoner som å nærme seg en gangsti, kjøre gjennom et veikryss eller ta en venstresving. Selv om sikten ved krysset er begrenset og det noen ganger er vanskelig å se om en fotgjenger i nærheten faktisk vil krysse gaten, takler sjåførene dette hver dag.
Men for selvkjørende biler utgjør slike verdslige situasjoner en utfordring på to måter.
Lett for mennesker betyr ofte vanskelig for datamaskiner. (XKCD, CC BY-SA) For det første er det det faktum at det som er lett for mennesker ofte er vanskelig for maskiner. Enten det er å gjenkjenne ansikter eller sykle, vi er gode på oppfatning og mekaniske oppgaver fordi evolusjonen bygde disse ferdighetene for oss. Dette gjør imidlertid disse ferdighetene vanskelig å lære eller ingeniør. Dette er kjent som "Moravecs paradoks."
For det andre, i en fremtid der alle biler er selvkjørende biler, ville små endringer i kjøreoppførsel utgjøre en stor forskjell i samlet. Avgjørelser tatt av ingeniører i dag vil med andre ord ikke bestemme hvordan en bil kjører, men hvordan alle biler kjører. Algoritmer blir politikk.
Ingeniører lærer datamaskiner hvordan å gjenkjenne ansikter og objekter ved hjelp av metoder for maskinlæring. De kan bruke maskinlæring også for å hjelpe selvkjørende biler med å imitere hvordan mennesker kjører. Men dette er ikke en løsning: Det løser ikke problemet at omfattende beslutninger om sikkerhet og mobilitet tas av ingeniører.
Videre bør ikke selvkjørende biler kjøre som mennesker. Mennesker er faktisk ikke veldig gode sjåfører. Og de kjører på etisk urolige måter, og bestemmer om de skal gi etter på gangganger, basert på fotgjengers alder, rase og inntekt. For eksempel har forskere i Portland funnet ut at svarte fotgjengere blir passert dobbelt så mange biler og måtte vente en tredjedel lenger enn hvite fotgjengere før de kan krysse.
Selvkjørende biler bør kjøre tryggere, og mer rettferdig enn folk gjør.
Mundane etikk
De etiske problemene utdypes når du ivaretar interessekonflikter som dukker opp i hverdagslige situasjoner som krysningsturer, svinger og kryss.
For eksempel trenger utformingen av selvkjørende biler å balansere andres sikkerhet - gående eller syklende - med interessen til bilenes passasjerer. Så snart en bil går raskere enn gangtrafikken, er den ikke i stand til å forhindre å krasje inn i et barn som kan løpe inn på veien i siste sekund. Men gangtempo er selvfølgelig altfor tregt. Alle trenger å komme seg til steder. Så hvordan skal ingeniører finne balansen mellom sikkerhet og mobilitet? Og hvilken hastighet er trygg nok?
Det er andre etiske spørsmål som dukker opp også. Ingeniører må gjøre avveininger mellom mobilitet og miljøpåvirkning. Når de brukes på alle biler i landet, kan små endringer i datastyrt akselerasjon, hjørnearbeid og bremsing ha store effekter på energibruk og forurensningsutslipp. Hvordan skal ingeniører avveie reiseeffektivitet med miljøbelastning?
Hva skal fremtiden for trafikken være?
Mundane situasjoner utgjør nye tekniske og etiske problemer, men de fører også til at folk stiller spørsmål ved grunnleggende forutsetninger om trafikksystemet.
For meg selv begynte jeg å stille spørsmål ved om vi i det hele tatt trenger steder som heter "crosswalks"? Tross alt kan selvkjørende biler potensielt gjøre det trygt å krysse en vei hvor som helst.
Og det er ikke bare gangstier som blir unødvendige. Trafikklys i kryss kan også være en saga blott. Mennesker trenger trafikklys for å sikre at alle får krysse krysset uten krasj og kaos. Men selvkjørende biler kunne koordinere seg imellom.
Det større spørsmålet her er dette: Gitt at selvkjørende biler er bedre enn menneskelige sjåfører, hvorfor skal bilene være underlagt regler som var designet for menneskelig fallbarhet og menneskelige feil? Og for å utvide dette tankeeksperimentet, bør du også vurdere det mer generelle spørsmålet: Hvis vi som samfunn kunne utforme trafikksystemet vårt fra bunnen av, hvordan ville vi ønsket at det skal se ut?
Fordi disse vanskelige spørsmålene angår alle i en by eller i et samfunn, krever de at en by eller samfunn er enige om svar. Det betyr å balansere konkurrerende interesser på en måte som fungerer for alle - uansett om folk bare tenker på gangstier eller trafikksystemet som helhet.
Med selvkjørende biler kan samfunn redesigne trafikksystemene sine. Fra overgangsvei til generell trafikkdesign - det er hverdagslige situasjoner som reiser veldig harde spørsmål. Ekstreme situasjoner er en distraksjon.
Tralleproblemet svarer ikke på disse harde spørsmålene.
Denne artikkelen ble opprinnelig publisert på The Conversation.
Johannes Himmelreich, tverrfaglig etisk stipendiat, Stanford University McCoy familiesenter for etikk i samfunnet
