Rongiprobleem

Rongiprobleem (originaalkeeles “The Trolley Problem”) on sari mõtteeksperimente eetika ja psühholoogia vallas, mis hõlmab eetikaküsimuse "Kas on eetiline ohverdada üks, et päästa mitu?" versioone. Dilemma kõige tuntum versioon on Judith Jarvis Thomsoni "Kang" (originaalkeeles “Switch” või “Bystander at the Switch”) ja see kõlab järgmiselt: Kontrolli alt väljunud rong kihutab mööda rongirööpaid. Rongi ees on rongirööbastele kinni seotud viis inimest, kes ei saa ennast liigutada ja kelle poole rong kihutab. Sina seisad pisut eemal ja sinu kõrval on kang. Kui sa kangi tõmbad, siis vahetab rong rööpaid ja sõidab mööda teist rada edasi, aga teisele rajale on kinni seotud üks inimene. Sul on kaks valikut: Sa ei tee midagi ja lased rongil viis inimest tappa. Sa tõmbad kangi, rong vahetab rada ja tapab sellega ühe inimese. Kumb on eetilisem valik? Philippa Foot tutvustas otsustusprobleemide sarja 1967. aastal Oxford Reviews avaldunud artiklis “The Problem of Abortion and the Doctrine of the Double Effect”. Hiljem on dilemmat põhjalikult uurinud filosoofid Judith Jarvis Thomson, Frances Kamm ja Peter Unger. Thompsoni 1976. aastal ilmunud artikkel “Killing, Letting Die, and The Trolley Problem” algatas suure huvi dilemma vastu, muutis selle eraldi uurimisobjektiks ning nimetas selle ametlikult "The Trolley Problemiks" ('rongiprobleem'). Pärast seda on dilemma kohta ilmunud väga palju kirjutisi, kus on dilemmast esitatud rohkesti värvikaid ja kohati absurdseid versioone. Näiteks kui ohverdus oleks hoopis selline, et rongi peatamiseks lükatakse selle ette paks mees. Erinevate versioonide eesmärk on keerulisemaks muuta meie järeldusi põhjuse-tagajärje suhtes. Enne Philippa Footi on sarnaseid dilemmasid esitanud ka teised filosoofid. Frank Chapman Sharp viis 1905. aastal Wisconsini ülikooli üliõpilaste seas läbi uuriva küsitluse, milles esines sarnane dilemma. Tema versioonis kontrollis kangi rongijaamas töötav rööpaseadja ja ohverdatavaks isikuks oli rööpaseadja laps. Sarnase dilemma üle on arutlenud 1930. aastal ka saksa filosoof Karl Engisch, kes uuris seda oma habilitatsioonitöös. Sarnaselt uuris 1951. aastal seda ka saksa õigusteadlane Hans Welzel. Alates 2001. aastast on rongiprobleemi ja selle variante laialdaselt kasutatud moraalipsühholoogia empiirilistes uurimustes. Lisaks on sellest kirjutatud mitu raamatut. Rongiprobleemiga sarnased stsenaariumid esinevad ka autonoomsete sõidukite disainimise eetikas, kus tuleb programmeerides valida, mille pihta auto avariiolukorras eelisjärjekorras sõidab. Philippa Footi originaalne versioon "Trolley Driver" mõtteeksperimendist: Kontrolli alt väljunud rong kihutab mööda rööpaid, rongis oleval rongijuhil on võimalik rongi liigutada vaid ühelt rajalt teisele. Eesoleval rajal töötab viis meest ja kõrvalrajal töötab üks mees ning kummalgi juhul pole töötaja(te) surm välditav. Utilitaristliku vaate järgi oleks kohustuslik rong ümber juhtida rajale, millel on üks mees. Klassikalise utilitarismi järgi oleks see lubatud ja ka eetiliselt parem valik, sest teine valik on selles olukorras mitte millegi tegemine. Philippa Foot ise selle probleemiga enam edasi ei tegelenudki, kuid ta pakkus välja lahenduse. Footi lahendus probleemile on järgnev: Me peame aktsepteerima, et meie “negatiivsetest kohustustest”, nagu näiteks kohustus hoiduda tapmisest, tuleb rangemalt kinni hoida kui meie “positiivsetest kohustustest”, nagu seda on päästa elusid. Kui rongijuht ei tee midagi ja seetõttu tapab viis inimest, siis rikub ta “positiivset kohustust”. Kui ta aga pöörab teisele teele, siis rikub ta “negatiivset kohustust”. Rongiprobleemi eri versioonid rõhutavad erinevust deontoloogilise ja konsekventsialistliku eetilise süsteemi vahel. Peamine küsimus, mille dilemma välja toob on – kas on õige aktiivselt pärssida üksikisiku kasu kui see tooks suuremale hulgale inimestele kasu? Lisaks kõige tuntumale versioonile rongiprobleemist "Kang" (vaata artikli alguses) lõi Judith Jarvis Thompson rongiprobleemist muidki versioone: Sa seisad sillal, mis ületab rongirööpaid. Sa näed kontrolli alt väljunud rongi. Rajal, millel ta sõidab, on viis inimest, kelle elud on ohus. Pole ühtegi teist rada, millele rongi suunata saaks. Ainuke viis, kuidas takistada nende viie inimese surma, on kukutada midagi suurt ja rasket rongile ette, et see peatada. Ainus piisavalt raske objekt läheduses on üks väga paks mees, kes seisab sillal sinu kõrval. Kas sa peaksid ta lükkama sillalt alla, et peatada rong ja päästa sellega viie inimese elu? Kuigi tulemus on sama, mis "Kang" versioonil, siis küsitluste tulemused näitavad, et enamik inimesi ütlevad, et viie inimese elu päästmiseks tuleks kangi tõmmata, aga paksu meest sillalt alla lükata ei tohiks. Selle tõttu on püütud leida moraalset erinevust nende kahe versiooni vahel. Shelly Kagan toob oma raamatus "The Limits of Morality" välja sellise eristuse – "Kang" versioonis ei tehta kavatsuslikult kellelegi liiga, ühe tapmine on selles versioonis lihtsalt kõrvalmõju kangi tõmbamisele. "Paks mees" variandis on ühe tapmine lahutamatu osa sellest, et päästa viis. Selles samas raamatus lükkab ta selle väite lõpuks ka ümber. Põhimõtteliselt on eristus kahe versiooni vahel see, et "Paks mees" versioonis on ühe tapmine, et päästa viis, kavatsuslik ja see on vale, aga "Kang" versioonis pole tapmine kavatsuslik. Selline lahendus viitab topelttagajärje doktriinile, mis ütleb, et võib teha valikuid, millel on halvad kõrvalmõjud, aga tahtlikult kellegi vigastamine, ka heal eesmärgil, on vale. See versioon on eelmise edasiarendus. Nagu ennegi seisad sa sillal ja rong sõidab viie inimese poole. Sinu ainus võimalus rong peatada on lükata enda kõrval seisev paks mees rongile ette. Selles versioonis on paks mees see, kes need viis inimest rongirööbastele kinni sidus. Sellisel juhul võib arutleda, et paksu mehe ohverdamine pole mitte ainult moraalselt lubatud vaid ka moraalselt kohustuslik. Mis moraalsetesse valikutesse puutub, siis tehniliselt on kõikide nende dilemmade puhul kolm moraalset valikut: 1. moraalne kohustus tappa üks, et päästa viis; 2. moraalselt lubatud, aga mitte moraalselt kohustuslik tappa üks, et päästa viis; 3. moraalselt keelatud tappa üks, et päästa viis. See on kolmas arendus, mis on seotud paksu mehega. Nagu ennegi sõidab rong viie inimese poole, aga sinul on võimalus juhtida rong teisele rajale. Teine rada viib aga pärast uuesti tagasi rajale, millel on viis inimest – moodustab silmuse. Teisel rajal olev inimene on paks mees, kes saaks surma, aga peataks sellega rongi. Kas peaks tõmbama kangi, et rongi sõidurada vahetada? Ainuke erinevus on siin lisatud rada, mis tundub tühine, sest rong ise ei sõidaks mööda seda rada. Põhjus, miks see kellegi vastust võiks muuta on see, et ühe tapmine on siin osa plaanist päästa viis. Michael J. Costa avaldas 1987. aastal artikli "Another Trip on the Trolley", milles ta väidab, et kui me selles versioonis midagi ei tee, siis me laseme viiel surra, et päästa üks. See on Judith Jarvis Thomsoni pakutud rongiprobleemi alternatiiv, millel pole rongiga mingit pistmist. See käib järgmiselt: Ühel väga heal siirdamiskirurgil on viis patsienti, nad kõik vajavad mingit uut elundit, muidu nad sureksid. Arsti juurde tuleb kontrolli üks rändur, kes pole otseselt arsti patsient. Arst avastab, et ränduri organid sobiksid ideaalselt tema viiele patsiendile. Lisaks ei oskaks noore ränduri kadumaminekut keegi arstiga seostada. Kas sa toetaksid seda, et arst tapab ränduri selleks, et päästa viie patsiendi elu? Neid dilemmasid on kaks: Ameerika Ühendriikide presidendile on just öeldud, et venelased on saatnud New Yorgi poole aatomipommi. Ainuke viis, kuidas peatada selle jõudmist New Yorki, on see õhku lasta, aga ainus vaba trajektoor selle õhkimiseks on Worcesteri kohal. President saab kas: teha mitte midagi ja lasta kõigil New Yorgi elanikel surra. vajutada nuppu, mis tapaks kogu Worcesteri elanikkonna. Ameerika Ühendriikide presidendile on just öeldud, et venelased on saatnud New Yorgi poole aatomipommi. Ainuke viis, kuidas peatada selle jõudmist New Yorki, on saata oma aatomipomm Worcesteri, mis tapaks küll selle elanikkonna, aga plahvatus, mis sellest tuleks, hävitaks venelaste pommi ja säästaks New Yorgi elanikud. Esimese puhul on plaan lasta lõhkeda aatomipommil, teise puhul hävitada Worcester. Kuigi tulem on sama, kas siis erinev sihtmärk muudaks midagi? Ka Peter Unger on loonud versioone rongiprobleemist, üks neist on selline: Samamoodi on rong teel viie inimese poole. Sul on võimalus rong juhtida kõrvalteele, kus ta sõidaks otsa teisele rongile. Kui sa seda teed, siis põrkuvad rongid kokku nii, et nad lendavad rajalt maha ja veerevad mäest alla ning tapaksid sellega mäe nõlval oleva maja aias võrkkiiges magava mehe. Kas sa peaksid sekkuma? Unger väidab, et vastused sellele ja ka muudele rongiprobleemidele sõltuvad sellest, kas vastaja on varem mingite rongiprobleemidega kokku puutunud. Tema sõnul püüavad inimesed oma vastuseid rongiprobleemidele hoida järjekindlatena. Unger väidab, et inimesed, kes pole rongiprobleemiga varem kokku puutunud vastaksid antud juhul, et oleks väär sellesse olukorda sekkuda. Need, kes on varem rongiprobleemiga kokku puutunud, väidaksid vastupidist. Unger järeldab sellest, et vastused sellist sorti probleemidele põhinevad pigem psühholoogial kui eetikal. Tema sõnul on tema versioonis ainukene oluline erinevus see, et meile tundub, et see aias magav mees pole olukorraga üldse seotud ja seega pole aus ka teda ohverdada, aga Ungeri sõnul ei ole selline aspekt moraalsusega seotud. 2001. aastal avaldas Joshua Greene koos kolleegidega esimese tähendusrikka empiirilise uurimuse tulemused, milles uuriti inimeste vastuseid rongiprobleemile. Kasutades funktsionaalset magnetresonantstomograafiat demonstreerisid nad, et isikulised dilemmad, näiteks mehe sillalt alla lükkamine, stimuleerib aju osasid, mis on seotud emotsioonidega. Mitteisikulised dilemmad, näiteks rongi raja vahetamine kangi läbi, stimuleerivad aju neid osi, mis on seotud loogilise arutluskäiguga. Nendel alustel propageerivad nad duaalse protsessi teooria tähtsust moraalses otsustamises. Pärast seda on mitmed uurimused kasutanud rongiprobleemi, et uurida moraalseid hinnanguid ja kuidas need on mõjutatud stressist, emotsionaalsest seisundist, muljete haldamisest (teooria), anonüümsusest, ajukahjustustest, füsioloogilisest erutusest, neurotransmitteritest ja geneetilistest teguritest. Eri versioone rongiprobleemist on palju kasutatud kui utilitarismi mõõdet, aga selliseid uurimusi on ka laialdaselt kritiseeritud. 2017. aastal korraldas Michael Stevens esimese realistliku rongiprobleemi eksperimendi. Eksperimendis asetati katsealused üksinda kohta, mida nemad pidasid päris raudteelüliti jaamaks. Seejärel näidati neile filmimaterjali, mida nemad pidasid reaalajas juhtuvaks, aga mis tegelikult oli varem filmitud, milles oli näha rongi, mis sõitis mööda rongirööpaid, millel oli viis inimest ja selle kõrval olevat rongirada, millel oli üks inimene. Katsealustel oli võimalus vajutada lülitit, mis juhiks rongi kõrvalrajale. Enamus katsealustest ei vajutanud lülitit. Rongiprobleem on olnud paljude uurivate küsitluste teemaks, milles umbes 90% vastajatest on valinud tappa ühe, et päästa viis. Kui aga situatsioon on muudetud selliseks, milles see ohverdatav üks on vastaja sugulane või lähedane, siis on väiksem tõenäosus, et vastaja ohverdaks ühe, et päästa viis. David Bourget ja David Chalmers tegid 2009. aastal uurimuse, mis näitas, et 69,9% kutselistest filosoofidest tõmbaks kangi ja ohverdaksid sellega ühe, et päästa viis. 8% filosoofidest ei tõmbaks kangi ja ülejäänud 24% pakkusid välja kas mingi muu lahenduse või ei osanud vastata. 2014. aastal avaldas Social and Personality Psychology Compass artikli, milles teadlased kritiseerivad rongiprobleemi kasutust teaduses. Muude argumentide seas on kirjas, et rongiprobleemi stsenaariumid on liiga ekstreemsed ega seostu päriselu moraaliküsimustega, seega ei ole need selles valdkonnas harivad ega kasulikud. Brianna Rennix ja Nathan James Robinson lähevad Current Affairsis ilmunud artiklis veel kaugemale ja väidavad, et rongiprobleemi mõtteeksperiment pole mitte ainult kasutu, vaid inimpsühholoogiale kahjulik. Autorid väidavad, et hüpoteetiliste olukordade üle, milles iga alternatiivne olukord lõppeks kellegi koletu surmaga, on külmade kalkulatsioonide tegemine miski mis julgustab tagant mõtteviisi, millel puudub inimlik empaatia. Nad seavad kahtluse alla ka stsenaariumi alused. Öeldes, et: "Kui mind sunnitakse vastu minu tahtmist olukorda, milles inimesed surevad ja minul ei ole võimalik seda kuidagi peatada, siis ei ole minul selles olukorras mingisugust tähenduslikku faktorit ja seega ei saa mul esineda ka moraalset valikut kahe tähenduslikult erineva valiku vahel." 2017. aastal ajakirjas Science, Technology, and Human Values ilmunud artiklis toob Nassim JafariNaimi välja rongiprobleemi vastuolulise olemuse eetiliste probleemide kujundamisel, mis aitab tema sõnul säilitada utilitarismi aegunud versiooni. Ta väidab, et populaarne argument, et rongiprobleem võib kuidagi olla algoritmilise moraali malliks, põhineb valedel alustel ja sellel võivad olla kohutavad tagajärjed meie linnade tulevikule. 2017. aastal ilmus Roger Scrutoni raamat "On Human Nature", milles ta kritiseerib filosoofe, nt Derek Parfitit ja Peter Singerit, kes kasutavad eetilisi dilemmasid, nagu näites rongiprobleem, et illustreerida omaenda eetilisi vaateid. Tema sõnul eemaldavad sellised dilemmad situatsioonist kõik moraalselt relevantsed suhted ja taandavad probleemi aritmeetilisele tasandile. Scruton usub, et lihtsalt sellepärast, et keegi valiks kangi tõmbamise, et ohverdada üks ja päästa viis, ei tähenda, et nad tingimata on konsekventsialistid. Selleks, et tuua välja vigu konsekventsialistlikes vaadetes eetilistele dilemmadele, toob Scruton välja vastuolulisi elemente utilitarismis ja muudes sarnastes vaadetes. Näiteks usub Scruton, et Robert Nozicki kogemusmasina mõtteeksperiment lükkab ümber hedonismi. 2018. aastal ilmus Psychological Review's artikkel, milles toodi välja, et utilitarismi mõõtmise mallidena, mõõdavad ohverduslikud dilemma, nagu seda on rongiprobleem, utilitarismis ainult ühte külge, milleks on lubav suhtumine instrumentaalsetele kahjudele. Samal ajal ignoreeritakse erapooletut mure üldise heaolu suhtes. Seega ütlevad autorid, et rongiprobleem pakub pooliku mõõte utilitarismile. Rongiprobleemiga sarnased probleemid tõstatuvad ka autonoomsete sõidukite tarkvara loomisel. Eelduseks on olukorrad, milles potentsiaalselt surmaga lõppevad avariid on vältimatud ja milles auto tarkvara peab valima, kelle või mille otsa ta sõidab. Näiteks, kas auto tarkvara peaks pidama olulisemaks autos olevate inimeste ohutust või potentsiaalseid ohvreid väljaspool autot? MIT Media Lab lõi platvormi "Moral Machine" mis, kasutades rongiprobleemi paradigmat, laseb inimestel avaldada oma arvamust selle kohta, milliseid valikuid autonoomsed sõidukid eri olukordades tegema peaksid. Platvormil kogutud info näitab suhteliste erinevuste eelistusi eri riikides. On kasutatud ka virtuaalset reaalsust, et uurida inimeste reaktsioone sellistes olukordades. Siiski on vaieldav see, et rongiprobleemi rakendamisest autonoomsete autode eetilisuse uurimisel mingit kasu oleks. Rongiprobleemi paradigma on praktilises võtmes väga limiteeritud ja sellise tehisintellekti arendamiseks on vaja väga palju põhjalikumat ja detailsemat uurimust ja plaani. Küsimuseks on ka see, et kes peaks kehtestama eetikastandardid, millest autonoomsed sõidukid lähtuvad? Kas seda peaks tegema riiklik seadus? Või kas autonoomse sõiduki omanik individuaalselt peaks saama valida oma auto eetilisi väärtusi, näiteks, et auto peaks hindama omaniku elu rohkem kui teiste liiklejate? Jan Gogoll ja Julian F. Müller räägivad oma uurimuses, et enamik inimesi ei oleks ilmselt nõus sõitma automatiseeritud sõidukiga, mis elu-surma olukorras neid eelisjärjekorras ohverdaks, kuid usuvad siiski vastuolulist väidet, et kohustuslike eetikaväärtuste kasutamine, antud olukorras, oleks nende huvides. Nende sõnul on selle põhjuseks see, et isikupärastatud eetilised regulatsioonid lõppevad suure tõenäosusega vangi dilemmaga. 2016. aastal pani Saksamaa valitsus kokku komisjoni, kelle ülesandeks oli uurida autonoomsete sõidukite eetilisi tagajärgi. Komisjon kehtestas kakskümmend reeglit, mis kehtestavad autonoomsete sõidukite eetilised valikud. Nende kehtestatud reeglitest on rongiprobleemiga relevantne järgmine: 8. Ehtsad problemaatilised otsused, näiteks otsus ühe või teise inimelu säästmise vahel, sõltuvad konkreetsest olukorrast, hõlmates osapoolte ettearvamatut käitumist. Seega ei saa selliseid olukordi selgelt standardiseerida ega programmeerida nii, et need oleksid eetiliselt vaieldamatud. Tehnoloogilised süsteemid peavad olema kavandatud õnnetuse vältimiseks. Tehnoloogilisi süsteeme ei saa standardiseerida õnnetuse mõjude komplekseks või intuitiivseks hindamiseks nii, et need oleksid võimelised asendama vastutustundliku juhi võimet teha moraalselt õigeid otsuseid. On tõsi, et autojuht käituks ebaseaduslikult kui ta tapaks ühe või mitme elu päästmiseks teise inimese, kuid ta ei oleks tingimata ka süüdi. Selliseid õiguslikke otsuseid, mis on tehtud tagantjärele ja erilisi asjaolusid arvesse võttes, ei saa kasutada üldisteks eelhinnanguteks ja seega ei saa neid kasutada ka vastavateks programmeerimistöödeks. ... Rongiprobleemiga sarnanev päriselus toimunud juhtum leidis aset 20. juunil 2003, kui kontrolli alt väljunud 31 vaguniga Union Pacificu mehitamata rong sõitis mööda esimest rada Los Angelese poole. Selleks, et vältida rongi jõudmist Union Pacificu Los Angelese hoovi, kus ta oleks põhjustanud palju kahju firmale, aga milles oleks jõudmise hetkeks asunud ka Metrolinki reisirong koos reisijatega, otsustas dispetšer suunata mehitamata rongi neljandale rajale, mis läbis hõredamalt asustatud madalaklassilist piirkonda. Neljanda raja kiiruspiirang oli 15 mph (u 24 km/h) ja dispetšer oli teadlik, et mehitamata rongi kiirus oli sellest oluliselt suurem ja seega on võimalik, et rong sõidab rööbastelt maha. Mehitamata rong, millel oli üle 3800 tonni puitu ja ehitusmaterjale, sõitis rööbastelt maha California Commerce'i piirkonnas ning sõitis läbi mitmest majast. Juhtunu põhjustas kolmteistkümnele inimesele kergeid vigastusi. Ühes majas maganud lapseootel naine suutis vältida raskemaid vigastusi sellega, et hüppas kodu aknast välja ja tänu sellele ei saanud ta pihta lendavate rongirataste ja erinevate ehitusmaterjalidega. Rongiprobleem on pakkunud palju mõtte- ja kõneainet, seda väga paljudes valdkondades. Oma koht on rongiprobleemil ka popkultuuris. 1960ndate keskel hakkas levima linnalegend, mis kirjeldab tõsielulist sündmust, milles tõstesilla pidaja oli sunnitud valima, kas ta ohverdab reisirongi või oma nelja-aastase poja. 2003. aastal loodi Tšehhis selle põhjal lühifilm "Most" (eesti keeles "Sild"). Seda linnalegendi ja ka filmi kasutatakse illustreerimaks Kristlaste usku, et Jumal ohverdas oma poja Jeesus Kristuse. Üks sisukamaid näiteid rongiprobleemist televisioonis on telesarja "The Good Place" osa "The Trolley Problem". Selles osas kirjeldatakse rongiprobleemi ja arutletakse selle üle, aga lahendus pakutakse välja hilisemal hooajal. Nende pakutud lahendus rongiprobleemile on eneseohverdus. 2002. aasta filmis "Ämblikmees" võitleb peategelane Rohelise Paharetiga, kellel on ühes käes Mary-Jane Watson ja teises käes tramm reisijatega. Roheline Paharet sunnib Ämblikmeest valima, kumba ta päästab. Lõpuks laseb Roheline Paharet mõlemad lahti ja Ämblikmehel õnnestub mõlemad päästa, vältides sellega rongiprobleemi tulemit. Sarja "Elavad surnud" kolmandal hooajal peab üks tegelastest valima, kas ta annab valitsejale üles oma sõbra või astub sõtta Woodbury linnaga. Kui ta valib esimese variandi, siis ta sõber tapetakse. Kui ta valiks teise, siis sureksid paljud. Ulmesarja "Tähevärav: Atlantis" kolmanda hooaja 15. osas esitleti rongiprobleemi, milles ühel rajal on kümme inimest ja teisel rajal on vastsündinud beebi. Esitletud probleem tekitas küsimuse – miks situatsiooni nägev inimene ei hoiata rongiradadel olevaid või ei tõtta beebit päästma? 2019. aastal esietendus Bo Robinsoni kirjutatud näidend "The Trolley Problem". Lavastuses rullub lahti rongiprobleemi versioon, milles on kontrolli alt väljunud rong, mis suundub viie inimese poole. Tüdruk seisab kangi kõrval ja peab otsustama, kas ta tapab viieliikmelise perekonna või kõrvalrajal oleva võõra. Lavastus hindab ja analüüsib rongiprobleemi versioone, kaasaarvatud varem mainitud paksu mehe varianti. 2010. aastal ilmunud mängus "Fable 3" peab mängija valima, kas ta tapab oma nooruspõlve armastuse või rühma protestijaid. Kui otsust ei tehta määratud aja jooksul, surevad kõik. Rongiprobleemist on loodud on ka interaktiivseid mänge, näiteks "The Trolley Problem Game" ja "Moral Machine". 2020. aasta alguses ilmus ka lauamäng "Trial by Trolley". 2016. aastal loodi Facebooki leht "Trolley Problem Memes", mis on kogunud palju populaarsust. Lehel jagatakse koomilisi versioone rongiprobleemist, mis tihtilugu segavad mitmeid filosoofilisi dilemmasid. Üks tuntumaid naljaversioone on "Multitrack trifting", milles tõmmatakse kangi nii, et rongi esimesed rattad jäävad esimesele rajale ja teised teisele rajale, tekib lahendus, milles kõik radadel olevad inimesed saavad surma. Arvatavasti just tänu Interneti-meemidele on rongiprobleem tänapäeval (ja just mittefilosoofide jaoks) nii tuntud. Ühest küljest on see tore, et inimesed huvituvad filosoofiast. Dilemma tuntuse tõttu nähakse rongiprobleemi tihti kui eetiliste dilemmade tippu, kuid nagu ka varem empiirilistest uurimustest rääkides välja tuli, ei ole teaduslikus mõttes tegu kuigi hästi üles ehitatud dilemmaga. Philippa Foot (1967), The Problem of Abortion and the Doctrine of the Double Effect.Oxford: Basil Blackwell. (originally appeared in the Oxford Review, Number 5, 1967.) Judith Jarvis Thomson (1976), Killing, Letting Die, and the Trolley Problem. 59 The Monist 204-17. Jarvis Thomson, Judith (1985). The Trolley Problem (PDF). Yale Law Journal. 94 (6): 1395–1415. JSTOR 796133. Myrna Kamm, Francis (1989). Harming Some to Save Others. Philosophical Studies. 57 (3): 227–60. doi:10.1007/bf00372696. S2CID 171045532. Peter Unger (1996), Living High and Letting Die. Oxford: Oxford University Press Frank Chapman Sharp (1908), A Study of the Influence of Custom on the Moral Judgment. Bulletin of the University of Wisconsin no.236, 138. Frank Chapman Sharp (1928), Ethics. New York: The Century Co, 42–44, 122. Engisch, Karl (1930). Untersuchungen über Vorsatz und Fahrlässigkeit im Strafrecht. Berlinn: O. Liebermann. p. 288. Hans Welzel (1951), ZStW Zeitschrift für die gesamte Strafrechtswissenschaft. Bakewell, Sarah (2013). Clang Went the Trolley. The New York Times. Lim, Hazel Si Min; Taeihagh, Araz (2019). Algorithmic Decision-Making in AVs: Understanding Ethical and Technical Concerns for Smart Cities. Sustainability. 11 (20): 5791. Barcalow, Emmett (2007), Moral Philosophy: Theories and Issues. Belmont, CA: Wadsworth. Peter Singer (2005), Ethics and Intuitions The Journal of Ethics. Shelly Kagan (1989), The Limits of Morality. Oxford: Oxford University Press. Michael J. Costa (1987), Another Trip on the Trolley. Greene, Joshua D.; Sommerville, R. Brian; Nystrom, Leigh E.; Darley, John M.; Cohen, Jonathan D. (2001). An fMRI Investigation of Emotional Engagement in Moral Judgment. Science. 293 (5537): 2105–2108. Bibcode:2001Sci...293.2105G. doi:10.1126/science.1062872. PMID 11557895. S2CID 1437941. Youssef, Farid F.; Dookeeram, Karine; Basdeo, Vasant; Francis, Emmanuel; Doman, Mekaeel; Mamed, Danielle; Maloo, Stefan; Degannes, Joel; Dobo, Linda (2012). Stress alters personal moral decision making. Psychoneuroendocrinology. 37 (4): 491–498. doi:10.1016/j.psyneuen.2011.07.017. PMID 21899956. S2CID 30489504. Valdesolo, Piercarlo; DeSteno, David (2006). Manipulations of Emotional Context Shape Moral Judgment. Psychological Science. 17 (6): 476–477. doi:10.1111/j.1467-9280.2006.01731.x. ISSN 0956-7976. PMID 16771796. S2CID 13511311. Rom, Sarah C., Paul, Conway (2017). The strategic moral self:self-presentation shapes moral dilemma judgments. Journal of Experimental Social Psychology. 74: 24–37. doi:10.1016/j.jesp.2017.08.003. ISSN 0022-1031. Lee, Minwoo; Sul, Sunhae; Kim, Hackjin (2018). Social observation increases deontological judgments in moral dilemmas. Evolution and Human Behavior. 39 (6): 611–621. doi:10.1016/j.evolhumbehav.2018.06.004. ISSN 1090–5138. Ciaramelli, Elisa; Muccioli, Michela; Làdavas, Elisabetta; Pellegrino, Giuseppe di (2007). Selective deficit in personal moral judgment following damage to ventromedial prefrontal cortex. Social Cognitive and Affective Neuroscience. 2 (2): 84–92. doi:10.1093/scan/nsm001. ISSN 1749–5024. PMC 2555449. PMID 18985127. Navarrete, C. David; McDonald, Melissa M.; Mott, Michael L.; Asher, Benjamin (2012). Virtual morality: Emotion and action in a simulated three-dimensional "trolley problem". Emotion. 12 (2): 364–370. doi:10.1037/a0025561. ISSN 1931-1516. PMID 22103331. Crockett, Molly J.; Clark, Luke; Hauser, Marc D.; Robbins, Trevor W. (2010). Serotonin selectively influences moral judgment and behavior through effects on harm aversion. Proceedings of the National Academy of Sciences. 107 (40): 17433–17438. Bibcode:2010PNAS..10717433C. doi:10.1073/pnas.1009396107. ISSN 0027-8424. PMC 2951447. PMID 20876101. Bernhard, Regan M.; Chaponis, Jonathan; Siburian, Richie; Gallagher, Patience; Ransohoff, Katherine; Wikler, Daniel; Perlis, Roy H.; Greene, Joshua D. (2016). Variation in the oxytocin receptor gene (OXTR) is associated with differences in moral judgment. Social Cognitive and Affective Neuroscience. 11 (12): 1872–1881. doi:10.1093/scan/nsw103. ISSN 1749–5016. PMC 5141955. PMID 27497314. Bauman, Christopher W.; McGraw, A. Peter; Bartels, Daniel M.; Warren, Caleb (2014). Revisiting External Validity: Concerns about Trolley Problems and Other Sacrificial Dilemmas in Moral Psychology. Social and Personality Psychology Compass. 8 (9): 536–554. doi:10.1111/spc3.12131. Kahane, Guy; Everett, Jim A. C.; Earp, Brian D.; Caviola, Lucius; Faber, Nadira S.; Crockett, Molly J.; Savulescu, Julian (2018). Beyond sacrificial harm: A two-dimensional model of utilitarian psychology. Psychological Review. 125 (2): 131–164. doi:10.1037/rev0000093. PMC 5900580. PMID 29265854. Kahane, Guy (2015). Sidetracked by trolleys: Why sacrificial moral dilemmas tell us little (or nothing) about utilitarian judgment. Social Neuroscience. 10 (5): 551–560. doi:10.1080/17470919.2015.1023400. PMC 4642180. PMID 25791902. Stevens, Michael (2017). The Greater Good. Mind Field. Season 2. Episode 1. Vaadatud 23. detsembril 2018. "'Trolley Problem': Virtual-Reality Test for Moral Dilemma – TIME.com". TIME.com. Journal of Social, Evolutionary, and Cultural Psychology Archived 2012-04-11 at the Wayback Machine – ISSN 1933–5377 – volume 4(3). 2010 Bourget, David; Chalmers, David J. (2013). What do Philosophers believe? Khazan, Olga (2014). Is One of the Most Popular Psychology Experiments Worthless?. The Atlantic. Rennix, Brianna; Robinson, Nathan J. (2017). The Trolley Problem Will Tell You Nothing Useful About Morality. Current Affairs. JafariNaimi, Nassim (2018). Our Bodies in the Trolley's Path, or Why Self-driving Cars Must *Not* Be Programmed to Kill. Science, Technology, & Human Values. 43 (2): 302–323. doi:10.1177/0162243917718942. S2CID 148793137. (2015).Why Self-Driving Cars Must Be Programmed to Kill. MIT Technology Review. Scruton, Roger (2017). On Human Nature (1st ed.). Princeton. pp. 79–112. Patrick Lin (2013). The Ethics of Autonomous Cars. The Atlantic. Jean-François Bonnefon; Azim Shariff; Iyad Rahwan (2015). Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?. Science. 352 (6293): 1573–1576. arXiv:1510.03346. Bibcode:2016Sci...352.1573B. doi:10.1126/science.aaf2654. PMID 27339987. S2CID 35400794. Emerging Technology From the arXiv (2015). Why Self-Driving Cars Must Be Programmed to Kill. MIT Technology review. Bonnefon, Jean-François; Shariff, Azim; Rahwan, Iyad (2016). The social dilemma of autonomous vehicles. Science. 352 (6293): 1573–1576. arXiv:1510.03346. Bibcode:2016Sci...352.1573B. doi:10.1126/science.aaf2654. PMID 27339987. S2CID 35400794. Awad, Edmond; Dsouza, Sohan; Kim, Richard; Schulz, Jonathan; Henrich, Joseph; Shariff, Azim; Bonnefon, Jean-François; Rahwan, Iyad (2018). The Moral Machine experiment. Nature. 563 (7729): 59–64. Bibcode:2018Natur.563...59A. doi:10.1038/s41586-018-0637-6. hdl:10871/39187. PMID 30356211. S2CID 53029241. Sütfeld, Leon R.; Gast, Richard; König, Peter; Pipa, Gordon (2017). Using Virtual Reality to Assess Ethical Decisions in Road Traffic Scenarios: Applicability of Value-of-Life-Based Models and Influences of Time Pressure. Frontiers in Behavioral Neuroscience. 11: 122. doi:10.3389/fnbeh.2017.00122. PMC 5496958. PMID 28725188. Skulmowski, Alexander; Bunge, Andreas; Kaspar, Kai; Pipa, Gordon (2014). Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study. Frontiers in Behavioral Neuroscience. 8: 426. doi:10.3389/fnbeh.2014.00426. PMC 4267265. PMID 25565997. Francis, Kathryn B.; Howard, Charles; Howard, Ian S.; Gummerum, Michaela; Ganis, Giorgio; Anderson, Grace; Terbeck, Sylvia (2016). Virtual Morality: Transitioning from Moral Judgment to Moral Action?. PLOS ONE. 11 (10): e0164374. Bibcode:2016PLoSO..1164374F. doi:10.1371/journal.pone.0164374. ISSN 1932–6203. PMC 5056714. PMID 27723826. Patil, Indrajeet; Cogoni, Carlotta; Zangrando, Nicola; Chittaro, Luca; Silani, Giorgia (2014). Affective basis of judgment-behavior discrepancy in virtual experiences of moral dilemmas. Social Neuroscience. 9 (1): 94–107. doi:10.1080/17470919.2013.870091. ISSN 1747-0919. PMID 24359489. S2CID 706534. Himmelreich, Johannes (2018). Never Mind the Trolley: The Ethics of Autonomous Vehicles in Mundane Situations. Ethical Theory and Moral Practice. 21 (3): 669–684. doi:10.1007/s10677-018-9896-4. ISSN 1572-8447. S2CID 150184601. Gogoll, Jan; Müller, Julian F. (2017). Autonomous Cars: In Favor of a Mandatory Ethics Setting. Science and Engineering Ethics. 23 (3): 681–700. doi:10.1007/s11948-016-9806-x. ISSN 1471–5546. PMID 27417644. S2CID 3632738. BMVI Commission (2017). Ethics Commission's complete report on automated and connected driving. Federal Ministry of Transport and Digital Infrastructure (German: Bundesministerium für Verkehr und digitale Infrastruktur). Update on Union Pacific Rail Accident in Commerce, California. NTSB News. National Transportation Safety Board.(26.06.2003) Runaway freight train derails near Los Angeles. Commerce, California: CNN.(21.06.2003). Barbara Mikkelson (2010). The Drawbridge Keeper. Snopes. (2003).Most. IMDb. Perkins, Dennis (2017). Chidi wrestles with "The Trolley Problem" on a brilliantly funny The Good Place. The Onion. Feldman, Brian (2016). The Trolley Problem Is the Internet's Most Philosophical Meme. New York Media LLC. Raicu, Irina (2016). Modern variations on the 'Trolley Problem' meme. Vox Media, Inc. Zhang, Linch (2016). Behind the Absurd Popularity of Trolley Problem Memes. TheHuffingtonPost.com, Inc.