Geskryf deur David Danks, Carnegie Mellon Universiteit
Foto deur: Norbert Aepli, Switserland (Gebruiker: Noebu)
In 2016 het selfrigtingmotors hoofstroom gegaan. Uber se outonome voertuie het alomteenwoordig geword in woonbuurte waar ek in Pittsburgh woon, en kortliks in san francisco. Die Amerikaanse Departement van Vervoer uitgereik nuwe regulatoriese leiding vir hulle. Ontelbare vraestelle en kolomme bespreek hoe self-bestuur motors Indien los etiese dilemma's wanneer dinge verkeerd gaan En ongelukkig het 2016 ook die eerste noodlottigheid wat 'n outonome voertuig behels.
Outonome tegnologie versprei vinnig buite die vervoer sektor, in gesondheidsorg, gevorderde cyberdefense en selfs outonome wapens. In 2017 moet ons besluit of ons hierdie tegnologieë kan vertrou. Dit gaan baie moeiliker wees as wat ons verwag.
Vertroue is kompleks en gevarieerd, maar ook 'n belangrike deel van ons lewens. Ons vertrou dikwels tegnologie gebaseer op voorspelbaarheid: Ek vertrou iets as ek weet wat dit in 'n bepaalde situasie sal doen, al weet ek nie hoekom nie. Ek vertrou byvoorbeeld my rekenaar omdat ek weet hoe dit sal funksioneer, insluitend wanneer dit sal afbreek. Ek hou op om te vertrou as dit anders of verrassend begin optree.
In teenstelling hiermee is my vertroue in my vrou gebaseer verstaan ​​haar oortuigings, waardes en persoonlikheid. Meer oor die algemeen betrek interpersoonlike vertroue nie om presies te weet wat die ander persoon sal doen nie - my vrou verras my soms! - maar eerder waarom hulle optree soos hulle dit doen. En natuurlik kan ons op beide maniere iemand (of iets) vertrou, as ons weet wat hulle sal doen en hoekom.
Ek het moontlike basisse verken vir ons vertroue in selfbestuurmotors en ander outonome tegnologie vanuit sowel etiese as sielkundige perspektiewe. Dit is toestelle, so voorspelbaarheid kan lyk soos die sleutel. As gevolg van hul outonomie moet ons egter die belangrikheid en waarde - en die uitdaging - oorweeg om hulle te vertrou in die manier waarop ons ander mense vertrou.
Outonomie en voorspelbaarheid
Ons wil ons tegnologie, insluitende motorvoertuie, optree soos ons kan voorspel en verwag. Natuurlik kan hierdie stelsels taamlik sensitief wees vir die konteks, insluitende ander voertuie, voetgangers, weerstoestande en so meer. Oor die algemeen kan ons egter verwag dat 'n selfrigtingmotor wat herhaaldelik in dieselfde omgewing geplaas word, vermoedelik elke keer op dieselfde wyse moet optree. Maar in watter opsig sou hierdie hoogs voorspelbare motors outonoom wees, eerder as bloot outomaties?
Daar is gewees baie verskillende pogings om definieer outonomie, maar almal het dit gemeen: Outonome stelsels kan hul eie (substantiewe) besluite en planne maak, en sodoende kan dit anders as verwag word.
Trouens, een van die redes om outonomie te gebruik (afgesien van outomatisering) is juis dat daardie stelsels onverwagte en verrassende, maar regverdigbare, aksies kan volg. Byvoorbeeld, DeepMind se AlphaGo het die tweede wedstryd van sy onlangse Go-reeks teen Lee Sedol gedeeltelik gewen 'n skuif wat geen menslike speler ooit sal maak nie, maar tog die regte skuif was. Maar dieselfde verrassings maak dit moeilik om voorspelbaarheidsbasis te vestig. Sterk vertroue wat uitsluitlik op voorspelbaarheid gebaseer is, is waarskynlik net moontlik vir outomatiese of outomatiese stelsels, juis omdat dit voorspelbaar is (met die veronderstelling dat die stelsel funksioneer gewoonlik).
Om verrassings uit te brei
Natuurlik verras ander mense ons dikwels, en tog kan ons hulle op 'n merkwaardige manier vertrou, selfs hulle lewe en dood oor ons mag gee. Soldate vertrou hul kamerade in komplekse, vyandige omgewings; 'n pasiënt vertrou haar chirurg om 'n gewas te verkry; en in 'n meer alledaagse aar vertrou my vrou my om veilig te bestuur. Hierdie interpersoonlike vertroue stel ons in staat om die verrassings te omhels, so miskien kan ons iets soos interpersoonlike vertroue in selfrigtingmotors ontwikkel?
Oor die algemeen vereis interpersoonlike trust 'n begrip van hoekom iemand op 'n bepaalde manier opgetree het, selfs al kan jy nie die presiese besluit voorspel nie. My vrou weet dalk nie presies hoe ek sal ry nie, maar sy weet watter soort redenasie ek gebruik as ek bestuur. En dit is eintlik relatief maklik om te verstaan ​​hoekom iemand anders iets doen, juis omdat ons almal redelik dieselfde dink en redeneer, alhoewel met verskillende "rou bestanddele" - ons oortuigings, begeertes en ervarings.
Trouens, ons maak voortdurend en onbewustelik gevolgtrekkings oor ander mense se oortuigings en begeertes gebaseer op hul optrede, hoofsaaklik deur aan te neem dat hulle dink, redeneer en besluit soos ons doen. Al hierdie afleidings en beredenering gebaseer op ons gedeelde (menslike) kognisie stel ons in staat om iemand se redes te verstaan ​​en sodoende interpersoonlike vertroue oor tyd te bou.
Dink soos mense?
Outonome tegnologie - in die besonder selfbestuur-motors - dink nie en besluit soos mense nie. Daar was albei pogings verlede en onlangse, om rekenaarstelsels te ontwikkel wat dink en redeneer soos mense. Een konsekwente tema van masjienleer oor die afgelope twee dekades was egter die enorme winste wat presies gemaak is deur nie te vereis dat ons kunsmatige intelligensiestelsels op menslike maniere werk nie. In plaas daarvan het masjienleer algoritmes en stelsels soos AlphaGo dikwels daarin geslaag om beter as menslike kundiges deur te fokus op spesifieke, gelokaliseerde probleme, en dan hulle heeltemal anders op te los as wat mense doen.
As gevolg hiervan kan pogings om 'n outonome tegnologie te interpreteer in terme van menslike oortuigings en begeertes, skouspelagtig mis. Wanneer 'n mens se bestuurder 'n bal in die pad sien, word die meeste van ons outomaties stadiger verlangsaam, om te voorkom dat 'n kind geslaan word wat daarna kan jaag. As ons in 'n outonome motor ry en 'n balrol in die straat sien, verwag ons dat die motor dit sal herken en bereid wees om op te hou om kinders te hardloop. Die motor kan egter net 'n hindernis sien wat vermy moet word. As dit swaai sonder om te verlangsaam, kan die mense aan boord gewaarsku word - en 'n kind kan in gevaar wees.
Ons gevolgtrekkings oor die "oortuigings" en "begeertes" van 'n selfry-motor sal byna onwaar wees op belangrike maniere, juis omdat die motor nie enige menslike oortuigings of begeertes het nie. Ons kan nie interpersoonlike vertroue in 'n selfrigtingvoertuig ontwikkel nie, bloot deur te kyk of dit bestuur, want ons sal nie die mense agter sy optrede korrek aflei nie.
Natuurlik kan die kliënte van die samelewing of die mark baie dring daarop aan dat selfrondende motors menslike (sielkundige) eienskappe het, presies sodat ons interpersoonlike vertroue in hulle kan verstaan ​​en ontwikkel. Hierdie strategie sal 'n hele nuwe betekenis gee aan "mensgesentreerde ontwerp, "Aangesien die stelsels spesifiek ontwerp sou word, is hul optrede deur mense te interpreteer. Maar dit sal ook 'n roman insluit algoritmes en tegnieke In die motorvoertuig, wat almal 'n massiewe verandering uit die huidige navorsings- en ontwikkelingstrategieë vir selfbestuurders en ander outonome tegnologieë sal verteenwoordig.
Selfbestuurmotors het die potensiaal om ons vervoerinfrastruktuur radikaal op baie voordelige maniere te hervorm, maar net as ons hulle genoeg kan vertrou om hulle werklik te gebruik. En ironies genoeg, die eienskap wat selfrigtingvoertuie waardevol maak - hul buigsame, outonome besluitneming oor uiteenlopende situasies - is presies wat dit moeilik maak om hulle te vertrou.