Наташа М. Томић-Петровић<fnref n="1" />

Универзитет у Београду

Саобраћајни факултет

Београд (Србија)

Слободан М. Миладиновић<fnref n="2" />

Универзитет у Београду

Факултет организационих наука

Београд (Србија)

УДК 629.3.014.9:351.811.112/.113

656.1.052

Прејледни научни рад

Примљен 07/02/2019

Прихваћен 12/06/2019

doi: 10.5937/socpreg53-20477

# ВОЗИЛА БЕЗ ВОЗАЧА – PRO ET CONTRA

Сажетак: У раду се обрађују светска искуства у тестирању и прихватању возила без возача, истиче се значај правног регулисања аутономних возила посебно кроз анализу правне регулативе у држави која је највише постигла у развоју ове технологије и њеној данашњој употреби, пружа социолошка димензија употребе ових возила, а потом разматра и однос Републике Србије према возилима будућности и предности и недостаци које она доносе. Правни услови само су једна, али значајна препрека за возила без возача, мада се околности у овој области поступно мењају.

Кључне речи: Возила без возача, правна регулатива, социолошки аспект.

## Увод

Да ли смо спремни да машинама уступимо волан? Без обзира на наше опредељење прва возила без возача моћи ће да саобраћају за мање од три године, мењајући навике и возача и пешака. (Meeder, 2017: 1-9)

У раду се обрађују светска искуства у тестирању и прихватању возила без возача, истиче се значај правног регулисања аутономних возила посебно кроз анализу правне регулативе у држави која је највише постигла у развоју ове технологије и њеној данашњој употреби, излаже се социолошка димензија употребе самовозећих возила, а потом разматра и однос Републике Србије према возилима будућности и предности и недостаци које она доносе.

## Светска искуства са возилима без возача

Већина модерних аутомобила располаже неком технологијом која управља без људске интервенције, од ваздушних јастука и система против блокирања кочница до контроле навигације, избегавања судара и чак самосталног паркирања. Али само понеки аутомобили имају потпуну аутономију у смислу да сами доносе своје одлуке.

<footnote n="1">¹ atlantic@sezampro.rs</footnote>

<footnote n="2">² miladinovic.slobodan@fon.bg.ac.rs</footnote>
Аутоматизована возила (возила без возача) одређују се (NHTSA, 2013, str. 7) као возила код којих се бар неке контролне функције, као што су управљање, регулисање гаса – брзине или кочење, дешавају без утицаја возача. Наравно, могуће је применити различите стандарде и остварити различите нивое аутоматизације, од оног да ниједна функција не мора бити аутоматизована па све до пуне аутоматизације<fnref n="3" />. У другом случају реч је о возилима која сама возе. Од њих се очекује да ће помагати у избегавању удеса и редуковању саобраћаја на путевима и да ће бити способна да одреде најбољи путни правац и да упозоравају једна друге на потенцијалне опасности у вези са условима вожње (Rathod, 2013, str. 34).

Влада Уједињеног краљевства дозволила је 2013. године тестирање аутономних аутомобила на јавним путевима, док су се пре тога, сва тестирања ових аутомобила у земљи обављала на приватним имањима. Британци су почев од 2015. године увели 100 аутономних такси – двоседа у град Milton Keynes, а овај пројекат планиран да траје пет година зависно од резултата спроводиће се широм Британије.

Током фебруара 2017. године јавност је сазнала за нови такси превоз у Дубају који се примењује од јуна 2017. У питању су дронови<fnref n="4" /> на батерије, који су направљени у Кини, EHANG 174, крећу се до 100 километара на час, а с једним пуњењем батерија прелази 50 километара.

Крајем октобра 2017. године, објављено је да је прво тестирање возила у Баварској било успешно, односно паметни бус без возача је први комби без возача који је представила немачка железница „Дојче бан”. Тако је отворена прва линија јавног превоза са аутономним возилом. Париз, Лион, Лас Вегас и Дубаи већ имају таква возила, али у мањим размерама.

Каур и Рамперсад очекују да ће у блиској будућности возила без возача представљати преломну тачку наредне технолошке револуције. Кључни проблем који је, при том, потребно савладати је недостатак поверења шире јавности према оваквим возилима (Kaur, Rampersad, 2018, str. 87-96). Флитвудова (Fleetwood, 2017, str. 532-537) наводи да су самовозећи аутомобили значајнији чинилац смањивања смртности у саобраћајним несрећама од појасева и аутоматских ваздушних јастука. Њен закључак је да су самовозећа возила један од десет најзначајнијих доприноса очувању јавног здравља у Сједињеним Америчким Државама, у истом реду са контролом потрошње дувана, превенцијом и контролом заразних болести и заштитом на раду. Она процењује да би се могла, њиховом употребом, смањити смртност у саобраћајним несрећама, настала људском грешком, до 90%, а да се укупно може смањити за 94% или 29.000 од приближно 30.000 смртних случајева који се у САД у просеку дешавају на годишњем нивоу. Ако ово упоредимо са податком из 2015. године.

<footnote n="3">³ Аутономна возила се могу користити на различитим нивоима аутоматизације. Нулти ниво: човек (возач) у потпуности контролише све функције аутомобила. Први ниво: само једна функција је аутоматизована. Други ниво: аутоматизовано је више од једне функције, али човек и даље мора бити укључен у управљање возилом. Трећи ниво: функције вожње су довољно аутоматизоване да човек може безбедно да се укључи у друге активности и четврти ниво: аутомобил може да вози и без возача (човека). (NHTSA, 2013, str. 1). https://www.nhtsa.gov/staticfiles/rulemaking/pdf/Automated_Vehicles_Policy.pdf)</footnote>

<footnote n="4">⁴ Тежак је 227 килограма и може да превезе једног путника тежине до 100 kg и мали пртљаг који се ставља у посебну преграду.</footnote>
дине да је на глобалном нивоу у саобраћају погинуло око 1,2 милиона људи (WHO, 2015), тај број би се смањио на 72 хиљаде.

Истраживање ставова хиљаду немачких возача из 2012. године које је спровео истраживач аутомобила „Пулс” („Puls”), показало је да је 22% испитаника имало позитиван став према овим аутомобилима, 10% је било неодлучно, 44% скептично, а 24% је имало непријатељски став. (Driverlesuser, 2012) Током 2014. године од стране компаније Insurance.com спроведена је телефонска анкета, преко три четвртине возача са дозволом изјаснило се да би размотрило куповину возила без возача, а овај проценат је порастао на 86% ако би ауто-осигурање било јефтиније, док се 31,7% испитаника изјаснило да неће наставити да вози када аутономни аутомобил буде доступан као замена. Реално је очекивати да ће, релативно брзо, већина возача прихватити ову врсту возила, посебно у економски и технологији развијеним земљама.

У неким градовима, Копенхагену на пример, подземне железнице или трамваји већ десетак година немају возача, а очекује се да ауто-индустрија брже прихвати ова возила<fnref n="5" /> него аутомобиле на струју или друге алтернативне методе погона. Остварује се и план Пекинга да 2018. године добије прву метро линију без возача, која ће на 14 километара дугој траси имати осам станица, као први градски воз без возача.

Судар самоуправљајућег аутомобила и општинског аутобуса који се догодио 14. фебруара 2016. године у Калифорнији први је случај да је Гуглова технологија начинила грешку током незгоде. Ипак, мало је вероватно да би друштво ставило коначну одговорност на произвођача аутомобила за све незгоде. За расправу остају питања процене одговорности у незгодама које укључују аутономна возила, као и безбедног интегрисања аутономних возила са другим корисницима пута.

Питање сигурности је директно везано за питање одговорности за потенцијалне саобраћајне незгоде. Код класичних возила одговорност је персонализована и њу сноси учесник у незгоди који је, кршењем саобраћајних прописа, допринео њеном дешавању. Самовозеће возило, условно речено, самостално доноси одлуке и у саобраћају наступа као особа. (Surden, Williams, 2016) Таква особа, у данашњим условима, не може бити правно одговорна. Дакле, питање је ко ће преузети одговорност за саобраћајну незгоду – произвођач возила или софтвера, власник, сервисер, давалац атеста, особа у возилу, осигуравајуће друштво или неко ван овог списка.

Аутономна возила пребациће одговорност за избегавање незгода са возача на произвођача возила. (Villasenor, 2014) И док се очекује да ће број саобраћајних незгода значајно опасти што се више компоненти за избегавање судара угради у возило, трошкови замене оштећених делова вероватно ће се повећати због сложености компоненти. Стога још увек није јасно да ли ће смањење учесталости судара довести до смањења укупних трошкова незгода.

Од посебног значаја је да се створи универзални основни технологији и физички стандард који ће морати да испуне возила без возача, као што се то данас захтева за безбедност традиционалних возила.

<footnote n="5">⁵ Код роботских аутомобила нема на видику неког јаког индустријског лобија који би кочио њихову примену.</footnote>
Значај правног регулисања аутономних возила

У многим областима технологија је испред права, а највећу препреку за возила без возача не представља технологија већ закон.

У Сједињеним Америчким Државама, савезна влада, преко америчког Министарства за саобраћај (U.S. Department of Transportation) и Националне управе за безбедност друмског саобраћаја (National Highway Traffic Safety Administration), третутно регулише стандарде безбедне производње возила, док власти држава регулишу управљање возилима. (Browne, 2017, str. 1)

Невада је била прва држава која је дозволила управљање аутономним возилима 2011. године. Посвећеност аутономним возилима Невада је показала и прошле 2017. године усвајањем закона (Assembly Bill 69), којим су ревидирани захтеви за тестирање или управљање аутономних возила на јавним путевима у држави и дозвољено је коришћење потпуно аутономних возила за пружање транспортних услуга у одређеним околностима од стране лица са овлашћењем Одсека за моторна возила (Nevada Department of Motor Vehicles), Управе за саобраћај (Nevada Transportation Authority) или Управе такси службе (Taxicab Authority). Законом (SB 140) из јуна 2011. године у Невади је санкционисано писање или читање података на мобилном телефону током вожње, док се употреба таквих уређаја дозвољава лицима у аутономном возилу којим се управља у складу са законом. Законом који је ступио на снагу марта 2012. године (R 08411) одређени су захтеви за тестирање, сертификацију, руковање и безбедност, а прва дозвола за аутономно возило издата је маја 2012. године „тојоти ријус” („Toyota Prius”) модификованој са Гугловом експерименталном технологијом без возача.

После тога, државе – Калифорнија, Флорида, Мичиген, Северна Дакота и Тенеси и Вашингтон Ди-Си (Washington, D.C.) усвојиле су законе који се односе на аутономна возила, а гувернер Аризоне донео је августа 2015. године уредбу која се односи на аутономна возила дајући упутство различитим агенцијама да „предузму све неопходне кораке да подрже тестирање и управљање аутономним возилима на јавним путевима у Аризони". Издата је наредба да се на одабраним университетима омогуће пилот-програми и развију правила која ће пратити те програме. Уредбом је у оквиру гувернерове канцеларије успостављен Комитет за пропусте аутономних возила. У 2015. години придружила се и држава Вирцинија, са дозволом тестирања потпуно аутономних возила на јавним путевима.

Према Закону државе Флориде (FL HB 1207) из априла 2012. године „лице које поседује важећу возачку дозволу може управљати аутономним возилом на аутономни начин". Овај закон бави се одговорношћу произвођача возила на којем је треће лице инсталирало аутономну технологију, а прописује и услове под којим аутономно возило може бити тестирано. Закон Флориде (FL HB 7027) из априла 2016. године проширио је дозвољено управљање аутономним возилима на јавне путеве и елиминише захтеве који се односе на тестирање аутономних возила и присуство возача у возилу.

У Калифорнији је Законом (CA SB 1298 /2012/) из септембра 2012. године дозвољено управљање или тестирање аутономних возила на јавним путевима у овој држави, док су прописи о тестирању од стране произвођача на јавним путевима
усвојени маја 2014. године, а ступили на снагу септембра 2014. године. Фебруара 2016. године у Калифорнији је усвојен Закон (СА АВ 2866/2016/) са циљем да дозво- ли потпуно аутономна возила на путевима, укључујући и она без возача и команди у возилу.<fnref n="6" /> За разлику од држава Аризоне и Пенсилваније, путницима у Калифорнији није дозвољено да се возе у аутономним возилима. (Christie, Hoffner, 2017)

Септембра 2016. године одобрен је пилот-пројекат тестирања аутономних во- зила без волана, команди за управљање или лица које управља у возилу, на одређеним локацијама и уз брзине мање од 35 миља на сат (Federal Bill AB 1592).

Закон Мичигена (SB 663) из децембра 2013. године проглашава да оригинални произвођач возила није одговоран за штету која настане због конверзије другог лица или покушаја претварања возила у аутономно моторно возило или модификације уграђене опреме, осим ако је недостатак из кога је штета настала постојао у возилу када је произведено. У држави Мичиген, законом (SB 995) из децембра 2016. године дозвољено је управљање аутономним возилима без људи у њему, док је закон (SB 997) усвојен истог месеца 2016. године обезбедио имунитет за произвођаче аутома- тизоване технологије када се измене врше без њихове сагласности.

Јула 2014. године град Кер Дален (Coeur d'Alene) у Ајдаху усвојио је Уредбу о роботици, која садржи одредбе којима се дозвољавају аутономни аутомобили. За- кон државе Вашингтон (НВ 1439) усвојен исте године предвиђа да је лиценцирани возач законски одговоран за аутономно возило, за саобраћајне прекршаје и кри- вична дела на исти начин као и возач неаутономног возила.

Закон Тенесија (TN SB 598) из априла 2015. године не дозвољава локалним вла- стима да забране коришћење возила само на основу чињенице да су опремљена ау- тономном технологијом, ако је возило иначе, усаглашено са позитивним прописима о безбедности. Закон Орегона (SB 620) из исте године успоставља сертификацију за тестирање и продају аутономних возила, усмерава саобраћајни сектор да усвоји правила за тестирање, поставља захтеве за тестирање и руковање и бави се одговорношћу произвођача возила на којем је треће лице инсталирало аутономни систем.

У Њу Церзију маја 2016. године дозвољено је тестирање аутономних возила под одређеним околностима (Federal Bill AB 3745), а почетком исте године дата су упутства за признавање возачких дозвола за аутономна возила (Federal Bill A 851), док је у Алабами законом (SJR 81) из маја 2016. године основан Заједнички законо- давни комитет за изучавање самоуправљајућих возила.

У држави Њујорк (New York) се законом (SB 2005) из априла 2017. године зах- тева надзор државне полиције за тестирање и прецизирају се захтеви за управљање, укључујући осигурање од пет милиона долара, док Арканзас законом (НВ 1754) до- нетим маја 2017. године регулише тестирање возила са аутономном технологијом. Гувернер Висконсина потписао је маја 2017. године уредбу којом је основан Управ- ни одбор за тестирање и развој аутономних и повезаних возила. Обавезе одбора обухватају и идентификовање свих агенција у држави надлежних за тестирање и развијање ових возила, као и приказ позитивних прописа који могу представљати препреку за тестирање и развој.

<footnote n="6">⁶ У складу са законом Одсек за моторна возила био је у обавези да усклади своје деловање са овим прописима до 1. јула 2018. године како би ова правила ступила на снагу.</footnote>
Закон Џорције (SB 219) из јула 2017. године ослобађа лице које управља аутономним моторним возилом, са аутоматизованим системом за управљање, обавезе да поседује возачку дозволу и одређује услове који морају бити испуњени да би возило саобраћало без присуства човека-возача у возилу, укључујући и осигурање и захтеве за регистрацију.

САД су тренутно најнпреднија земља на свету у аутономној вожњи, али би ова позиција могла бити нарушена без развијеног националног оквира за регулативу и тестирање. (Федералне смернице за тестирање и сертификацију аутономних возила - Federal guidelines for autonomous driving). Америчко Министарство за саобраћај (US Department of Transportation) је 2017. године издало својо прве смернице за високо аутоматизована возила (HAVs).

Национална управа за безбедност друмског саобраћаја изјаснила се да неће спречавати поједине државе да донесу сопствена правила за регулисање возила без возача. Ако савезна влада изради универзалне основне стандарде, биће потребно само усклађивања се федералним смерницама, док ће државе које тренутно немају законе о возилима без возача пратити нове федералне прописе. Са једнообразним скупом стандарда, државе могу удружити напоре развијајући безбедносне, операционе и друге захтеве. (Fagnant, Kockelman, 2015)

Представнички дом у Сједињеним Америчким Државама септембра 2017. године донео је Закон који би могао да убрза развој технологије аутономних возила. Закон о безбедном осигурању живота у будућем развоју и истраживању унапређења возила (Safely Ensuring Lives Future Deployment and Research In Vehicle Evolution Act) или Закон о „само-управљању” (H.R.3388 “Self Drive” Act) добио је једногласну подршку и упућен је у Сенат. Ако тамо прође, могао би постати први национални закон о аутомобилима без возача у Сједињеним Америчким Државама.

У Савезној Републици Немачкој Закон о изменама Закона о друмском саобраћају ступио је на снагу јуна 2017. године. Овај закон садржи основна права која захтевају интеракције између возача и моторних возила са условним (степен 3) или високо (степен 4) аутоматизованим функцијама вожње. То је суштински основ за прихватање и безбедно увођење аутоматизованих функција вожње у друмски саобраћај. Према новом немачком закону возач стално мора бити за воланом спреман да преузме контролу, ако је од аутономног возила подстакнут да то учини. Дозвољава се тестирање на путевима возила у којима ће возачима бити дозвољено да скину руке са управљача док возило аутономно управља возилом. Возач ће сносити одговорност за незгоде које се догоде док он/она управља возилом, по закону, али ако је самоуправљајући систем задужен за управљање и кривица се може приписати отказу система биће одговоран произвођач. С обзором на то да су незгоде неизбежне, немачки закон захтева да црна кутија током путовања снима протокол сваког преузимања команди како би истражитељи незгода имали могућност да одреде да ли је у време судара компјутер или човек управљао возилом. То ће бити од одлучујућег значаја за расподелу кривице у незгодама. Овим законом Немачка је добила један од најмодернијих закона о друмском саобраћају на свету, а одлуком немачке владе именован је комитет са задатком да изради прве етичке смернице у области аутономних возила. Кинеска влада већ разматра немачки закон, који поставља темеље за коришћење возила
без возача и према мишљењу правних стручњака вероватно ће усвојити нека од
правила из овог закона.

Возила будућности - предности и недостаци

Док се у Србији још увек бавимо основним проблемима у саобраћају, као
што су, на пример, недостаци наших путева, у развијеним државама велико се
дискутује о аутономним или возилима без возача.

Предности оваквих возила се не завршавају само на повећању безбедности у
саобраћају. Употреба оваквих возила, поред техничке, има и етичку, социолошку,
правну, економску, али и друге димензије. Етичка димензија се везује како за тех-
ничке, тако и за социјалне аспекте њиховог коришћења (Holstein, Dodig-Crnkovic
and Pelliccione, 2018). Технички се, у крајњој линији, везују за различите аспекте си-
гурности возила, безбедности саобраћаја, заштите приватности, питање поверења
у нову технологију, транспарентност, поузданост, одговорност и процес осигурања
квалитета. Социјални аспект се везује како за интересе корисника тако и за оп-
ште јавне интересе, али и за могуће нове тржишне приступе њиховог коришћења
и продаје. Оба реда етичке димензије су у тесној вези са економским аспектом
опремања самовозећих кола. Ова веза се примарно огледа у цени различитих тех-
ничких решења која могу бити уграђена у ова возила. С обзиром на то да се че-
сто дешава да су скупља решења, утлавном, поузданија то се, с једне стране, отвара
простор за нове облике социјалног раздвајања, који се препознају кроз неједнаку
тржишну доступност возила различитог нивоа квалитета, припадницима разли-
читих социјалних група. С друге стране, остаје могућност да произвођачи у та воз-
ила уграђују технологију нижег реда поузданости како би се, због ниже цене, лакше
продавала.

Употреба самовозећих аутомобила је повезана с бројним питањима. Међу
њима је, свакако, најзначајније питање сигурности током вожње. Оно може, с тех-
ничког аспекта, да се односи на механичку и електронску поузданост компоненти
самог возила, као и на електронску поузданост контролних уређаја инсталираних
дуж путних праваца. (Zhao, Liang and Chen, 2018)

Механичка поузданост се односи на технички квалитет самог возила, а елек-
тронска на квалитет електронских компоненти и софтвера. У досадашњој прои-
зводној пракси је било уобичајено да се ова питања регулишу званично усвојеним
стандардима. Међутим, због прилично деликатног питања безбедности саобраћаја
у којем учествују возила без возача, као и недовољне праксе, још увек се нису ис-
кристалисали стандарди у овој области.

Чињеница да оваква возила имају контролу над режимом убрзавања, успорава-
ња и кочења, у циљу избегавања закрчивања саобраћаја, омогућава рационалнију
потрошњу горива. Ово се, даље, рефлектује на економске трошкове, с једне стране и
еколошку корист, с друге стране. Реч је истовремено и о мањој потрошњи горива и
мањој емисији гасова са ефектом стаклене баште. (Anderson et al, 2016, str. XIV)

Редукцијом фреквенције саобраћајних незгода би се значајно смањили, ка-
ко јавни тако и приватни, трошкови санирања њихових последица, који одла-
зе на здравствене услуге, наплату штете и осигурања, изгубљене радне дане и др.
(Kyriakidis, Happee and de Winter, 2015) Очекивано је да ће преношење одговорно-
сти за вожњу са возача на возило, са великом вероватноћом, смањити последице
удеса, с обзиром на то да је најчешћи узрок саобраћајних незгода грешка возача. У
перспективи, смислено је очекивање да ће се смањити број саобраћајних незгода
условљених људским фактором (замор, непажња, погрешна процена и слично).

Остаје отворено питање да ли ће технологија произвести потенцијално нове факторе изазивања саобраћајних незгода, као што су сајбер ратовање, хакерски, терористички и слични напади на системе контроле саобраћаја, непредвиђени кварови на електроенергетском систему или глобалној мрежи и сл.

У принципу, човек одређује где кола треба да иду, али возило одлучује како тамо да стигне, уз уважавање постављених правила и законске регулативе. Но, питање је да ли можемо имати поверење у изворе који надзиру, дистрибуирају и усмеравају параметре на основу којих ће се одвијати вожња (уређаји за навигацију, мапе, спољни уређаји који прате сам ток саобраћаја, временске и друге услове на путу, понашање других возила у саобраћају). Проблем је у томе што се у вожњу укључује већи број различитих система који морају да буду међусобно усклађени и да омогуће довољно брз проток огромног броја релевантних информација.

Користи од повећања коришћења аутономних аутомобила биле би: избегавање судара проузрокованих грешком возача, смањење трошкова рада ако људски возач није потребан, повећање капацитета друмова, смањење застоја и боља способност управљања саобраћајним токовима, као и уклањање препрека које се тичу стања корисника.

Најновији напредак у развоју иновација у аутомобилској индустрији производи нове могућности за унапређивање безбедности на путу, повећање еколошке користи, економски развој и отварање простора за инвестирање и запошљавање (NHTSA, 2013, str. 1).

Посматрано са чисто социјалног аспекта, ова технологија ће значајно повећати
мобилност оних који не желе или не могу да возе (као што су особе са различитим
облицима инвалидитета, болесни, млади и деца, стари, итд). Већини њих ово ће до-
нети извесну дозу независности, смањење социјалне изолације, и олакшан приступ
многим јавним услугама.

Очекује се да ће се смањити одговорност возача и да ће то подстаћи смањивање трошкова осигурања што би могао бити допунски разлог за популаризацију ових возила. С друге стране се може очекивати пораст одговорности произвођача који би, из тог разлога, могли да изгубе мотивацију за развој оваквих возила. (Schellekens, 2015)

Један од најозбиљнијих претећих проблема који би се могао појавити у блиској перспективи, а везан је за појаву технологије аутономних возила, све је веће избацивање човека из радног процеса. Овај тренд је већ дуже време присутан и то не само у индустрији, већ и у сфери услуга. Самовозећи аутомобили би, већ у блиској будућности, могли да потисну возаче са тржишта рада. У овом сегменту проблем постаје вишеструко сложен. Прво питање је шта ће бити са великим бројем возача и чиме ће се они даље бавити. Да ли је овде реч о преквалификацији за друге послове, или ће бити потребно мењати друштвени систем, с обзиром на то да неће бити угрожени само возачи већ и многа друга занимања. Ако би воз-
ачи остали у истој грани делатности, поставља се питање да ли ће их, у следећој итерацији, са тржишта рада избацивати роботи који сервисирају самовозећа кола, али такође обављају и разне друге стручне услуге.

Класичне возачке дозвол с ознаком категорије, сликом возача и роком важења постаће непотребне, јер се дозволе неће издавати особама, већ возилима без возача, односно компанијама које су поднеле захтев.<fnref n="7" /> Интересантно је да ли ће државе саме регулисати овај поступак или ће поверити произвођачима или продавцима обуку и издавање дозвола оператерима возила која продају.

Када су возила без возача у питању, посебне изазове представљају: одговорност произвођача уређаја и/или софтвера који управља аутомобилом, доношење прописа о возилима без возача и примена правне регулативе. (Ganesh, 2017)

Међу могућим техничким препрекама навешћемо: - питање поузданости софтвера, - потенцијалну угроженост компјутера аутомобила, као и система комуникације између возила ометањем сензора камере. Главни проблем је аутоматско управљање на путевима са великим бројем возила без возача.

Упркос свему, технологија возила без возача много обећава, али је у веома раној фази развоја. Постоје три велике препреке које спречавају потпуно аутономна возила да стигну на пут: високе цене технолошких компоненти, променљив степен поверења потрошача у технологију, као и релативно непостојећи прописи.

Испитивање одговорности биће много скупље и суд ће одлучивати кој е у обавези да плати накнаду штете за повреде настале из саобраћајне незгоде. Биће вероватно веома тешко и одлучити које је аутономно возило изазвало незгоду, па чак и када се то одреди, питање је да ли су механички системи у возилу или софтвер и системи праћења проузроковали незгоду. Стога, компаније које стварају ове системе, вероватно ће се залагати за неку врсту ограничења одговорности. Забрињава и рањивост самоуправљајућих технологија на злоупотребе и кривична дела. Питање заштите приватности власника, односно спречавање злоупотребе података о кретању возила ради праћења људи у њима, такође је једно од актуелних. Поставља се питање који подаци ће се делити и са ким, на који начин ће се учинити доступним и у које сврхе ће се користити? (Lari, Douma and Onyiah, 2015)

Подаци о сударима ће вероватно бити доступни снабдевачима технологијом аутономних возила, јер ће они најчешће бити одговорни у случају судара који проузрокује аутономно возило. Ипак, мали је број људи који желе да се њихов сопствени аутомобилски уређај за снимање података користи против њих на суду. (Fagnant, Kockelman, 2015)

У техничком окружењу приватност може да се дефинише као «практично осигурање од могућих импликација комуникације», а импликације по приватност у вези са геотаговањем<fnref n="8" /> код GPS система су тек недавно уочене. (Samčović, Tomić-Petrović, 2015, str. 286-287) Снабдевање подацима централизованих и контролисаных државних система о путовању аутономног возила који обухватају маршруте,

<footnote n="7">⁷ Гул је добио дозволу за 25 Lexasa, а дозволе које се односе само на тестирање возила без возача на јавним путевима, где су услови другачији него на полигону су добили још и „Мерцедес” и „Ауди”.</footnote>

<footnote n="8">⁸ Овде се подразумева могућност да возилу доделимо атрибуте као што су време, датум и GPS позиција.</footnote>
места опредељења и време поласка може бити спорно, нарочито ако су подаци снимљени и сачувани. Без обезбеђења ови подаци би могли бити злоупотребљени од стране државних службеника због праћења појединаца, или омогућити органима надлежним за спровођење закона неконтролисан надзор. С друге стране, одговорно преношење и коришћење података аутономних возила може помоћи управљачима и пројектантима транспортне мреже. Они који програмирају саобраћајне знакове, на пример, могли би да употребе овакве податке ради побољшања ефикасности и смањења кашњења.

Закључак

Аутономна возила имају могућност да драматично смање сударе. Ови системи свакако, још увек нису спремни за широку и ненадгледану употребу, а стопостотна сигурност не постоји. Ипак, познато је да се ултразвучни сензори успешно користе већ две деценије за мерење растојања између возила код система за помоћ при паркирању.

Предности које би донео овакав вид саобраћаја су бројне. Возила без возача која за оријентацију приликом кретања користе ГПС, разне камере и сензоре била би идеално индивидуално или породично превозно средство. Самоуправљајућа возила обезбеђују мобилност за већи број људи, укључујући старије и особе са инвалидитетом. Ипак, привремено изнајмљивање аутономних возила другима зависи од дугогодишњег рада на законодавству и технолошким унапређењима пре него што би постало изводљиво.

Гледано из садашње перспективе, мала је вероватноћа да ће возила без возача бити опште прихваћена у блиској будућности. Један од разлога је непостојање адекватне путне инфраструктуре. Квалитет већине путева, још увек, ограничава могућност пуне безбедности током вожње. Много је вероватније да ће она, у првом кораку, освојити затворене просторе попут већих туристичких центара, пешачких, индустријских и сличних зона да би се, у следећем кораку, преселила у урбанизоване зоне, а тек после тога на отворене путеве и то, редом, од путева највишег реда значајности па све до локалних путева. Дакле, да би се самовозећа кола увела у општу употребу, прво је потребно побољшати квалитет коловоза, а затим поставити пратећу инфраструктуру која би надгледала ток и безбедност саобраћаја и наводила возила да избегавају препреке и опасности.

Велика препрека за возила без возача су и правни услови, мада се ситуација у овој области полако мења.
Nataša M. Tomić-Petrović<fnref n="1" />

University of Belgrade

Faculty of Transport and Traffic Engineering

Belgrade (Serbia)

Slobodan M. Miladinović<fnref n="2" />

University of Belgrade

Faculty of Organizational Sciences

Belgrade (Serbia)

# DRIVERLESS CARS – PRO ET CONTRA

*(Translation In Extenso)*

**Abstract:** This article discusses worldwide experiences in testing and acceptance of vehicles without drivers, highlights the importance of legal regulation of autonomous vehicles in particular through the analysis of legal regulation in the country that has achieved the most in the development of this technology and its present-day use, and it provides a sociological dimension of the use of these vehicles, and then discusses the relationship of the Republic of Serbia towards the vehicles of the future and the advantages and disadvantages that they bring. Legal requirements are only one, but significant obstacle for the vehicles without drivers, though the circumstances in this area are gradually changing.

**Keywords:** Vehicles without driverless cars, legislation, sociological aspect.

## Introduction

Are we ready to let a machine control the steering wheel? Regardless of our opinion, the first vehicles without drivers will be able to drive in less than three years, changing the habits of both drivers and pedestrians. (Meeder, 2017, pp. 1-9)

The paper deals with worldwide experiences in testing and accepting vehicles without drivers, emphasizing the importance of legal regulation of autonomous vehicles, in particular through the analysis of the legal regulations in the country that has achieved the most in the development of this technology and its present use, and it provides a sociological dimension of the use of these vehicles, and then discusses the relationship of the Republic of Serbia towards the vehicles of the future and the advantages and disadvantages that they bring.

## Worldwide experience with driverless cars

Most modern cars have some technology that operates without human intervention, from airbags and anti-lock braking systems to navigation control, collision avoidance and

<footnote n="1">¹ atlantic@sezampro.rs</footnote>

<footnote n="2">² miladinovic.slobodan@fon.bg.ac.rs</footnote>
even self-parking. But only a few cars have complete autonomy in terms of making own decisions.

Automated vehicles (vehicles without drivers) are determined (NHTSA, 2013, p. 7) as vehicles with at least some control functions, such as steering, gas or speed control or braking, which operate without the driver's influence. Of course, it is possible to apply different standards and achieve different levels of automation, from the fact that none of the functions need to be automated to full automation<fnref n="3" />. In the second case, these are vehicles that drive themselves. They are expected to help avoid accidents and reduce traffic on roads and will be able to determine the best route and warn each other about potential hazards related to driving conditions (Rathod, 2013, p. 34).

In 2013, the government of the United Kingdom allowed the testing of autonomous cars on public roads, while before that, all tests on these cars in the country were carried out on private property. Starting from 2015, the British have introduced 100 autonomous taxis - two-seaters in the city of Milton Keynes, and this project, planned to last five years, will be implemented across Britain depending on the results.

During February 2017, the public learned of a new taxi service in Dubai that has been in use since June 2017. The battery drones<fnref n="4" />, built in China, EHANG 174, range up to 100 kilometers per hour, and cover 50 kilometers with one charge of batteries.

At the end of October 2017, it was announced that the first vehicle testing in Bavaria was successful, meaning a smart bus without a driver was the first van without a driver presented by German Railway “Deutsche Bahn”. Thus, the first line of public transport with an autonomous vehicle was open. Paris, Lyon, Las Vegas and Dubai already have such vehicles, but in smaller proportions.

Kaur and Rampersad expect that in the near future vehicles without drivers will represent the turning point of the next technological revolution. The key problem which needs to be overcome is the lack of confidence of the general public towards such vehicles (Kaur, Rampersad, 2018: 87-96). Fleetwood (Fleetwood, 2017, pp. 532-537) states that self-driving cars are a more significant factor in reducing deaths in traffic accidents than belts and automatic airbags are. Her conclusion is that self-driving vehicles are one of the ten most important contributions to public health preservation in the United States, in the same line as controlling tobacco consumption, preventing and controlling contagious diseases and protecting workers. She estimates that using them could reduce human deaths in accidents due to human error by up to 90%, and that the total number could be reduced by 94% or 29,000 of the approximately 30,000 deaths occurring annually in the United States. If we compare this to the data from 2015 that around 1.2 million people died in traffic on a global scale (WHO, 2015), this figure would be reduced to 72 thousand.

<footnote n="3">³ Autonomous vehicles can be used at different levels of automation. Zero level: A person (driver) fully controls all functions of the car. First level: only one function is automated. Second level: more than one function is automated, but the person still needs to be involved in driving the vehicle. Third level: driving functions are automated enough to enable the person to safely engage in other activities and the fourth level: the car can also drive without a driver (person). (NHTSA, 2013: 1). https://www.nhtsa.gov/staticfiles/rulemaking/pdf/Automated_Vehicles_Policy.pdf)</footnote>

<footnote n="4">⁴ It weighs 227 kg and can carry one passenger up to 100 kg and small luggage that is placed in a separate compartment.</footnote>
A survey on the attitudes of thousands of German drivers conducted in 2012 by the German automotive research company ‘Puls’ showed that 22% of respondents had a positive attitude towards these cars, 10% were undecided, 44% were skeptical and 24% had a hostile attitude. (Driverlesuser, 2012) During 2014, Insurance.com conducted a telephone survey, over three-quarters of the licensed drivers said they would consider buying a self-driving vehicle, and this percentage rose to 86% if auto insurance would be cheaper, while 31.7% of respondents said they would not continue to drive when the autonomous car was available as a replacement. It is realistic to expect that, relatively quickly, most drivers will accept this type of vehicle, especially in economically and technologically developed countries.

In some cities, Copenhagen, for example, underground railways or trams haven't had drivers for the past ten years, and it is expected that the auto industry will quickly accept these vehicles<fnref n="5" /> rather than cars or other alternative methods of operation. Beijing's plan is to get the first metro line without drivers in 2018, which will have eight stations on a 14-kilometer long route as the first city train without a driver.

The collision between a self-driving car and municipal bus on February 14, 2016 in California was the first case when Google's technology made a mistake in an accident. However, it is unlikely that the society would ultimately blame the car manufacturer for all accidents. Questions remain to be discussed for accidents involving autonomous vehicles, as well as the safe integration of autonomous vehicles with other road users.

The issue of security is directly related to the issue of liability for potential traffic accidents. With standard vehicles, responsibility is personalized and it is borne by the participant in the accident that, in violation of traffic regulations, contributed to its occurrence. The self-driving vehicle, conditionally speaking, independently makes decisions and performs as a person in traffic. (Surden, Williams, 2016) Such a person, in today's conditions, can not be legally liable. So, the question is who will take responsibility for traffic accidents - the manufacturer of vehicles or the software, the owner, the service provider, the certificate holder, the person in the vehicle, the insurance company or someone outside this list.

Autonomous vehicles will transfer responsibility for avoiding accidents from drivers to vehicle manufacturers. (Villasenor, 2014) While it is expected that the number of traffic accidents will drop significantly as more collision avoidance components are fitted into vehicles, the cost of replacing damaged parts is likely to increase due to the complexity of the components. Therefore, it is still not clear whether the reduction in the frequency of collisions will lead to a reduction in the overall cost of accidents.

It is of particular importance to create a universal basic technological and physical standard that self-driving vehicles will have to meet, as is required today for the safety of traditional vehicles.

## The importance of the legal regulation of autonomous vehicles

In many areas, technology is ahead of law, and the biggest obstacle for vehicles without drivers is not technology, but law.

In the United States, the federal government, through the US Department of Transportation and the National Highway Traffic Safety Administration, is currently regulating

<footnote n="5">⁵ With robotic cars, there isn't a strong industrial lobby that would hinder their use.</footnote>
the standards for safe vehicle production, while the state authorities regulate vehicle op-
eration. (Browne, 2017, p. 1)

Nevada was the first state to allow the operation of autonomous vehicles in 2011. Nevada also showed commitment to autonomous vehicles last year with the adoption of the bill (Assembly Bill 69) which revised the requirements for testing or managing autonomous vehicles on public roads in the state and allowed the use of completely autonomous vehicles for the provision of transport services in certain circumstances by persons authorized by the Nevada Department of Motor Vehicles, the Nevada Transport Authority or the Taxicab Authority. The Law (SB 140) of June 2011 sanctions texting or reading data on a mobile phone while driving in Nevada, while the use of such devices is permitted to persons in an autonomous vehicle operated in accordance with the law. The law that came into force in March 2012 (R 08411) set out the requirements for testing, certification, handling and safety, and the first license for an autonomous vehicle was issued in May 2012 for a “Toyota Prius” modified by Google’s experimental driverless technology.

Subsequently, the states - California, Florida, Michigan, North Dakota and Tennessee and Washington, D.C. adopted laws relating to autonomous vehicles, and the Governor of Arizona passed a regulation on autonomous vehicles in the autumn of 2015 instructing various agencies to “take all the necessary steps to support the testing and management of autonomous vehicles on public roads in Arizona”. An order was issued to allow pilot programs at selected universities and develop rules that will follow these programs. The Order established the Self-Driving Vehicle Oversight Committee within the Governor’s Office. In 2015, the state of Virginia joined with the permission to test fully autonomous vehicles on public roads.

Under the Law of the State of Florida (FL HB 1207) of April 2012, “a person holding a valid driving license may operate an autonomous vehicle in an autonomous vehicle.” This law deals with the responsibility of the vehicle manufacturer in which a third party installed autonomous technology, and also prescribes the conditions under which the autonomous vehicle can be tested. The Law of Florida (FL HB 7027) of April 2016 expanded the permitted operation of autonomous vehicles to public roads and eliminated requirements relating to the testing of autonomous vehicles and the presence of drivers in the vehicle.

In California, the Law (CA SB 1298/2012/) of September 2012 allowed the operation or testing of autonomous vehicles on public roads in this country, while the regulations on testing by manufacturers on public roads were adopted in May 2014 and became effective in September 2014. In February 2016, the California law (CA AB 2866/2016/) was adopted in order to allow fully autonomous road vehicles, including those without drivers and in-vehicle controls<fnref n="6" />. Unlike states of Arizona and Pennsylvania, California travelers are not allowed to drive in autonomous vehicles. (Christie, Hoffner, 2017)

In September 2016, a pilot project for the testing of autonomous vehicles without a steering wheel, steering controls or a person operating the vehicle was approved in certain locations and at speeds of less than 35 miles per hour (Federal Bill AB 1592).

The Law of Michigan (SB 663) of December 2013 declares that the original vehicle manufacturer is not liable for damage resulting from conversion made by another person

<footnote n="6">⁶ In accordance with the law, the Department of Motor Vehicles was obliged to harmonize its opera-
tion with these regulations by July 1, 2018, in order for these rules to come into force.</footnote>
or attempts to convert a vehicle into an autonomous motor vehicle or modifications of the installed equipment, unless the defect from which the damage was incurred existed in the vehicle at the time of manufacture. In the state of Michigan, the law (SB 995) of December 2016 allows the operation of autonomous vehicles without people in it, while the law (SB 997) adopted in the same month of 2016 provided immunity for manufacturers of automated technology when changes were made without their consent.

In July 2014, the city of Coeur d'Alene in Idaho adopted the Robot Regulation, which contains provisions allowing autonomous cars. The State of Washington Act (NB 1439) adopted in the same year provides that the licensed driver is legally responsible for the autonomous vehicle, traffic offenses and criminal acts in the same way as the driver of a non-autonomous vehicle is.

The Act adopted in Tennessee (TN SB 598) in April 2015 does not allow local authorities to prohibit the use of vehicles solely on the basis of the fact that they are equipped with autonomous technology, if the vehicle is otherwise compliant with positive safety regulations. In the same year, the Oregon Law (SB 620) established certification for the testing and sale of autonomous vehicles, instructed the traffic sector to adopt test rules, set requirements for testing and handling, and dealt with the responsibility of the vehicle manufacturer in which a third party installed the autonomous system.

In New Jersey in May 2016, testing autonomous vehicles was granted under certain circumstances (Federal Bill AB 3745), and at the beginning of the same year, instructions for the recognition of driving licenses for autonomous vehicles (Federal Bill A 851) were given, while Alabama law (SJR 81) of May 2016 established a Joint Legislative Committee to study self-driving vehicles.

In the State of New York, the law (SB 2005) of April 2017 requires state police to test and specify operating requirements, including a $5 million insurance, while Arkansas Law (HB 1754) adopted in May 2017 regulates testing vehicles with autonomous technology. In May 2017, the Governor of Wisconsin signed a decree establishing the Governor's Steering Committee on Autonomous and Connected Vehicle Testing and Deployment. The committee's responsibilities include identifying all agencies in the country in charge of testing and developing these vehicles, as well as presenting positive regulations that may represent an obstacle to testing and development.

The Law of Georgia (SB 219) of July 2017 releases a person who manages an autonomous motor vehicle, an automated steering system, of an obligation to own a driving license, and determines the conditions that must be met to drive the vehicle without the presence of a person-driver, including insurance and registration requirements.

The United States is currently the most advanced country in the world when it comes to autonomous driving, but this position could be changed without a developed national regulatory and testing framework. (Federal guidelines for autonomous driving). In 2017, the US Department of Transportation issued its first guidelines for Highly-Automated Vehicles (HAVs).

The National Road Safety Administration has declared that it will not prevent individual states from adopting their own rules for regulating driverless vehicles. If the federal government develops universal basic standards, only compliance with federal guidelines will be required, while the states that do not currently have laws regulating driverless vehicles will follow new federal regulations. With a uniform set of standards,
states can join efforts by developing security, operational and other requirements. (Fag-
nant, Kockelman, 2015)

In September 2017, the House of Representatives in the United States of America passed a law that could accelerate the development of autonomous vehicle technology. The Safely Ensuring Lives Future Deployment and Research in Vehicle Evolution Act or the Self-Drive Act (H.R. 3388) received unanimous support and was sent to the Senate. If it gets passed, it could become the first national law on driverless cars in the United States.

In the Federal Republic of Germany, the Law on Amendments to the Law on Road Traffic entered into force in June 2017. This law contains basic rights requiring interaction between drivers and motor vehicles with conditional (level 3) or high (level 4) automated driving functions. This is an essential basis for acceptance and safe introduction of automated road traffic functions. According to the new German law, the driver must always be ready to take control of the steering wheel, if propelled by the autonomous vehicle to do so. Testing vehicles on roads in which drivers will be allowed to take their hands off the steering wheel while the vehicle is autonomously operating is allowed. The driver will be liable for accidents that occur while he/she operates the vehicle, in accordance with the law, but if the self-drive system is in charge of the operation and the fault can be attributed to the system failure, the manufacturer shall be responsible. Since accidents are inevitable, the German law requires that during the trip the black box record the protocol of each takeover of the command so that investigators have the ability to determine whether a computer or a person was driving at the time of collision. This will be of decisive importance for the distribution of guilt in accidents. With this law, Germany received one of the most modern laws on road traffic in the world, and the German government appointed a committee with the task of drafting the first ethical guidelines in the field of autonomous vehicles. The Chinese government is already considering the German law which sets the foundations for the use of vehicles without drivers and, in the opinion of legal experts, will probably adopt some of the rules of this law.

Vehicles of the future- advantages and disadvantages

While we are still dealing with the basic traffic problems in Serbia, such as, for ex-
ample, the shortcomings of our roads, in developed countries there has been a lot of dis-
cussion about autonomous or driverless vehicles.

The advantages of such vehicles do not end only in increasing the traffic safety. The use of such vehicles, in addition to technical ones, also has ethical, sociological, legal, economic and other dimensions. Ethical dimensions are related both to technical and social aspects of their use (Holstein, Dodig-Crnkovic and Pelliccione, 2018). They are technically linked to various aspects of vehicle safety, traffic safety, privacy protection, trust in new technology, transparency, reliability, accountability and quality assurance processes. The social aspect relates both to the interests of the users and to the interests of the general public, as well as to the possible new market approaches to their use and sale. Both lines of ethical dimension are closely related to the economic aspect of equipping self-driving vehicles. This connection is primarily reflected in the price of various technical solutions that can be incorporated into these vehicles. Given that more expensive solutions are also often the more reliable ones, on the one hand, it provides space for new forms of so-
cial separation, recognized through an unequal market availability of vehicles of different quality levels to members of different social groups. On the other hand, there is a possibility that manufacturers would incorporate less reliable technology in these vehicles in order to be easier to sell due to lower prices.

The use of self-driving cars is associated with numerous issues. Among them, of course, is the most important issue of driving safety. It can, from a technical point of view, relate to the mechanical and electronic reliability of the components of the vehicle itself, and to the electronic reliability of control devices installed along roads. (Zhao, Liang and Chen, 2018)

Mechanical reliability refers to the technical quality of the vehicle itself and electronic reliability to the quality of electronic components and software. In prior production practice, it was customary for these issues to be regulated by officially adopted standards. However, due to the rather delicate issue of traffic safety involving driverless vehicles as well as insufficient practices, the standards in this area have not yet been finely regulated.

The fact that such vehicles have control over the acceleration, deceleration and braking regimes, in order to avoid traffic congestion, allows for a more rational fuel consumption. This, furthermore, reflects on economic costs, on the one hand, and ecological benefits, on the other hand. At the same time, this also relates to lower fuel consumption and lower emissions of greenhouse gases. (Anderson et al, 2016, p. XIV)

Reducing the frequency of traffic accidents would significantly decrease both public and private costs of dealing with their consequences in terms of health services, collecting damages and insurance, lost working days, etc. (Kyriakidis, Happee and de Winter, 2015) It is expected that the transfer of responsibility for driving from the driver to the vehicle, with high likelihood, will reduce the number of accidents, since the most common cause of traffic accidents is the driver's fault. In the perspective, it is sensible to expect that the number of traffic accidents caused by human factors will decrease (fatigue, negligence, wrong estimation, etc.).

The question remains whether the technology will produce potentially new factors for causing traffic accidents, such as cyber warfare, hacking, terrorist attacks and similar attacks on traffic control systems, unexpected failures in the electricity system or the global network, and the like.

In general, a person determines where the car should go, but the vehicle decides how to get there, with respect to the rules and regulations. However, the question is whether we can have confidence in the sources that monitor, distribute and direct the parameters on which the drive will take place (navigation devices, maps, external devices that follow the traffic flow itself, weather and other conditions on the road, behavior of other vehicles in traffic). The problem is that driving involves a number of different systems that need to be mutually harmonized and allow for the rapid flow of a large number of relevant information.

The benefits of increasing the use of autonomous cars would be: avoiding crashes caused by driver errors, reducing operating costs if a driver is not needed, increasing road capacity, reducing congestions, and improving the ability to manage traffic flows, and removing obstacles related to the user's condition.

The latest advancement in the development of innovations in the automotive industry produces new opportunities for improving road safety, increasing environmental
benefits, economic development and opening up space for investment and employment (NHTSA, 2013, p. 1).

Observed from the purely social aspect, this technology will significantly increase the mobility of those who do not want or can not drive (such as people with different forms of disability, sick, the young and the old, etc.). To most of them, this will bring a certain amount of independence, reduce social isolation, and facilitate access to many public services.

It is expected that the driver's responsibility will be reduced and that this will encourage the reduction of insurance costs, which could be an additional reason for the popularization of these vehicles. On the other hand, it is possible to expect an increase in the liability of producers, which could, therefore, lose the motivation for the development of such vehicles. (Schellekens, 2015)

One of the most serious threats that could arise in the near future, and is related to the emergence of autonomous vehicle technology, is the increased removal of man from the production process. This trend has been present for a long time, not only in the industry, but also in the sphere of services. Self-driving cars could, in the near future, push drivers out of the labor market. In this segment, the problem becomes more complex. The first question is what will happen with a large number of drivers and what they will do next. Whether they would need retraining for other jobs, or it will be necessary to change the social system, since not only drivers, but many other professions will be endangered. If drivers remain in the same branch of activity, the question arises whether, in the next iteration, robots that service self-driving car and also perform various other professional services would throw them out of the labor market.

Standard driving licenses marked with a category, driver's photo, and expiration date will become unnecessary, as licenses will not be issued to persons, but to vehicles without drivers or to companies that have submitted the request<fnref n="7" />. It is interesting whether the states themselves will regulate this procedure or will entrust manufacturers or sellers with training and licensing drivers of vehicles they sell.

When it comes to vehicles without drivers, specific challenges are: the responsibility of the manufacturer of the device and/or the software that manages the car, the adoption of regulations on vehicles without drivers and the application of legal regulations. (Ganesh, 2017)

Regarding the possible technical obstacles, we can mention: - the issue of software reliability, - the potential vulnerability of computer cars, as well as the communication system between vehicles interfering with the camera sensor. The main problem is automatic control on roads with a large number of self-driving vehicles.

In spite of everything, the technology of vehicles without drivers is very promising, but is at a very early stage of development. There are three major barriers that prevent completely autonomous vehicles from being used: the high prices of technology components, the changing degree of consumer confidence in technology, and relatively non-existent regulations.

<footnote n="7">⁷ Google got a license for 25 Lexus cars, and licenses that relate only to the testing of vehicles without drivers on public roads, where the conditions are different compared to polygons, were also given “Mercedes” and “Audi”.</footnote>
Investigation of liability will be much more expensive and the courts will decide who is obliged to pay compensation for damage caused by a traffic accident. It will probably be very difficult to decide which autonomous vehicle has caused the accident, and even when this is determined, the question is whether the in-vehicle mechanical systems or software and tracking systems have caused an accident. Therefore, the companies that create these systems are likely to advocate for some kind of liability limitation. The vulnerability of self-management technologies to abuses and crimes is also concerning. The issue of protecting the privacy of the owner, that is, preventing the misuse of vehicle movement data to track people in them is also one of the current concerns. The question arises which data will be shared and with whom, how will they be made available and for what purposes will they be used? (Lari, Douma and Onyiah, 2015)

Collision data is likely to be available to autonomous vehicle suppliers because they will most likely be responsible in the event of a collision involving an autonomous vehicle. However, there are few people who want their own automotive data recorder to be used against them in court. (Fagnant, Kockelman, 2015)

In a technical environment, privacy can be defined as “practical insurance against the possible implications of communication”, and the privacy implications of geotagging<fnref n="8" /> in the GPS system have only recently been noted. (Samčović, Tomić-Petrović, 2015, p. 286-287). The supply of data on centralized and controlled state systems about the trips of an autonomous vehicle that includes routes, points of departure and time of departure can be controversial, especially if the data were recorded and saved. Without security, these data could be misused by civil servants for the purpose of monitoring individuals, or provide authorities in charge of enforcing laws with uncontrolled supervision. On the other hand, responsible transmission and use of data from autonomous vehicles can help managers and designers of the transport network. Those who program traffic signs, for example, could use such data to improve efficiency and reduce delays.

## Conclusion

Autonomous vehicles have the ability to dramatically reduce crashes. These systems are, of course, not yet ready for wide and unsupervised use, and there is no complete security. However, it is known that ultrasonic sensors have been used successfully for two decades to measure the distance between vehicles in the parking assist system.

The advantages of this type of traffic are numerous. Vehicles without drivers that use GPS for motion orientation, various cameras and sensors would be the ideal individual or family means of transport. Self-steering vehicles provide mobility for a larger number of people, including older people and people with disabilities. However, the temporary leasing of autonomous vehicles to others depends on long-standing work on legislation and technological improvements before it becomes feasible.

Viewed from the current perspective, it is unlikely that driverless vehicles will be generally accepted in the near future. One of the reasons is the lack of adequate road infrastructure. The quality of most roads, still, limits the ability to drive with full safety. It is much more likely that, in the first step, it will conquer closed spaces such as larger tourist centers, pedestrian, industrial and similar zones, in order to move to urbanized areas in

<footnote n="8">⁸ This includes the ability to assign attributes such as time, date and GPS position to the vehicle.</footnote>
the next step, and only then to open roads, beginning from the roads of the highest order of importance to local roads. Therefore, in order to bring self-driving cars into general use, it is first necessary to improve the quality of the roads, and then to set up an accompanying infrastructure that would monitor the flow and safety of traffic and vehicle instructions to avoid obstacles and hazards.

A large obstacle for vehicles without drivers are legal conditions, although the situation in this area has been slowly changing.

## REFERENCES / ЛИТЕРАТУРА

Anderson, J. M, Kalra, N, Stanley, K. D, Sorensen, P, Samaras, C, Oluwatola, O. A. (2016). *Autonomous Vehicle Technology: A Guide for Policymakers*, Santa Monica (CA): RAND Corporation.

Browne, B. (2017). Self-driving cars: On the road to a new regulatory era. *Journal of Law, Technology & the Internet*, Vol. 8. Available at https://scholarlycommons.law.case.edu/cgi/viewcontent.cgi?article=1104&context=jolti

Christie, B and Hoffner, J. (2017). Arizona pushes envelope on self-driving car regulations. *Chicago Daily Law Bulletin* (April), Available at http://www.chicagolawbulletin.com/archives/2017/04/05/ariz-self-driving-cars-4-5-17

Driverlesuser (2012, October, 12). Attitudes of German drivers toward driverless cars, 12. http://www driverless-future.com/?m=201210

Fagnant, D, Kockelman, K. (2015). Preparing a nation for autonomous vehicles: Opportunities, barriers and policy recommendations for capitalizing on self-driven vehicles. *Transportation Research Part A* 77, 167-181.

Fleetwood, J. (2017). Public health, ethics, and autonomous vehicles. *American Journal of Public Health*, 107(4), 532–537.

Ganesh, M. I. (2017). Entanglement: Machine learning and human ethics in driver-less car crashes. *Data Justice Conference*. Available at http://www.aprja.net/entanglement-machine-learning-and-human-ethics-in-driver-less-car-crashes/

Holstein, T, Dodig-Crnkovic, G. and Pelliccione, P. (2018). Ethical and Social Aspects of Self-Driving Cars, *arXiv*’18, January 2018, Gothenburg, Sweden. https://arxiv.org/pdf/1802.04103.pdf

Zhao, J, Liang, B. and Chen, Q. (2018). The key technology toward the self-driving car. *International Journal of Intelligent Unmanned Systems* Vol. 6 (1), 2-20. Available at https://doi.org/10.1108/IJIUS-08-2017-0008

Kaur, K, Rampersad, G. (2018). Trust in driverless cars: Investigating key factors influencing the adoption of driverless cars. *Journal of Engineering and Technology Management* 48, 87–96.

Kyriakidis, M, Happee, R. and de Winter, J. C. F. (2015). Public opinion on automated driving: Results of an international questionnaire among 5,000 respondents. *Transportation Research Part F: Traffic Psychology and Behaviour* Vol. 32 (July), 127-140.
Lari, A, Douma F. and Onyiah I. (2015). Self-Driving Vehicles and Policy Implications: Current Status of Autonomous Vehicle Development and Minnesota Policy Implications. *Self-Driving Vehicles and Policy Implications: Current Status of Autonomous Vehicle Development and Minnesota Policy Implications*, 16 Minn. J.L. Sci. & Tech. 735. Available at: https://scholarship.law.umn.edu/mjlst/vol16/iss2/5

Meeder, M, Bosina, E. and Weidermann, U. (2017). Autonomous vehicles: Pedestrian heaven or pedestrian hell? *17th Swiss Transport Research Conference*, Monte Verità / Ascona, May 17 – 19, 1-9.

NHTSA, (2013). *Preliminary Statement of Policy Concerning Automated Vehicles*. Washington DC: National Highway Traffic Safety Administration, 1-14. https://www.nhtsa.gov/staticfiles/rulemaking/pdf/Automated_Vehicles_Policy.pdf

Rathod, S. D. (2013). An autonomous driverless car: An idea to overcome the urban road challenges. *Journal of Information Engineering and Applications*, Vol 3 (13), 34.

Samčović, A, Tomić-Petrović, N. (2015). Privacy protection on visual information in networked world, *Postel 2015*, u Zborniku radova sa skupa, 285-294. Beograd. [In Serbian].

Schellekens, M. (2015). Self-driving cars and the chilling effect of liability law. *Computer Law & Security Review*, 31 (4), 506-517.

Surden, H, Williams, M.A. (2016). Technological Opacity, Predictability, and Self-Driving Cars, 38 *Cardozo Law Review* 121, Vol 38, 121. Available at https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2747491

Villasenor, J. (2014, April 24). Products Liability and Driverless Cars: Issues and Guiding Principles for Legislation. Available at https://www.brookings.edu/research/products-liability-and-driverless-cars-issues-and-guiding-principles-for-legislation/

WHO (2015). *Global Status Report on Road Safety 2015*. Available at http://www.who.int/violence_injury_prevention/road_safety_status/2015/en/