Народився на острові Ідра в родині Георгіоса Вулгаріса та Архонто Ватсаксі. Після смерті батька 1885 року родина оселилась в Афінах, у батьків матері. Після закінчення школи вступив до Грецької морської академії (1899). У 1908–1910 роках навчався за кордоном, 1912 року служив на борту французького судна. Брав участь у Балканських війнах на борту есмінця "Пантір", в тому числі брав участь у битві при Еллі. У 1915–1916 роках був ад'ютантом морського міністра, адмірала Павлоса Кундуріотіса. Коли 1916 року у Фессалоніках розгорнув свою діяльність Рух національної оборони, про-венізелістський Вулгаріс, як і його наставник Кундуріотіс, залишив Афіни та приєднався до революційного уряду. З 1916 до 1919 року командував есмінцем "Велос", беручи участь у морських операціях союзників в Егейському морі під час Першої світової війни. Після перемоги анти-венізелістів на виборах 1920 року, Вулгаріса було усунуто від займаних посад у березні 1921.