校证书号次表》记载，他的证书为二一九九号。在日本他入振武学校，与浙江黄郛、江苏唐凯等为同班同学。后考入日本参谋部测量修技所三角科深造，习军事测绘。在东京与彭程万一同加入同盟会。1910年，俞应麓回国，在南昌办江西省测绘学堂。1911年10月10日，武昌起义爆发。10月30日晚，俞应麓与彭程万率众配合革命军光复南昌。其后又率军配合黄兴攻占南京。11月28日任江西都督府代表出席各省都督府代表联合会会议，并投票选举孙中山为中华民国临时大总统。1912年后，他历任江西都督府军务部长、军政司长兼赣军第一师师长