盧永祥早年毕业于天津武備学堂，后投入李鴻章的淮軍，开始了军事生涯。此後，他曾任武衛右軍各营管带、山東武衛右軍先鋒隊右营帮带等职。后来他历任陸軍第六鎮第11協統領、陸軍第三鎮第5協統領、北洋第二十鎮協統。他因镇压革命黨有功，先后升任总兵、提督、副都督。