离部队至上海，后参加肇和号巡洋舰起事失败，南下广州加入由广东省省长朱庆澜成立的广东省军，为粤军第二军班长（军长许崇智）。由于朱庆澜立场偏向孙中山，因此他成立的部队也与孙中山关系密切。1917年孙中山南下护法，卫被荐当大元帅府卫士。不久卫立煌因负伤调许崇智部当排长。1918年调回粤军第二军第二支队。后屡建战功逐级陞到团长，1920年升任粤军第二军参谋长。卫立煌的军事资历初期均在粤军第二军缔造，包括东征、广州商团事件与对抗陈炯明等初期作战，不久后已升任补充旅旅长。1925年孙中山病逝后，因为许崇智被蒋中正排