凯死后，返回上海，任中华革命党军务部长。1917年任孙中山护法军政府大元帅府参军长，协助孙中山主持军事，成为粤军的主要军事领导人之一。1919年，粤军被编为两个军，以陈炯明为粤军总司令兼第一军军长，许崇智为第二军军长。1922年，孙中山决定北伐，并任命李烈钧和许崇智分别为北伐军总司令和总指挥。陈炯明的部下发动六一六事变后，许崇智部借道江西进入闽南。1923年1月在孙中山的领导下任东路讨贼军司令，从闽南方向讨伐盘踞广东的陈炯明。1924年就任建国粤军总司令，成为国民党最高级军事将领。1925年1月在孙中山的领