文成立广州军政府（护法军政府），张开儒被任命为军政府陆军部总长。但是，1918年（民国7年）5月，大元帅制改为总裁制（7总裁集体领导制），孙文失势。张开儒遭总裁之一唐继尧（滇军）排斥，被罢免各项职务，并被逮捕收监。1920年（民国9年）11月，随着旧桂系的主席总裁岑春煊失势，张开儒获释，被任命为护法滇军总司令。但是，被粤军陈炯明部解除了武装。1921年（民国10年）2月，孙文任命张开儒担任云南北伐军副总司令。1922年（民国11年）3月，顾品珍遭到驱逐并战死，唐继尧回云南重掌大权，张开儒率顾品珍余部