新军营发动反清起义。张百麟等光复贵州，成立大汉贵州军政府，凌霄任军政府辖军第三营营长。唐继尧的滇军占领贵阳后，凌霄率部退往湖南，驻常德城郊。其部被编为北伐军四十二旅八十四团二营，归陆军部领导，属杨荩诚部。此后不久凌霄升任八十四团团长。1913年7月二次革命爆发，他和席正铭等人奉孙中山的命令到淮北组织平淮军，反对袁世凯。他率军在青江浦、盐城一带转战。战斗失利后，他到南京，在讨伐总司令黄兴部任十八大队队长，任内曾经和袁世凯、张勋、冯国璋等部在南京紫金山、雨花台等处激战。1914年，中华革命党张百麟等人接