后不久凌霄升任八十四团团长。1913年7月二次革命爆发，他和席正铭等人奉孙中山的命令到淮北组织平淮军，反对袁世凯。他率军在青江浦、盐城一带转战。战斗失利后，他到南京，在讨伐总司令黄兴部任十八大队队长，任内曾经和袁世凯、张勋、冯国璋等部在南京紫金山、雨花台等处激战。1914年，中华革命党张百麟等人接到贵州的报告，得知袁世凯将原贵州都督杨荩诚在上海所购的军械调拨给护军使刘显世，该批军械将取道湘西运往贵州。孙中山等遂派凌霄潜赴湖南，组织劫夺军械，并就地起义。凌霄到常德后，准备了两个方案，一是起义成功便占领