部分官兵起义，被推戴为燕晋联军副都督（都督是阎锡山）。何遂眼见在山西没有活动余地，到南京后，1912年1月被临时大总统孙中山委任为淮扬联军总司令（孙岳）部总参谋，兼任江北兵站分局长，率部驻军扬州。南北议和后，1912年夏，何遂任北京政府陆军第八师（师长陈之骥）第十六旅（旅长赵恒惕）第三十二团团长，并被北京政府陆军部补授陆军少将，获颁三等文虎勋章，率部驻防南京地区。1912年秋，何遂任北京政府陆军第八师（师长王孝缜）司令部代理参谋长，仍兼任步兵32团团长。后被迫辞职，拟赴日本留学之际，发生了“宋教仁案”，