兼广西陆军干部学堂与广西陆军小学的教官。宣统二年（1910年），何遂同耿毅、刘建藩、杨明远等中国同盟会会员创建了中国同盟会广西支盟，何遂任参议，与杨明远、刘建藩分工负责联络广西新军。何遂编辑出版了《南报》。1911年7月，何遂奉广西巡抚沈秉堃委派，与程潜赴京参加清军永平秋操大典，随王孝缜晋见第六镇统制吴禄贞，奉命随同第六镇第十二协协统吴鸿昌赴山西进剿。辛亥革命爆发后，吴禄贞筹划举行起义时遭到刺杀，何遂与阎锡山共同策动第六镇部分官兵起义，被推戴为燕晋联军副都督（都督是阎锡山）。何遂眼见在山西没有活动余地，