927年4月，他任国民政府上海政治分会主席。1928年，他任北伐军总司令部高等顾问、全国道路协会副会长，赈务委员会委员。1929年底，他与他的同修道友居正策动反蒋介石的兵变，被蒋介石拘捕，蒋介石碍于其声望没有杀他，获得释放后，他为求避祸，诵经、食斋、念佛，醉心佛教。1931年5月宁粤分裂，他任广州国民政府委员。8月5日，蒋尊簋在广州病逝。享年50岁。