胜贡献不可磨灭，蒋欲提拔张学良的部属为国府委员及部长，又遭胡反对。1931年2月，胡汉民对召开国民会议，独持异见，反对在国民会议中讨论《约法》，与蒋发生矛盾。2月底，胡被蒋软禁于汤山，被迫辞去所有职务。4月底，中国国民党粤方四位监察院监察委员邓泽如、林森、萧佛成、古应芬以蒋非法扣留胡汉民为由，通电弹劾蒋，并例举他种种独裁事实。10月14日，蒋在张静江陪同下去见胡汉民，蒋说：「过去一切，我都错了，请胡先生原谅，以后遇事，还请胡先生指教」。10月14日下午，胡到上海，结束软禁。后至广州，成为南方实力派领袖，