感中国国民党左派及中国共产党的运动方式，乃同蒋介石接近。1927年（民国16年）4月12日四一二事件爆发，古应芬支持，并在所在的广州排除中国共产党。南京方面蒋中正主导的南京国民政府成立后，古应芬任国民政府常务委员兼代理财政部长，进行财政改革。后来他历任国民政府文官长、中国国民党中央监察委员。因对党内斗争激化感到厌烦，古应芬于1930年（民国19年）辞职回到广州。1931年（民国20年）2月，因同蒋介石的约法发生路线矛盾，胡汉民遭到蒋介石拘禁，这遭到古应芬反对。5月，古应芬、汪兆铭、孙科、唐绍仪在广州召开