对党内斗争激化感到厌烦，古应芬于1930年（民国19年）辞职回到广州。1931年（民国20年）2月，因同蒋介石的约法发生路线矛盾，胡汉民遭到蒋介石拘禁，这遭到古应芬反对。5月，古应芬、汪兆铭、孙科、唐绍仪在广州召开非常会议，组织广州国民政府。9月九一八事变爆发，中国国民党党内各派趋向团结，古应芬支持蒋介石同汪精卫的合作。1931年10月28日，古应芬在广州因拔牙中毒去世，享年59岁，其儿子当时6岁。同年11月，广东省政府在中国国民党第四次全国代表大会上表决，成立广东省立勷勤大学以纪念古应芬。遗体安葬