即辞职，徐蚌会战彻底惨败后，他曾到上海养病。
撤离中国大陆.1949年2月14日，前国防部长何自上海抵南京，自称为养病到此；记者诣以对和平之意见，何答称：「和平不仅中国需要，且为世界所切望……岂不更佳。」2月21日，何在南京向司徒雷登大使探询，美国政府能否邀请蒋到美国访问；何认为如果能有3个月全权，他能使情势改善到让中共难以渡江。3月8日，孙科因与李宗仁意见不合辞职，3月12日李宗仁提名何组阁，并经立法院之同意。3月23日，何继孙科为行政院长。3月24日，何于李宗仁行代总统时就任行