941年（民国30年），任清乡委员会委员、新国民运动促进委员会常务委员兼秘书长。1943年（民国32年）1月，任最高国防会议委员。1944年12月，任安徽省省长，任内兼任安徽省保安司令、蚌埠绥靖公署主任等职务。1945年日本投降后，林柏生随陈公博流亡日本。同年10月3日，和陈公博一道被送还中华民国。1946年（民国35年）5月31日，位于南京的首都高等法院以“汉奸罪”判处林柏生死刑。1946年10月8日，林柏生在南京老虎桥监狱内被处决，年仅45岁。