957年5月，再次担任陆军参谋总长兼三军联合参谋议长，开始韩国军队现代化。1960年，4·19学运造成李承晚下台，许政内阁成立，金钟泌为首的少壮派军官发动清军运动，新政府的国防部部长李钟赞（陆士49期）被迫退役，5月31日，白善烨与第一野战军司令官刘载兴（陆军官校5期）也一起退役。
退役后.白善烨退役后入预备役，同年前往台北出任韩国驻华大使，1961年起先后担任驻法国（兼辖荷兰、比利时）和驻加拿大等国大使，回国后在朴正熙总统执政期间，1969年就任交通部部长，负责汉城地铁建设，