1939年3月，改名许建国，建立中共中央北方分局社会部出任部长。1942年，晋察冀边区政府建立公安管理处，兼任处长和边区政府党团书记、中共中央调查研究局晋察冀第一分局局长。1945年8月，八路军占领张家口，兼任市公安局局长。第二次国共内战时期，历任中共晋察冀中央局和中共中央华北局常委、社会部部长、华北人民政府公安部部长等职。1949年1月15日天津被共军占领，任中共中央政法委员会委员、中共天津市委常委、天津市副市长兼公安局局长。1952年1月后，任中央公安部副部长、华东军政委员会公安部部长兼上海市公安局