安史之乱爆发，担任北海（山东省青州市）太守，因城守无绩效，遭免职，后赴肃宗行在灵武，改御史大夫、河南节度使。宰相房琯素与贺兰进明不和，遂荐任许叔冀为河南都知兵马使，以牵制新任河南节度使兼御史大夫贺兰进明。至德元年（756年）十月，贺兰进明向肃宗谗毁房琯“此虽于圣皇似忠，于陛下非忠也”，肃宗逐渐疏远房琯。此时许叔冀驻守谯郡，尚衡驻守彭城（今江苏徐州），贺兰进明代替嗣虢王李巨驻守临淮（今江苏盱眙北）。至德二年（757年）八月，困守在睢阳的张巡派遣南霁云率三十名骑兵突围，向贺兰进明借兵，当时进明受到许叔冀牵