逼带同惠帝回洛阳，苟晞此时则投奔范阳王司马虓，司马虓承制任用苟晞行兖州刺史。
比拟韩白.永兴二年（305年），司马颖旧将公师藩因见司马颖被废，于是在河北地区起兵，牧帅汲桑亦加入，并且进攻多个郡县，逼近邺城，司马虓派苟晞和广平太守丁绍一同击退公师藩。次年苟晞更在白马县攻击准备渡过黄河的公师藩，并将他斩杀。永嘉元年（307年），汲桑作乱，自称大将军并称要为上一年被杀的司马颖报仇，并进攻邺城。新蔡王司马腾兵败被杀，邺城陷落，汲桑于是打算南攻兖州。太傅司马越知道后大惊，先命苟晞为前锋进