安元年十二月（303年），长沙王司马乂击败司马冏，苟晞亦因司马冏倒台而被免官，但不久即被随后上台的司马乂任命为从事中郎。永安元年（304年），司马越带晋惠帝北征邺城，讨伐皇太弟司马颖，苟晞任北军中候。晋惠帝兵败被司马颖俘获后不久，司马颖即被王浚和东嬴公司马腾打败而被逼带同惠帝回洛阳，苟晞此时则投奔范阳王司马虓，司马虓承制任用苟晞行兖州刺史。
比拟韩白.永兴二年（305年），司马颖旧将公师藩因见司马颖被废，于是在河北地区起兵，牧帅汲桑亦加入，并且进攻多个郡县，逼近邺城，司马虓派苟晞和