匈奴王刘曜攻陷长安，俘虏晋愍帝。次年年初，时任丞相的司马睿改封晋王，王导任丞相军谘祭酒。不久拜右将军、扬州刺史、监江南诸军事。后迁骠骑将军，加散骑常侍、都督中外诸军、领中书监、录尚书事、假节任扬州刺史。此时桓彝渡江到来，见当时朝廷微弱，向同是北方来的士族周顗表示忧虑。但周顗见王导后则向桓彝说：「向见管夷吾，无复忧矣。」王导因而亦称「江左夷吾」。后来在一次北方士族的饮宴中，周顗感慨西晋山河破落，众人都悲伤涕泣，但王导此时却站起来，严肃地说：「当共戮力王室，克复神州，何至作楚囚相对！」众人听后都不再哭并拜谢王导