受司马睿倚重，而当时其他人都对王导倾心，并号王导为「仲父」，而司马睿亦向王导说过：「卿，吾之萧何也。」永嘉末年，王导迁任丹杨太守，加辅国将军，后又拜宁远将军，再加振威将军。晋愍帝在长安即位后，征召王导为吏部郎，但王导不应命。建兴四年（316年）匈奴王刘曜攻陷长安，俘虏晋愍帝。次年年初，时任丞相的司马睿改封晋王，王导任丞相军谘祭酒。不久拜右将军、扬州刺史、监江南诸军事。后迁骠骑将军，加散骑常侍、都督中外诸军、领中书监、录尚书事、假节任扬州刺史。此时桓彝渡江到来，见当时朝廷微弱，向同是北方来的士族周顗表示忧