而王导与瑯琊王司马睿友好，王导知道身在乱世，更倾心支持司马睿，有复兴晋朝的志向；同时司马睿亦器重他。当时司马睿在洛阳，王导多次劝他回到封国。永兴二年（305年），东海王司马越讨伐河间王司马颙，命司马睿为平东将军，监徐州诸军事，留守下邳，司马睿于是请王导为司马；后司马睿又迁任安东将军，都督扬州诸军事。司马睿对王导十分信任，对王导所进献的计策都一概实行。
衣冠南渡.永嘉元年（307年）九月，司马睿听从王导的建议，移镇建邺（后改建康，今江苏南京市）。但司马睿到建邺后因司马睿没有名望而并未