了解王舒的才能，但王舒因西晋晋惠帝即位后发生连串事件，局势不稳，故此不建立名声，留在家中潜心学习直到四十多岁。
随族南渡.永嘉元年（307年），琅琊王司马睿南渡长江，移镇建业，王舒亦与家族一同南迁。王舒南迁后参镇东军事，出任溧阳县令。后获任命为东中郎将司马绍（即后来的晋明帝）的司马。及后任后将军、宣城公司马裒的谘议参军。建武元年（317年），司马裒封琅琊王，并升任车骑将军，移镇广陵，又以王舒任车骑司马。同年司马裒死，王舒以北中郎将，监青徐二州军事，代司马裒镇当地。后先后转任少府、廷