后因病去职。成都王司马颖选王衍任中军师，后任光禄大夫。永兴元年（304年）迁尚书左仆射，领吏部。光熙元年（306年）十二月，晋怀帝即位，王衍升任尚书令、司空，次年改任司徒。王衍虽然官至司徒，位居宰辅，但不以国家为首，反而日夜思索自保的计策。王衍于是向太傅东海王司马越说：「中原已经大乱，我们应当依靠方镇，要选用文武双全者任职地方首长。」及后即任命弟弟王澄为荆州刺史，族弟王敦为青州刺史。更向二人说：「荆州有长江和汉水天险，青州又东濒大海，你们二人在外而我留在朝中，可谓狡免三窟了！」王衍的举动遭当时有识之士鄙