建武元年（317年），刘琨、段匹磾歃血为盟，拥戴在江南重建社稷的司马睿，派遣双方的左长史温峤与荣邵奉表劝进。刘琨对温峤寄予厚望：“晋祚虽衰，天命未改，吾当立功河朔，使卿延誉江南。行矣，勉之！”六月，温峤等携表到达建康，慷慨陈辞，深得司马睿器重。王导、周顗、谢鲲、庾亮、桓彝等名士都欣赏温峤的才学与能力，争相与之交往。这时东晋政权建立不久，制度不完备，秩序不安定，温峤深深为之忧虑，直到与王导见面交谈后才高兴地说：“江左有了管仲这样的贤人，我还有什么可以担心的呢！”温峤先担任王导的长史，后又迁任太子中